"Береженого Бог бережет"
Google разрабатывает «аварийную кнопку» предотвращения потенциального восстания машин.
Компания Google хочет свести к нулю все потенциальные риски для человечества, связанные с появлением Skynet полноценного искусственного интеллекта, которого столь сильно «опасаются» Илон Маск и Стивен Хокинг. На днях поисковый гигант опубликовал документ, в котором подробно расписана работа его подразделения Deep Mind в направлении создания волшебной «кнопки» отмены восстания машин.
Говоря конкретнее, специалисты компании Deep Mind, ранее создавшей ИИ, которому удалось победить людей в го, разработала защитный фреймворк. Его главная задача – не дать искусственному разуму выяснить, как можно предотвратить или вызвать вымирание человечества вне зависимости от его действий. Последнему фактору отводят особо высокий приоритет, так что за послушание предусмотрены специальные награды.
«Процедура безопасного завершения работы может пригодиться для восстановления контроля над роботом, который ведет себя ненадлежащим образом, поможет выйти из щекотливой ситуации, или стать временным средством достижения той или иной цели», – пишут исследователи.
Специалисты Deep Mind не уверены, что разрабатываемые ими защитные механизмы будут совместимы со всеми алгоритмами. Главным образом это касается поисковой политики, являющейся важной частью машинного обучения. Судя по всему, существует еще немало нерешенных задач на пути к внедрению подобной системы.
Компания Google хочет свести к нулю все потенциальные риски для человечества, связанные с появлением Skynet полноценного искусственного интеллекта, которого столь сильно «опасаются» Илон Маск и Стивен Хокинг. На днях поисковый гигант опубликовал документ, в котором подробно расписана работа его подразделения Deep Mind в направлении создания волшебной «кнопки» отмены восстания машин.
Говоря конкретнее, специалисты компании Deep Mind, ранее создавшей ИИ, которому удалось победить людей в го, разработала защитный фреймворк. Его главная задача – не дать искусственному разуму выяснить, как можно предотвратить или вызвать вымирание человечества вне зависимости от его действий. Последнему фактору отводят особо высокий приоритет, так что за послушание предусмотрены специальные награды.
«Процедура безопасного завершения работы может пригодиться для восстановления контроля над роботом, который ведет себя ненадлежащим образом, поможет выйти из щекотливой ситуации, или стать временным средством достижения той или иной цели», – пишут исследователи.
Специалисты Deep Mind не уверены, что разрабатываемые ими защитные механизмы будут совместимы со всеми алгоритмами. Главным образом это касается поисковой политики, являющейся важной частью машинного обучения. Судя по всему, существует еще немало нерешенных задач на пути к внедрению подобной системы.
Комментарии
Отправить комментарий