В Google задумались над оснащением будущих систем ИИ аварийным рубильником

04.06.2016
handsome_robot

В последнее время сторонники и противники искусственного интеллекта разделились на два лагеря. К одному примкнули крупные корпорации, включая Google, Facebook, Amazon и Microsoft, вкладывающие в разработку ИИ все больше средств и усилий, в то время как наиболее яркие представители другого, Стивен Хокинг и Илон Маск, заявляют о том, что подобные исследования опасны, что это современный способ “вызвать демона”.

Но вот и в принадлежащей Google лондонской компании DeepMind, приобретенной в 2014 году за $580 млн, задумались о мерах безопасности, на случай, если людям потребуется “восстановить контроль над ИИ прежде, чем наступят необратимые последствия”. Пока речь идет не о робоапокалипсисе и вариациях “Скайнета”, а о более приземленных системах, использующих алгоритмы обучения - например, фабричных роботах. К формированию документа приложили усилия представители Института будущего человечества, входящего в состав Оксфордского университета.

В публикации “Safely Interruptible Agents” рассматриваются способы принудительного отключения ИИ, а также необходимость формирования для него “большой красной кнопки”. При этом, программам будет запрещено препятствовать своему отключению или искать способы для его предотвращения.

Некоторые существующие алгоритмы, например, Q-learning легко прерываемы, причем это не наносит ущерба ИИ. Другие, как Sarsa, придется модифицировать, чтобы в них также появилась “большая красная кнопка”. Впрочем, у разработчиков документа нет уверенности в том, что любой известный алгоритм может быть без проблем модифицирован таким образом.

В DeepMind работают над созданием ИИ, который был бы способен на решение различных задач, тогда как в Институте будущего человечества исследуют потенциальные угрозы со стороны ИИ для нашего существования. В Институте уверены, что в ближайшие 100 лет разумность ИИ превзойдет разумность человека и станет возможной ситуация, что ИИ окажется враждебен человечеству.

В DeepMind также осознают опасность своих разработок и когда Google покупала эту компанию, ее владельцы договорились о создании комитета по этике, который приглядывает за тем, куда идут разработки ИИ.

В настоящее время, подобные меры кажутся явной перестраховкой - величайшее достижение искусственного интеллекта современности - это победы над человеком в некоторых настольных играх - в го, шахматы и шашки. Впрочем, ряд исследователей предупреждают: достаточно создать интеллект с возможностями, близкими к человеческим, и он будет быстро  совершенствовать себя до тех пор, пока не станет чем-то для нас непостижимым. А о том, какие действия решит предпринять такой “разум” гадать бесполезно. Во всяком случае, меры предосторожности кажутся нелишними.

Источник: gizmodo.com
Источник иллюстраций: gizmodo.com

  Публикации

Последние материалы


Метки
ai DARPA DIY DIY (своими руками) DJI RPA автоматизация автомобили и роботы андроиды анималистичные антропоморфные Арт аэротакси безопасность безработица и роботы беспилотники бионика будущее бытовые роботы вектор видео военные военные дроны военные роботы встречи выставки Германия горнодобыча Греция грузоперевозки группы дронов дайджест Дания доильные роботы домашние роботы доставка беспилотниками доставка и роботы дроны Европа железные дороги захваты земледелие игрушки идеи Израиль ИИ ИИ - вкратце Индия интервью интерфейсы инфоботы Ирак Иран искусственный интеллект исследования история Италия Казахстан как заработать Канада киборгизация кино Китай коллаборативные роботы колонки коммунальное хозяйство компании компоненты конспекты конструкторы концепты кооперативные роботы космос курьезы курьеры Латвия линки логистика люди и роботы машинное обучение медицина медицина и роботы металлургия море и роботы мусор и роботы наземные военные роботы налоги научные роботы необычные Нидерланды Новая Зеландия Норвегия носимые роботы ОАЭ образование образовательная робототехника обучающие роботы общепит и роботы Объединенное Королевство онлайн-курсы робототехники охрана и беспилотники охрана и роботы патенты персональные роботы пищепром ПО подводные роботы подземные пожарные роботы полевые роботы полезные роботы Португалия право презентации пресс-релизы применение беспилотников применение дронов применение роботов прогнозы проекты производство производство дронов происшествия промышленные роботы противодействие беспилотникам работа развлечения и беспилотники развлечения и роботы разработка распознавание речи растениеводство регулирование регулирование дронов регулирование робототехники рекорды рисунки робомех робомобили роботизация робототехника роботрендз роботренды роботы роботы и автомобили роботы и медицина роботы и море роботы и мусор роботы и обучение роботы и развлечения роботы и строительство роботы и уборка роботы телеприсутствия роботы-транспортеры робошум рой Россия Руанда сайт RoboTrends.ru сделки сельское хозяйство сенсоры сервисные роботы синтез речи склады и роботизация соревнования софт-роботика социальная робототехника социальные роботы спорт и дроны спорт и роботы строительство США телеприсутствие термины терроризм технологии техносказки торговля транспорт транспортные роботы тренды трубопроводы и роботизация уборка и роботы Украина уличные роботы Франция хобби-беспилотники ховербайки Хождение чатбот шагающие роботы Швейцария Швеция шоу экзоскелеты эко-дроны экология электроника этика (робоэтика) Южная Корея юмор

Подписка: RSS, Email, Telegram
  Информация
  Реклама