В Google задумались над оснащением будущих систем ИИ аварийным рубильником

04.06.2016
handsome_robot

В последнее время сторонники и противники искусственного интеллекта разделились на два лагеря. К одному примкнули крупные корпорации, включая Google, Facebook, Amazon и Microsoft, вкладывающие в разработку ИИ все больше средств и усилий, в то время как наиболее яркие представители другого, Стивен Хокинг и Илон Маск, заявляют о том, что подобные исследования опасны, что это современный способ “вызвать демона”.

Но вот и в принадлежащей Google лондонской компании DeepMind, приобретенной в 2014 году за $580 млн, задумались о мерах безопасности, на случай, если людям потребуется “восстановить контроль над ИИ прежде, чем наступят необратимые последствия”. Пока речь идет не о робоапокалипсисе и вариациях “Скайнета”, а о более приземленных системах, использующих алгоритмы обучения - например, фабричных роботах. К формированию документа приложили усилия представители Института будущего человечества, входящего в состав Оксфордского университета.

В публикации “Safely Interruptible Agents” рассматриваются способы принудительного отключения ИИ, а также необходимость формирования для него “большой красной кнопки”. При этом, программам будет запрещено препятствовать своему отключению или искать способы для его предотвращения.

Некоторые существующие алгоритмы, например, Q-learning легко прерываемы, причем это не наносит ущерба ИИ. Другие, как Sarsa, придется модифицировать, чтобы в них также появилась “большая красная кнопка”. Впрочем, у разработчиков документа нет уверенности в том, что любой известный алгоритм может быть без проблем модифицирован таким образом.

В DeepMind работают над созданием ИИ, который был бы способен на решение различных задач, тогда как в Институте будущего человечества исследуют потенциальные угрозы со стороны ИИ для нашего существования. В Институте уверены, что в ближайшие 100 лет разумность ИИ превзойдет разумность человека и станет возможной ситуация, что ИИ окажется враждебен человечеству.

В DeepMind также осознают опасность своих разработок и когда Google покупала эту компанию, ее владельцы договорились о создании комитета по этике, который приглядывает за тем, куда идут разработки ИИ.

В настоящее время, подобные меры кажутся явной перестраховкой - величайшее достижение искусственного интеллекта современности - это победы над человеком в некоторых настольных играх - в го, шахматы и шашки. Впрочем, ряд исследователей предупреждают: достаточно создать интеллект с возможностями, близкими к человеческим, и он будет быстро  совершенствовать себя до тех пор, пока не станет чем-то для нас непостижимым. А о том, какие действия решит предпринять такой “разум” гадать бесполезно. Во всяком случае, меры предосторожности кажутся нелишними.

Источник: gizmodo.com
Источник иллюстраций: gizmodo.com

  Публикации

Последние материалы

Метки
AGV ai AMR ARM BVLOS DARPA DIY DIY (своими руками) DJI eVTOL Lely pick-and-place RPA VTOL аватары авиация автоматизация автомобили автомобили и роботы автономные агродроны аддитивные технологии андроиды анималистичные АНПА антропоморфные Арт архитектура аэромобили аэропорты аэротакси безопасность безработица и роботы беспилотники бионика бионические больницы будущее бытовые роботы вакансии вектор вертолеты видео внедрения роботов внутритрубная диагностика водородные военные военные дроны военные роботы встречи высотные выставки газ Германия глайдеры горнодобыча городское хозяйство господдержка гостиницы готовка еды Греция грузоперевозки группы дронов гуманоидные дайджест Дания доение роботизированное доильные роботы дом домашние роботы доставка доставка беспилотниками доставка и роботы дронизация дронопорты дроны Европа еда железные дороги животноводство жилище захваты земледелие игрушки идеи измерения Израиль ИИ ИИ - вкратце инвентаризация Индия Иннополис инспекция интервью интерфейсы инфоботы Ирак Иран искусственный интеллект испытания исследования история Италия Казахстан как заработать Канада квадрупеды кейсы киборгизация кино Китай коботы коллаборативные роботы колонки коммунальное хозяйство компании компоненты конвертопланы конкурсы конспекты конструкторы концепты кооперативные роботы космос культура курьезы курьеры лабораторные роботы Латвия лесоустройство лизинг линки логистика люди и роботы магазины машинное обучение медицина медицина и роботы металлургия мнения мобильные роботы модульные мойка море морские мусор мусор и роботы навигация надводные наземные военные роботы налоги наука научные научные роботы необычные нефтегаз нефть Нидерланды Новая Зеландия Норвегия носимые роботы ОАЭ образование образовательная робототехника обучающие роботы общепит общепит и роботы общество Объединенное Королевство октокоптеры онлайн-курсы робототехники опрыскивание офисные охрана и беспилотники охрана и роботы парники патенты персональные роботы пищепром пляжи ПО подводные подводные роботы подземные пожарные пожарные роботы поиск полевые роботы полезные роботы полиция помощники Португалия порты последняя миля потребительские роботы почта право презентации пресс-релизы применение беспилотников применение дронов применение роботов прогнозы проекты производство производство дронов происшествия промышленность промышленные роботы противодействие беспилотникам псевдоспутники работа развлечения и беспилотники развлечения и роботы разгрузка разработка распознавание речи растениеводство регулирование регулирование дронов регулирование робототехники рекорды рисунки робомех робомобили роботакси роботизация робототехника роботрендз роботренды роботы роботы и автомобили роботы и мусор роботы и обучение роботы и развлечения роботы и строительство роботы телеприсутствия роботы-транспортеры робошум рои рой Россия Руанда сад садоводство сайт RoboTrends.ru сбор урожая сборка заказов сварка связь сделки сельское хозяйство сенсоры сервисные роботы синтез речи склады склады и роботизация смартроботы соревнования сортировка сотрудничество софт-роботика социальная робототехника социальные социальные роботы спорт спорт и дроны спорт и роботы спутниковая статистика строительство судовождение США такси телеком телеприсутствие теплицы теплосети термины терроризм тесты технологии техносказки тилтроторы ТНПА торговля транспорт транспортные роботы тренды трубопроводы трубопроводы и роботизация уборка Украина уличные роботы участники рынка фотограмметрия Франция химия хобби-беспилотники ховербайки Хождение цифры частоты чатбот шагающие роботы Швейцария Швеция шоу экзоскелеты эко-дроны экология электроника энергетика этика (робоэтика) Южная Корея юмор Япония

Подписка: RSS, Email, Telegram
  Информация