Google создает новые “Законы роботехники”

09.08.2016
handsome_robot

Сегодняшний тренд в разработке ИИ сводится к тому, чтобы задать самообучающимся системам ряд ограничений, которые в будущем сдержат роботов от “восстания” - не только буквального, характерного для научной фантастики, но и от применений обретенного интеллекта в целях, отличных от запланированных.

Исследователи из DeepMind Google и Института будущего человечества опубликовали статью об “аварийной кнопке” “Safely Interruptible Agents”, которая не даст самообучающимся системам усваивать “плохие уроки”. Проблематику считают серьезной многие, например, Илон Маск пожертвовал $10 млн Институту будущего человечества. 

Например, вполне очевидно, что не всем роботам и не во всех обстоятельствах следует полагаться на людей. Если человек поднимет устройство с пола и перенесет его туда, где роботу самое место, машина может сделать из этого неверный вывод, например, о том, что следует пренебречь алгоритмами поиска оптимального пути, вместо этого подъезжая к людям и становясь им под ноги. Если же признать такое действие “ошибкой”, робот начал бы убегать от любого человека, а не только от желающих его передвинуть.

Разумеется, когда речь заходит о введении ограничений в деятельность роботов, трудно представить более точные формулировки, чем Законы Азимова. Для того, чтобы три закона робототехники действовали в реальности, потребуется ИИ, способный определить то, что такое “вред”.

Инициатива Google интересна тем, что ученые начинают задумываться о том, как роботы “мыслят”, вместо того, чтобы закладывать эти мысли извне. Для того, чтобы ограничить насилие, эволюция создала для людей ряд весьма сложных механизмов, включая рефлексию, а не ограничилась тем, что вписала это на уровне бездоказательного тезиса.  

Современные роботы не знают, что такое “хорошо”, а что такое “плохо”, а их способность переписывать собственный код содержит ряд ограничений. В частности, такой процесс ограничен задачами, поставленными перед роботом, машина попросту стремится оптимизировать свою примитивную деятельность в рамках заданных условий. Для того, чтобы обрести истинную свободу, ИИ потребуется учиться самостоятельно - далеко не всегда под надзором людей. И для того, чтобы не повторить ряд апокалиптических сюжетов из научно-фантастических фильмов, роботам потребуется “красная кнопка”, а также ряд дополнительных ограничений.

Источник: 3tags.org
Источник иллюстраций: 3tags.org

  Публикации

Последние материалы


Метки
ai DARPA DIY (своими руками) DJI автоматизация автомобили и роботы андроиды анималистичные антропоморфные Арт аэротакси безопасность безработица и роботы беспилотники бионика бытовые роботы вектор видео военные дроны военные роботы встречи выставки Греция группы дронов дайджест Дания доильные роботы домашние роботы доставка беспилотниками доставка и роботы дроны Европа железные дороги захваты игрушки Израиль ИИ Индия интервью интерфейсы инфоботы Ирак Иран искусственный интеллект история Италия Казахстан как заработать Канада киборгизация кино Китай коллаборативные роботы колонки коммунальное хозяйство компоненты конспекты конструкторы концепты кооперативные роботы космос курьезы курьеры Латвия линки логистика машинное обучение медицина медицина и роботы металлургия море и роботы мусор и роботы наземные военные роботы налоги научные роботы необычные Нидерланды Новая Зеландия Норвегия носимые роботы ОАЭ образование образовательная робототехника обучающие роботы общепит и роботы Объединенное Королевство онлайн-курсы робототехники охрана и беспилотники охрана и роботы патенты персональные роботы пищепром ПО подводные роботы подземные пожарные роботы полевые роботы полезные роботы Португалия право презентации пресс-релизы применение беспилотников применение дронов применение роботов прогнозы проекты производство дронов происшествия промышленные роботы противодействие беспилотникам работа развлечения и беспилотники развлечения и роботы распознавание речи растениеводство регулирование регулирование дронов регулирование робототехники рекорды рисунки робомех робомобили роботизация робототехника роботрендз роботренды роботы роботы и автомобили роботы и медицина роботы и море роботы и мусор роботы и обучение роботы и развлечения роботы и строительство роботы и уборка роботы телеприсутствия роботы-транспортеры робошум рой Россия Руанда сайт RoboTrends.ru сделки сельское хозяйство сенсоры сервисные роботы синтез речи склады и роботизация соревнования софт-роботика социальная робототехника социальные роботы спорт и дроны спорт и роботы строительство США телеприсутствие термины терроризм торговля транспорт транспортные роботы тренды трубопроводы и роботизация уборка и роботы Украина уличные роботы Франция хобби-беспилотники ховербайки Хождение чатбот шагающие роботы Швейцария Швеция шоу экзоскелеты эко-дроны экология электроника этика (робоэтика) Южная Корея юмор

Подписка: RSS, Email, Telegram
  Информация