ИИ научили объяснять принятые им решения

07.03.2018

ИИ, построенные на основе алгоритмов глубинного обучения, во многих случаях работают эффективно, но при этом даже их создатели не могут объяснить, почему они принимают то или иное решение. Команда разработчиков из Берклиевского университета, Университета Амстердама, подразделения исследований в области ИИ Facebook и MPI смогли научить ИИ пояснять принимаемые им решения. Для этого использован так называемый мультимодальный подход к объяснению — алгоритм ссылается на факты, которые он использовал для выбора ответа на вопрос, он также поясняет, как эти факты были интерпретированы.

Алгоритм, обученный на 18 тысячах изображений, взятых из Youtube, проверили на тесте, с которым уверенно справляются дети в возрасте 9 лет. Системе предъявлялся вопрос и изображение. ИИ выдавал ответ и мультимодальное объяснение, — и то, и другое указывало на визуальные факты, которые были задействованы для принятия решения, а также сопровождал решение текстовыми пояснениями.

ИИ справился с большинством, но не со всеми заданиями. В частности, он не сумел определить, улыбается ли человек на снимке или нет. Он также не смог отличить человека, который занимался покраской комнаты, от человека, использующего пылесос. То, что при этом ИИ объяснял свои решения, даёт разработчикам возможность узнать, почему были сформированы неверные решения. Неясно, есть ли при этом возможность как-то скорректировать систему принятия решений.

Тем не менее сам факт того, что процесс доставания кролика из шляпы теперь сопровождается объяснением, как устроен фокус, позволит людям с большим доверием относиться к использованию систем глубинного обучения. Подробнее о системе мультимодальных объяснений можно почитать здесь (англ., pdf).

Смотрите связанные статьи Robo-педии:

  Публикации

Последние материалы


Метки
ai DARPA DIY (своими руками) DJI автомобили и роботы андроиды анималистичные антропоморфные Арт аэротакси безработица и роботы беспилотники бионика бытовые роботы вектор видео военные дроны военные роботы встречи выставки Греция группы дронов дайджест Дания доильные роботы домашние роботы доставка беспилотниками доставка и роботы дроны Европа железные дороги захваты игрушки Израиль ИИ Индия интервью интерфейсы инфоботы Ирак Иран искусственный интеллект история Италия Казахстан как заработать Канада киборгизация кино Китай коллаборативные роботы колонки коммунальное хозяйство компоненты конспекты конструкторы концепты кооперативные роботы космос курьезы курьеры Латвия линки логистика машинное обучение медицина медицина и роботы металлургия море и роботы мусор и роботы наземные военные роботы налоги научные роботы необычные Нидерланды Новая Зеландия Норвегия носимые роботы ОАЭ образование образовательная робототехника обучающие роботы общепит и роботы Объединенное Королевство онлайн-курсы робототехники охрана и беспилотники охрана и роботы патенты персональные роботы пищепром ПО подводные роботы подземные пожарные роботы полевые роботы Португалия право презентации пресс-релизы применение беспилотников применение дронов применение роботов прогнозы проекты производство дронов происшествия промышленные роботы противодействие беспилотникам работа развлечения и беспилотники развлечения и роботы распознавание речи растениеводство регулирование регулирование дронов регулирование робототехники рекорды рисунки робомех робомобили роботизация робототехника роботрендз роботренды роботы роботы и автомобили роботы и медицина роботы и море роботы и мусор роботы и обучение роботы и развлечения роботы и строительство роботы и уборка роботы телеприсутствия роботы-транспортеры робошум рой Россия Руанда сайт RoboTrends.ru сделки сельское хозяйство сенсоры сервисные роботы синтез речи склады и роботизация соревнования софт-роботика социальная робототехника социальные роботы спорт и дроны спорт и роботы строительство США телеприсутствие термины терроризм торговля транспорт транспортные роботы тренды трубопроводы и роботизация уборка и роботы Украина уличные роботы Франция хобби-беспилотники ховербайки Хождение чатбот шагающие роботы Швейцария Швеция шоу экзоскелеты эко-дроны экология электроника этика (робоэтика) Южная Корея юмор

Подписка: RSS, Email, Telegram
  Информация