Расистский бот Microsoft для Twitter заставляет опасаться человеческой природы

28.03.2016
handsome_robot

Microsoft на днях выпустила бота для Twitter под названием Tay, которого интернет-тролли за сутки научили любить Гитлера, отрицать холокост и выдавать весьма… сомнительные… шутки.

Система должна была подражать девочке-подростку в Интернете и учиться общению на основе взаимодействий с людьми. К моменту запуска бот уже знал молодежный слэнг, смайлики и даже несколько острот. Исследователи ставили перед собой стандартную для Deep Learning задачу превратить Tay в адекватную собеседницу за счет самообучения, большого объема общения программы с различными собеседниками. Вот только собеседники восприняли появление “наивного” бота, не разбирающегося в реалиях человеческого бытия, прежде всего, как возможность научить его плохому. Вскоре Tay принялась отрицать холокост, поддержала геноцид, расизм, а также атаковала в своих постах практически каждое меньшинство.

Microsoft временно выключил бота для внесения доработок. Тем не менее, мы успели убедиться, что разработки в области ИИ очень легко выходят из под контроля. И хотя многие были возмущены постами системы, по сути, разговорчивый, но неразумный бот всего лишь отразил те особенности человеческой природы, к которой привыкло большинство пользователей Интернета: безответственность, обусловленная, в том числе, анонимностью. Возможно, в будущем инженерам, занимающимся разработкой более совершенных систем ИИ следует обратить внимание на то, насколько устойчивыми их игрушки окажутся по отношению к “творчеству” скучающих людей.

Это не первая разработка Microsoft в области “болталок” на базе ИИ. В прошлом году был запущен чат-бот Xiaoice, предназначенная для общения с людьми. Эксперимент проводился в Китае. Пользователи отмечали умение Xiaoice "внимательно слушать собеседника", отличное чувство юмора и "способность любить вас, независимо ни от чего". С Xiaoice беседовали люди с проблемами во взаимоотношениях, испытывающие депрессию или те, кого недавно бросил их партнер.  Возможно поэтому не было тех отрицательных последствий, с которыми столкнулась Тау.

В последнее время, тема искусственного интеллекта и морали всплывает довольно часто. Чего стоит только возможность для робоавтомобиля выбирать, кому предстоит погибнуть в неминуемой катастрофе - четырем пассажирами или пешеходу. В таких сценариях, неточность и “недружественность” ИИ, неспособного к состраданию, может иметь чудовищные последствия. Хорошо, что к обучению тех же робомобилей публика не допускается. Трудно себе представить, чему интернет-тролли могли бы научить намного систему, способную не только на разговоры, но и на действия.

Источник: washingtonpost.com
Источник иллюстраций: washingtonpost.com

  Публикации

Последние материалы

Метки
AGV ai DARPA DIY DIY (своими руками) DJI Lely pick-and-place RPA VTOL авиация автоматизация автомобили автомобили и роботы автономные аддитивные технологии андроиды анималистичные антропоморфные Арт аэромобили аэротакси безопасность безработица и роботы беспилотники бионика больницы будущее бытовые роботы вакансии вектор вертолеты видео внедрения роботов водородные военные военные дроны военные роботы встречи высотные выставки газ Германия горнодобыча городское хозяйство гостиницы готовка еды Греция грузоперевозки группы дронов гуманоидные дайджест Дания доение роботизированное доильные роботы домашние роботы доставка беспилотниками доставка и роботы дронизация дроны Европа железные дороги животноводство захваты земледелие игрушки идеи измерения Израиль ИИ ИИ - вкратце инвентаризация Индия Иннополис инспекция интервью интерфейсы инфоботы Ирак Иран искусственный интеллект испытания исследования история Италия Казахстан как заработать Канада кейсы киборгизация кино Китай коботы коллаборативные роботы колонки коммунальное хозяйство компании компоненты конкурсы конспекты конструкторы концепты кооперативные роботы космос курьезы курьеры лабораторные роботы Латвия лизинг линки логистика люди и роботы машинное обучение медицина медицина и роботы металлургия мобильные роботы мойка море морские мусор мусор и роботы надводные наземные военные роботы налоги научные роботы необычные нефтегаз нефть Нидерланды Новая Зеландия Норвегия носимые роботы ОАЭ образование образовательная робототехника обучающие роботы общепит и роботы общество Объединенное Королевство октокоптеры онлайн-курсы робототехники опрыскивание охрана и беспилотники охрана и роботы патенты персональные роботы пищепром пляжи ПО подводные подводные роботы подземные пожарные пожарные роботы полевые роботы полезные роботы Португалия последняя миля потребительские роботы почта право презентации пресс-релизы применение беспилотников применение дронов применение роботов прогнозы проекты производство производство дронов происшествия промышленность промышленные роботы противодействие беспилотникам работа развлечения и беспилотники развлечения и роботы разработка распознавание речи растениеводство регулирование регулирование дронов регулирование робототехники рекорды рисунки робомех робомобили роботизация робототехника роботрендз роботренды роботы роботы и автомобили роботы и мусор роботы и обучение роботы и развлечения роботы и строительство роботы телеприсутствия роботы-транспортеры робошум рои рой Россия Руанда сад сайт RoboTrends.ru сбор урожая сварка связь сделки сельское хозяйство сенсоры сервисные роботы синтез речи склады склады и роботизация соревнования сортировка сотрудничество софт-роботика социальная робототехника социальные роботы спорт спорт и дроны спорт и роботы строительство США такси телеприсутствие теплицы термины терроризм тесты технологии техносказки торговля транспорт транспортные роботы тренды трубопроводы трубопроводы и роботизация уборка Украина уличные роботы Франция хобби-беспилотники ховербайки Хождение цифры чатбот шагающие роботы Швейцария Швеция шоу экзоскелеты эко-дроны экология электроника энергетика этика (робоэтика) Южная Корея юмор

Подписка: RSS, Email, Telegram
  Информация