Расистский бот Microsoft для Twitter заставляет опасаться человеческой природы

28.03.2016
handsome_robot

Microsoft на днях выпустила бота для Twitter под названием Tay, которого интернет-тролли за сутки научили любить Гитлера, отрицать холокост и выдавать весьма… сомнительные… шутки.

Система должна была подражать девочке-подростку в Интернете и учиться общению на основе взаимодействий с людьми. К моменту запуска бот уже знал молодежный слэнг, смайлики и даже несколько острот. Исследователи ставили перед собой стандартную для Deep Learning задачу превратить Tay в адекватную собеседницу за счет самообучения, большого объема общения программы с различными собеседниками. Вот только собеседники восприняли появление “наивного” бота, не разбирающегося в реалиях человеческого бытия, прежде всего, как возможность научить его плохому. Вскоре Tay принялась отрицать холокост, поддержала геноцид, расизм, а также атаковала в своих постах практически каждое меньшинство.

Microsoft временно выключил бота для внесения доработок. Тем не менее, мы успели убедиться, что разработки в области ИИ очень легко выходят из под контроля. И хотя многие были возмущены постами системы, по сути, разговорчивый, но неразумный бот всего лишь отразил те особенности человеческой природы, к которой привыкло большинство пользователей Интернета: безответственность, обусловленная, в том числе, анонимностью. Возможно, в будущем инженерам, занимающимся разработкой более совершенных систем ИИ следует обратить внимание на то, насколько устойчивыми их игрушки окажутся по отношению к “творчеству” скучающих людей.

Это не первая разработка Microsoft в области “болталок” на базе ИИ. В прошлом году был запущен чат-бот Xiaoice, предназначенная для общения с людьми. Эксперимент проводился в Китае. Пользователи отмечали умение Xiaoice "внимательно слушать собеседника", отличное чувство юмора и "способность любить вас, независимо ни от чего". С Xiaoice беседовали люди с проблемами во взаимоотношениях, испытывающие депрессию или те, кого недавно бросил их партнер.  Возможно поэтому не было тех отрицательных последствий, с которыми столкнулась Тау.

В последнее время, тема искусственного интеллекта и морали всплывает довольно часто. Чего стоит только возможность для робоавтомобиля выбирать, кому предстоит погибнуть в неминуемой катастрофе - четырем пассажирами или пешеходу. В таких сценариях, неточность и “недружественность” ИИ, неспособного к состраданию, может иметь чудовищные последствия. Хорошо, что к обучению тех же робомобилей публика не допускается. Трудно себе представить, чему интернет-тролли могли бы научить намного систему, способную не только на разговоры, но и на действия.

Источник: washingtonpost.com
Источник иллюстраций: washingtonpost.com

  Публикации

Последние материалы

Метки
AGV ai BVLOS DARPA DIY DIY (своими руками) DJI eVTOL Lely pick-and-place RPA VTOL аватары авиация автоматизация автомобили автомобили и роботы автономные аддитивные технологии андроиды анималистичные АНПА антропоморфные Арт архитектура аэромобили аэропорты аэротакси безопасность безработица и роботы беспилотники бионика бионические больницы будущее бытовые роботы вакансии вектор вертолеты видео внедрения роботов внутритрубная диагностика водородные военные военные дроны военные роботы встречи высотные выставки газ Германия глайдеры горнодобыча городское хозяйство господдержка гостиницы готовка еды Греция грузоперевозки группы дронов гуманоидные дайджест Дания доение роботизированное доильные роботы дом домашние роботы доставка доставка беспилотниками доставка и роботы дронизация дронопорты дроны Европа еда железные дороги животноводство жилище захваты земледелие игрушки идеи измерения Израиль ИИ ИИ - вкратце инвентаризация Индия Иннополис инспекция интервью интерфейсы инфоботы Ирак Иран искусственный интеллект испытания исследования история Италия Казахстан как заработать Канада квадрупеды кейсы киборгизация кино Китай коботы коллаборативные роботы колонки коммунальное хозяйство компании компоненты конвертопланы конкурсы конспекты конструкторы концепты кооперативные роботы космос культура курьезы курьеры лабораторные роботы Латвия лесоустройство лизинг линки логистика люди и роботы магазины машинное обучение медицина медицина и роботы металлургия мнения мобильные роботы модульные мойка море морские мусор мусор и роботы навигация надводные наземные военные роботы налоги наука научные научные роботы необычные нефтегаз нефть Нидерланды Новая Зеландия Норвегия носимые роботы ОАЭ образование образовательная робототехника обучающие роботы общепит общепит и роботы общество Объединенное Королевство октокоптеры онлайн-курсы робототехники опрыскивание офисные охрана и беспилотники охрана и роботы парники патенты персональные роботы пищепром пляжи ПО подводные подводные роботы подземные пожарные пожарные роботы поиск полевые роботы полезные роботы полиция помощники Португалия порты последняя миля потребительские роботы почта право презентации пресс-релизы применение беспилотников применение дронов применение роботов прогнозы проекты производство производство дронов происшествия промышленность промышленные роботы противодействие беспилотникам псевдоспутники работа развлечения и беспилотники развлечения и роботы разгрузка разработка распознавание речи растениеводство регулирование регулирование дронов регулирование робототехники рекорды рисунки робомех робомобили роботакси роботизация робототехника роботрендз роботренды роботы роботы и автомобили роботы и мусор роботы и обучение роботы и развлечения роботы и строительство роботы телеприсутствия роботы-транспортеры робошум рои рой Россия Руанда сад садоводство сайт RoboTrends.ru сбор урожая сборка заказов сварка связь сделки сельское хозяйство сенсоры сервисные роботы синтез речи склады склады и роботизация соревнования сортировка сотрудничество софт-роботика социальная робототехника социальные социальные роботы спорт спорт и дроны спорт и роботы спутниковая статистика строительство судовождение США такси телеком телеприсутствие теплицы теплосети термины терроризм тесты технологии техносказки тилтроторы ТНПА торговля транспорт транспортные роботы тренды трубопроводы трубопроводы и роботизация уборка Украина уличные роботы участники рынка фотограмметрия Франция химия хобби-беспилотники ховербайки Хождение цифры частоты чатбот шагающие роботы Швейцария Швеция шоу экзоскелеты эко-дроны экология электроника энергетика этика (робоэтика) Южная Корея юмор Япония

Подписка: RSS, Email, Telegram
  Информация