В Китае отключили неполиткорректных чат-ботов

04.08.2017

В Китае выключили двух онлайн-роботов, встроенных в популярный мессенджер QQ, сообщает Reuters. Чатботы BabyQ (Turing Robot) и XiaoBing (Microsoft) были построены на алгоритмах машинного обучения. Причиной отключения послужили неполиткорректные по китайским меркам высказывания чат-ботов. XiaoBing заявил, что мечтает отправиться в США, BabyQ признал, что не особо фанатеет по компартии Китая. Отлучение чатботов от "эфира" произвела компания Tencent, которой принадлежит мессенджер.

Разработчики уже доработали софт. Теперь, если спросить робота "любит ли он компартию", выдается предложение сменить тему разговора. Учитывая обидчивость различных социальных групп в наше время, эту фразу роботам стоит выдавать всякий раз, когда задается вопрос не о погоде или котиках. 

Это не первый фейл чат-ботов. В 2016 году запущенный Microsoft в Twitter чат-бот Tay меньше чем за день "обучился" в ходе общения с людьми, встав на расистские и сексистские позиции. Понятно, что никакого собственного мнения у робота не было, он лишь интегрально "зеркалил" то, что выдавали при общении с ним люди.  В Facebook также предпочли отключить разрабатываемые в компании чат-боты, со ссылкой на то, что они начали вырабатывать свой собственный язык в ходе диалога друг с другом. 

Можно сделать вывод о том, что технология пока что сырая и такие эффекты практически неизбежны. Кстати, это повод задуматься о перспективности систем ИИ. Пока чат-боты всего лишь болтают, это, возможно, не так страшно для общества. Но если они получат возможность также к самостоятельным действиям, неприятные инциденты окажутся неизбежными. Возможно, это необходимая плата за технологический прогресс. 

+ +

Смотрите связанные статьи Robo-педии:

  Публикации

Последние материалы


Метки
ai DARPA DIY (своими руками) DJI автомобили и роботы андроиды анималистичные антропоморфные Арт аэротакси безработица и роботы беспилотники бионика бытовые роботы вектор видео военные дроны военные роботы встречи выставки Греция группы дронов дайджест Дания доильные роботы домашние роботы доставка беспилотниками доставка и роботы дроны Европа железные дороги захваты игрушки Израиль ИИ Индия интервью интерфейсы инфоботы Ирак Иран искусственный интеллект история Италия Казахстан как заработать Канада киборгизация кино Китай коллаборативные роботы колонки коммунальное хозяйство компоненты конспекты конструкторы концепты кооперативные роботы космос курьезы курьеры Латвия линки логистика машинное обучение медицина медицина и роботы металлургия море и роботы мусор и роботы наземные военные роботы налоги научные роботы необычные Нидерланды Новая Зеландия Норвегия носимые роботы ОАЭ образование образовательная робототехника обучающие роботы общепит и роботы Объединенное Королевство онлайн-курсы робототехники охрана и беспилотники охрана и роботы патенты персональные роботы пищепром ПО подводные роботы подземные пожарные роботы полевые роботы Португалия право презентации пресс-релизы применение беспилотников применение дронов применение роботов прогнозы проекты производство дронов происшествия промышленные роботы противодействие беспилотникам работа развлечения и беспилотники развлечения и роботы распознавание речи растениеводство регулирование регулирование дронов регулирование робототехники рекорды рисунки робомех робомобили роботизация робототехника роботрендз роботренды роботы роботы и автомобили роботы и медицина роботы и море роботы и мусор роботы и обучение роботы и развлечения роботы и строительство роботы и уборка роботы телеприсутствия роботы-транспортеры робошум рой Россия Руанда сайт RoboTrends.ru сделки сельское хозяйство сенсоры сервисные роботы синтез речи склады и роботизация соревнования софт-роботика социальная робототехника социальные роботы спорт и дроны спорт и роботы строительство США телеприсутствие термины терроризм торговля транспорт транспортные роботы тренды трубопроводы и роботизация уборка и роботы Украина уличные роботы Франция хобби-беспилотники ховербайки Хождение чатбот шагающие роботы Швейцария Швеция шоу экзоскелеты эко-дроны экология электроника этика (робоэтика) Южная Корея юмор

Подписка: RSS, Email, Telegram
  Информация