ИИ постигает людские эмоции. Это плохо?

17.01.2020

Представители института AI Now при Нью-Йоркском университете опубликовали ежегодный отчет о социальных последствиях, связанных с внедрением систем с элементами искусственного интеллекта, и призвали к запрету отдельных алгоритмов, способных распознавать людские эмоции.

По мнению американских исследователей, технологии распознавания эмоций не должны использоваться в областях, в которых программные алгоритмы смогут оказывать влияние на судьбы людей - например, в ходе собеседований.

Алгоритмы для анализа человеческой мимики существуют по меньшей мере с 2003 года - в последние годы, внедрение технологий машинного обучения существенно повысило их точность. Разумеется, о тотальном понимании человеческих чувств не идет и речи - львиная доля индикаторов эмоционального состояния человека находит выражение в контексте деятельности и местонахождения. 

Ряд компаний экспериментируют с анализом видео, собранного в ходе собеседований - вероятнее всего, в ближайшие годы появятся системы, способные повлиять (а то и принять соответствующее решение) на продвижения сотрудников по карьерной лестнице, их заработную плату и назначения. Опасения вызывает возможность использования потенциально-предвзятых технологий в ходе допросов подозреваемых.

Большинство разработчиков стремятся соблюдать принципы FATE (справедливость, ответственность, прозрачность и этичность) - между тем, ряд алгоритмов “научились” дискриминировать людей по тем или иным признакам, например, индексируя чернокожих граждан как “горилл”, жителей стран Азии - как “моргнувших людей” и высказывая предположения о том, что улыбающиеся темнокожие люди на самом деле злятся.

Помимо потенциально опасных применений, исследователи обратили внимание на такие положительные “способности” ИИ, как прогнозирование и предотвращение суицидов и выявление пьяных водителей.

Вероятнее всего, будущее принесет нам связку “человек-ИИ”, в рамках которой алгоритмы возьмут на себя принятие большинства решений в отраслях, связанных с рутиной и легко поддающихся автоматизации. В остальных вопросах, алгоритмы будут оказывать людям необходимую поддержку - окончательные решения и рассмотрение апелляций в любом случае останутся за человеком.


По материалам: theconversation.com

Смотрите связанные статьи Robo-педии:

  Публикации

Последние материалы

Метки
AGV ai DARPA DIY DIY (своими руками) DJI Lely pick-and-place RPA VTOL автоматизация автомобили автомобили и роботы автономные аддитивные технологии андроиды анималистичные антропоморфные Арт аэротакси безопасность безработица и роботы беспилотники бионика больницы будущее бытовые роботы вакансии вектор вертолеты видео внедрения роботов военные военные дроны военные роботы встречи высотные выставки газ Германия горнодобыча городское хозяйство гостиницы готовка еды Греция грузоперевозки группы дронов гуманоидные дайджест Дания доение роботизированное доильные роботы домашние роботы доставка беспилотниками доставка и роботы дронизация дроны Европа железные дороги животноводство захваты земледелие игрушки идеи измерения Израиль ИИ ИИ - вкратце инвентаризация Индия Иннополис инспекция интервью интерфейсы инфоботы Ирак Иран искусственный интеллект исследования история Италия Казахстан как заработать Канада кейсы киборгизация кино Китай коботы коллаборативные роботы колонки коммунальное хозяйство компании компоненты конкурсы конспекты конструкторы концепты кооперативные роботы космос курьезы курьеры лабораторные роботы Латвия лизинг линки логистика люди и роботы машинное обучение медицина медицина и роботы металлургия мобильные роботы мойка море морские мусор мусор и роботы надводные наземные военные роботы налоги научные роботы необычные нефтегаз нефть Нидерланды Новая Зеландия Норвегия носимые роботы ОАЭ образование образовательная робототехника обучающие роботы общепит и роботы общество Объединенное Королевство онлайн-курсы робототехники опрыскивание охрана и беспилотники охрана и роботы патенты персональные роботы пищепром пляжи ПО подводные подводные роботы подземные пожарные пожарные роботы полевые роботы полезные роботы Португалия потребительские роботы почта право презентации пресс-релизы применение беспилотников применение дронов применение роботов прогнозы проекты производство производство дронов происшествия промышленность промышленные роботы противодействие беспилотникам работа развлечения и беспилотники развлечения и роботы разработка распознавание речи растениеводство регулирование регулирование дронов регулирование робототехники рекорды рисунки робомех робомобили роботизация робототехника роботрендз роботренды роботы роботы и автомобили роботы и мусор роботы и обучение роботы и развлечения роботы и строительство роботы телеприсутствия роботы-транспортеры робошум рои рой Россия Руанда сад сайт RoboTrends.ru сбор урожая сварка связь сделки сельское хозяйство сенсоры сервисные роботы синтез речи склады склады и роботизация соревнования сортировка сотрудничество софт-роботика социальная робототехника социальные роботы спорт спорт и дроны спорт и роботы строительство США такси телеприсутствие теплицы термины терроризм тесты технологии техносказки торговля транспорт транспортные роботы тренды трубопроводы трубопроводы и роботизация уборка Украина уличные роботы Франция хобби-беспилотники ховербайки Хождение чатбот шагающие роботы Швейцария Швеция шоу экзоскелеты эко-дроны экология электроника энергетика этика (робоэтика) Южная Корея юмор

Подписка: RSS, Email, Telegram
  Информация