Дилеммы робототехники и беспилотные автомобили, способные убить человека

15.03.2016
handsome_robot

Представим себе беспилотный автомобиль с четырьмя пассажирами, который несется навстречу бетонной стене. Все люди, находящиеся внутри, неизбежно погибнут. Но что если автоматика в последний момент изменит курс и спасет пассажиров, задавив случайного пешехода, проходящего мимо? Вправе ли системы искусственного интеллекта принимать такое решение? Такие вопросы изучают сегодня специалисты по робоэтике и разработчики систем ИИ.

Представитель Университета Тафтса Маттиас Шуйц (Matthias Scheutz) опросил несколько групп людей по поводу их отношения к этой дилемме. Ответы различались в зависимости от того, находится ли за рулем человек или робот.

По мнению многих людей, в том, что робот примет решение о том, кого спасти, а кого обречь на смерть, есть что-то неверное с точки зрения морали и этики.

Одно из самых легких решений проблемы - оставить все как есть. Но правилен ли такой подход? Ведь в ряде случаев даже минимальное вмешательство и отступление от этических норм могло бы спасти десятки жизней. Конечно, в ближайшие годы никакие машины не получат “мораль” в том виде, в котором понимаем её мы. Роботы в любом случае не будут руководствоваться моральными критериями, присущими человеку, однако смогут выполнять программу, соответствующую этическим нормам, заложенным разработчиками - относительными, как и у любого человека.

Разумеется, машины не могут нести ответственности ни за свой выбор, ни за свои действия. Мир не предлагает простых ответов на вопрос, что делать в каждой конкретной ситуации, этические проблемы постоянно возникают в людском обществе. Как правило, они уникальны для каждого конкретного случая.

Тем не менее, эра беспилотных автомобилей уже на пороге, поэтому роботам необходимо предоставить возможность принимать важные, а порой и весьма спорные решения. Если робот понял, что не успеет вовремя остановиться, какое действие он должен предпринять? Нужно ли продолжать торможение, примитивно отрабатывая алгоритм, следует ли свернуть в сторону, в случае, если это грозит столкновением с другим транспортным средством? Когда среди результатов выбора отсутствуют положительные исходы, какой из оставшихся вариантов счесть оптимальным?

Беспилотный автомобиль можно научить всегда следовать букве закона, не превышать скорость и т.д. - но даже эти ограничения могут поставить под удар чью-то жизнь, тогда как более “гибкие” алгоритмы позволили бы избежать этого, в нужный момент совершив “незначительное” правонарушение.

Вполне возможно, что многие из тех, кто сейчас мечтает о собственном беспилотном автомобиле, не оценили бы рекламную кампанию, в которой прозвучало бы следующее заявление: “в случае, если у робота будет выбор - врезаться в другой автомобиль и убить четверых людей, или свернуть в кювет, лишив жизни собственного водителя, который мог ничего и не нарушать, он выберет второй вариант”... Не стоит думать, что речь идет о “роботах-убийцах” - моральная ответственность за последствия ляжет на плечи инженеров и программистов, создавших соответствующий алгоритм.  

Источник: brisbanetimes.com.au
Источник иллюстраций: brisbanetimes.com.au

  Публикации

Последние материалы


Метки
ai DARPA DIY DIY (своими руками) DJI RPA автоматизация автомобили и роботы андроиды анималистичные антропоморфные Арт аэротакси безопасность безработица и роботы беспилотники бионика будущее бытовые роботы вектор видео военные военные дроны военные роботы встречи выставки газ Германия горнодобыча Греция грузоперевозки группы дронов дайджест Дания доильные роботы домашние роботы доставка беспилотниками доставка и роботы дроны Европа железные дороги захваты земледелие игрушки идеи Израиль ИИ ИИ - вкратце Индия интервью интерфейсы инфоботы Ирак Иран искусственный интеллект исследования история Италия Казахстан как заработать Канада киборгизация кино Китай коллаборативные роботы колонки коммунальное хозяйство компании компоненты конспекты конструкторы концепты кооперативные роботы космос курьезы курьеры Латвия линки логистика люди и роботы машинное обучение медицина медицина и роботы металлургия море и роботы мусор и роботы наземные военные роботы налоги научные роботы необычные нефть Нидерланды Новая Зеландия Норвегия носимые роботы ОАЭ образование образовательная робототехника обучающие роботы общепит и роботы Объединенное Королевство онлайн-курсы робототехники охрана и беспилотники охрана и роботы патенты персональные роботы пищепром ПО подводные роботы подземные пожарные роботы полевые роботы полезные роботы Португалия право презентации пресс-релизы применение беспилотников применение дронов применение роботов прогнозы проекты производство производство дронов происшествия промышленные роботы противодействие беспилотникам работа развлечения и беспилотники развлечения и роботы разработка распознавание речи растениеводство регулирование регулирование дронов регулирование робототехники рекорды рисунки робомех робомобили роботизация робототехника роботрендз роботренды роботы роботы и автомобили роботы и медицина роботы и море роботы и мусор роботы и обучение роботы и развлечения роботы и строительство роботы и уборка роботы телеприсутствия роботы-транспортеры робошум рой Россия Руанда сайт RoboTrends.ru сделки сельское хозяйство сенсоры сервисные роботы синтез речи склады и роботизация соревнования софт-роботика социальная робототехника социальные роботы спорт и дроны спорт и роботы строительство США телеприсутствие термины терроризм технологии техносказки торговля транспорт транспортные роботы тренды трубопроводы и роботизация уборка и роботы Украина уличные роботы Франция хобби-беспилотники ховербайки Хождение чатбот шагающие роботы Швейцария Швеция шоу экзоскелеты эко-дроны экология электроника этика (робоэтика) Южная Корея юмор

Подписка: RSS, Email, Telegram
  Информация
  Реклама