Дилеммы робототехники и беспилотные автомобили, способные убить человека

15.03.2016
handsome_robot

Представим себе беспилотный автомобиль с четырьмя пассажирами, который несется навстречу бетонной стене. Все люди, находящиеся внутри, неизбежно погибнут. Но что если автоматика в последний момент изменит курс и спасет пассажиров, задавив случайного пешехода, проходящего мимо? Вправе ли системы искусственного интеллекта принимать такое решение? Такие вопросы изучают сегодня специалисты по робоэтике и разработчики систем ИИ.

Представитель Университета Тафтса Маттиас Шуйц (Matthias Scheutz) опросил несколько групп людей по поводу их отношения к этой дилемме. Ответы различались в зависимости от того, находится ли за рулем человек или робот.

По мнению многих людей, в том, что робот примет решение о том, кого спасти, а кого обречь на смерть, есть что-то неверное с точки зрения морали и этики.

Одно из самых легких решений проблемы - оставить все как есть. Но правилен ли такой подход? Ведь в ряде случаев даже минимальное вмешательство и отступление от этических норм могло бы спасти десятки жизней. Конечно, в ближайшие годы никакие машины не получат “мораль” в том виде, в котором понимаем её мы. Роботы в любом случае не будут руководствоваться моральными критериями, присущими человеку, однако смогут выполнять программу, соответствующую этическим нормам, заложенным разработчиками - относительными, как и у любого человека.

Разумеется, машины не могут нести ответственности ни за свой выбор, ни за свои действия. Мир не предлагает простых ответов на вопрос, что делать в каждой конкретной ситуации, этические проблемы постоянно возникают в людском обществе. Как правило, они уникальны для каждого конкретного случая.

Тем не менее, эра беспилотных автомобилей уже на пороге, поэтому роботам необходимо предоставить возможность принимать важные, а порой и весьма спорные решения. Если робот понял, что не успеет вовремя остановиться, какое действие он должен предпринять? Нужно ли продолжать торможение, примитивно отрабатывая алгоритм, следует ли свернуть в сторону, в случае, если это грозит столкновением с другим транспортным средством? Когда среди результатов выбора отсутствуют положительные исходы, какой из оставшихся вариантов счесть оптимальным?

Беспилотный автомобиль можно научить всегда следовать букве закона, не превышать скорость и т.д. - но даже эти ограничения могут поставить под удар чью-то жизнь, тогда как более “гибкие” алгоритмы позволили бы избежать этого, в нужный момент совершив “незначительное” правонарушение.

Вполне возможно, что многие из тех, кто сейчас мечтает о собственном беспилотном автомобиле, не оценили бы рекламную кампанию, в которой прозвучало бы следующее заявление: “в случае, если у робота будет выбор - врезаться в другой автомобиль и убить четверых людей, или свернуть в кювет, лишив жизни собственного водителя, который мог ничего и не нарушать, он выберет второй вариант”... Не стоит думать, что речь идет о “роботах-убийцах” - моральная ответственность за последствия ляжет на плечи инженеров и программистов, создавших соответствующий алгоритм.  

Источник: brisbanetimes.com.au
Источник иллюстраций: brisbanetimes.com.au

  Публикации

Последние материалы

Метки
AGV ai AMR ARM BVLOS DARPA DIY DIY (своими руками) DJI eVTOL Lely pick-and-place RPA VTOL аватары авиация автоматизация автомобили автомобили и роботы автономные агродроны аддитивные технологии андроиды анималистичные АНПА антропоморфные Арт архитектура аэромобили аэропорты аэротакси безопасность безработица и роботы беспилотники бионика бионические больницы будущее бытовые роботы вакансии вектор вертолеты видео внедрения роботов внутритрубная диагностика водородные военные военные дроны военные роботы встречи высотные выставки газ Германия глайдеры горнодобыча городское хозяйство господдержка гостиницы готовка еды Греция грузоперевозки группы дронов гуманоидные дайджест Дания доение роботизированное доильные роботы дом домашние роботы доставка доставка беспилотниками доставка и роботы дронизация дронопорты дроны Европа еда железные дороги животноводство жилище захваты земледелие игрушки идеи измерения Израиль ИИ ИИ - вкратце инвентаризация Индия Иннополис инспекция интервью интерфейсы инфоботы Ирак Иран искусственный интеллект испытания исследования история Италия Казахстан как заработать Канада квадрупеды кейсы киборгизация кино Китай коботы коллаборативные роботы колонки коммунальное хозяйство компании компоненты конвертопланы конкурсы конспекты конструкторы концепты кооперативные роботы космос культура курьезы курьеры лабораторные роботы Латвия лесоустройство лизинг линки логистика люди и роботы магазины машинное обучение медицина медицина и роботы металлургия мнения мобильные роботы модульные мойка море морские мусор мусор и роботы навигация надводные наземные военные роботы налоги наука научные научные роботы необычные нефтегаз нефть Нидерланды Новая Зеландия Норвегия носимые роботы ОАЭ образование образовательная робототехника обучающие роботы общепит общепит и роботы общество Объединенное Королевство октокоптеры онлайн-курсы робототехники опрыскивание офисные охрана и беспилотники охрана и роботы парники патенты персональные роботы пищепром пляжи ПО подводные подводные роботы подземные пожарные пожарные роботы поиск полевые роботы полезные роботы полиция помощники Португалия порты последняя миля потребительские роботы почта право презентации пресс-релизы применение беспилотников применение дронов применение роботов прогнозы проекты производство производство дронов происшествия промышленность промышленные роботы противодействие беспилотникам псевдоспутники работа развлечения и беспилотники развлечения и роботы разгрузка разработка распознавание речи растениеводство регулирование регулирование дронов регулирование робототехники рекорды рисунки робомех робомобили роботакси роботизация робототехника роботрендз роботренды роботы роботы и автомобили роботы и мусор роботы и обучение роботы и развлечения роботы и строительство роботы телеприсутствия роботы-транспортеры робошум рои рой Россия Руанда сад садоводство сайт RoboTrends.ru сбор урожая сборка заказов сварка связь сделки сельское хозяйство сенсоры сервисные роботы синтез речи склады склады и роботизация смартроботы соревнования сортировка сотрудничество софт-роботика социальная робототехника социальные социальные роботы спорт спорт и дроны спорт и роботы спутниковая статистика строительство судовождение США такси телеком телеприсутствие теплицы теплосети термины терроризм тесты технологии техносказки тилтроторы ТНПА торговля транспорт транспортные роботы тренды трубопроводы трубопроводы и роботизация уборка Украина уличные роботы участники рынка фотограмметрия Франция химия хобби-беспилотники ховербайки Хождение цифры частоты чатбот шагающие роботы Швейцария Швеция шоу экзоскелеты эко-дроны экология электроника энергетика этика (робоэтика) Южная Корея юмор Япония

Подписка: RSS, Email, Telegram
  Информация