В Германии предложены этические правила для искинов-водителей

05.09.2017

Жизнь человека важнее, чем жизнь животного или какое-либо имущество. Никакой дискриминации в вопросе о том, кто должен выжить. Необходимы усилия по защите от хакеров. 

Это только некоторые из первого в мире набора рекомендаций и этических правил, который сфорумулирован в Германии в отношении того, как следует программировать искуственный интеллект, управляющий автономными транспортными средствами. 

Федеральный министр транспорта в августе представил отчет по теме автономных автомобилей. Он является плодом усилий так называемой Комиссии по Этике автономного вождения, панели экспертов, состоявшей из ученых и юристов. (Скачать отчет: Ethics Comission's complete report on automated and connected driving). 

В отчете отмечаются технологические достижения, которые повысили уровень автоматизации автомобилей с тем, чтобы сделать их более безопасными и снизить число аварий, но также отмечается: "В то же время, на том уровне технологий, который доступен человечеству сегодня ... будет невозможно полностью избежать аварий. Поэтому требуется принятие решений в отношении алгоритмов программного обеспечения полуавтономных и автономных систем управления".

В отчете приведено порядка 20 рекомендаций, которыми должны руководствоваться разработчики автономных систем управления транспортными средствами. По заявлению министра, правительство одобрило Кодекс. Германия стала первой страной в мире, где законодательно установлены этические нормы, которым должны соответствовать системы автоматизации вождения.

Как ожидается, это позволит немецким автопроизводителям быстрее выпустить на рынок современные системы автоматизации автомобиля, а также даст ориентиры для всего остального мира.

 

Автономное вождение более безопасно

Моральные основы на которых построены рекомендации просты - поскольку системы автономного управления транспортном будут приводить к меньшему числу смертей и ранений на дорогах, моральным императивом является переход к использованию таких систем, поскольку задача правительств - забота о гражданах.

Какие ситуации рассмотрены в рекомендациях?

Если аварию невозможно предотвратить, то согласно рекомендациям, безопасность людей должна ставиться выше, нежели безопасность животных или сохранность имущества. Система самоуправления автомобилем должна попытаться избежать столкновений, но если это невозможно, она должна действовать так, чтобы минимизировать ущерб, который будет причинен людям.

В отчете говорится о том, что некоторые решения автономной системы могут быть сомнительными с точки зрения морали.

В таких ситуациях ультимативная обязанность принятия решения и ответственность, по крайней мере, в текущем периоде, когда у водителя еще сохраняется возможность взять управление на себя, будет лежать на человеке, находящемся на месте водителя, поскольку ПО в ситуации сложного морального выбора передаст управление и принятие решения человеку. В случае, если человек не предпримет никаких действий, автопилот попытается остановить машину. В ближайшем будущем, по мере роста возможностей автономных систем, автомобили могут стать полностью автономными.

В отчете признается, что совершенные системы самоуправления пока что не созданы. Вероятность попадания в аварию управляемых бортовым ПО автомобилей не может быть снижена до нуля, но при этом она может быть меньше, чем сейчас, когда автомобилями управляют люди. 

В случае, если столкновение будет оказываться неизбежным, согласно рекомендациям, система должна действовать так, чтобы минимизировать ущерб. При этом не должно быть никакой дискриминации по возрасту, полу, расе, физическим возможностям и т.п. в отношении потенциальных жертв аварии. 

Все люди признаются равными, чтобы ПО могло решить задачу минимизации ущерба.

Такой подход позволяет избежать необходимости решения известной "проблемы вагонетки". 

 

Кто управляет?

В Рекомендациямх говорится о возможности создания полностью автономных систем, но отмечается, что технология пока что не способна справляться  с решением сложных "дилемм", когда автомобилю требуется выбирать между двумя неприемлемыми сценариями. В то же время, как ожидается, по мере совершенствования технологий, появится возможность полной автоматизации самоуправления.

Согласно отчету, в любой момент времени должно быть ясно, кто управляет автомобилем - человек или компьютер. Возможно системы автомобиля должны сканировать водительские права того, кто хочет сесть за руль, прежде чем допускать человека к управлению автомобилем того или иного класса.

На автомобиле должен быть установлен "черный ящик", подобно тому, как это делается на самолетах, который будет непрерывно записывать происходящее, включая кто или что управляет автомобилем в любой момент времени.

В случае аварии с участием автономного автомобиля, расследование должно проводиться независимым федеральным агентством с целью определения ответственных.

Водитель транспортного средства сохраняет свои права в отношении персональной информации, собранной из автомобиля. Использование этих данных третьей стороной должно осуществляться только с согласия информированного об этом владельца и не должно наносить ему ущерба.

Угроза вредоносного взлома автономной системы вождения должна быть снижена за счет использования эффективных средств безопасности. ПО должно разрабатываться с тем, чтобы обеспечивался такой уровень защиты, чтобы возможности хакинга оставались маловероятными.

Система управления транспортным средством должна оставаться эргономически оптимальной для использования человеком, как в обычных автомобилях.

Автомобиль должен автономно действовать в аварийных ситуациях, но человек должен иметь возможность взять управление (и решение) на себя в ситуациях неоднозначного морального выбора (например, решая, погибнуть самому или убить людей на пешеходном переходе).  Управление должно обеспечивать возможность плавной и быстрой передачи. 

В отчете отмечается, что общественность должна понимать принципы действия автономных транспортных средств, включая то, почему именно выбраны заложенные в Кодекс принципы. Соответствующая информация должна быть доведена до школьников, чтобы люди знали ответы на вопросы "почему?" и "как?" в отношении автономных автомобилей.

 

Хороший старт, но работа только начинается

Рекомендации будут пересмотрены через два года после начала использования. Нет сомнений, что потребуется немалая "доводка" рекомендаций по мере накопления практического опыта в ближайшие годы и десятилетия. 

Рекомендации достаточно продуманы и могут рассматриваться как юридическая основа для автопроизводителей Германии, чтобы двигаться дальше в разработке автономных систем управления автомобилями. 

Поскольку другие страны, похоже, заняли выжидательную позицию в отношении разработки аналогичного законодательства, у них появляется возможность последовать примеру Германии, и не в первый раз. Это было бы неплохо, поскольку важно, чтобы в мире наблюдался единый подход к законодательству по части автономных транспортных средств. 

+ +  

Источник: techxplore.com

  Публикации

Последние материалы

Метки
AGV ai BVLOS DARPA DIY DIY (своими руками) DJI Lely pick-and-place RPA VTOL аватары авиация автоматизация автомобили автомобили и роботы автономные аддитивные технологии андроиды анималистичные АНПА антропоморфные Арт архитектура аэромобили аэропорты аэротакси безопасность безработица и роботы беспилотники бионика больницы будущее бытовые роботы вакансии вектор вертолеты видео внедрения роботов внутритрубная диагностика водородные военные военные дроны военные роботы встречи высотные выставки газ Германия глайдеры горнодобыча городское хозяйство господдержка гостиницы готовка еды Греция грузоперевозки группы дронов гуманоидные дайджест Дания доение роботизированное доильные роботы дом домашние роботы доставка доставка беспилотниками доставка и роботы дронизация дронопорты дроны Европа еда железные дороги животноводство жилище захваты земледелие игрушки идеи измерения Израиль ИИ ИИ - вкратце инвентаризация Индия Иннополис инспекция интервью интерфейсы инфоботы Ирак Иран искусственный интеллект испытания исследования история Италия Казахстан как заработать Канада квадрупеды кейсы киборгизация кино Китай коботы коллаборативные роботы колонки коммунальное хозяйство компании компоненты конкурсы конспекты конструкторы концепты кооперативные роботы космос культура курьезы курьеры лабораторные роботы Латвия лесоустройство лизинг линки логистика люди и роботы магазины машинное обучение медицина медицина и роботы металлургия мнения мобильные роботы мойка море морские мусор мусор и роботы навигация надводные наземные военные роботы налоги наука научные роботы необычные нефтегаз нефть Нидерланды Новая Зеландия Норвегия носимые роботы ОАЭ образование образовательная робототехника обучающие роботы общепит общепит и роботы общество Объединенное Королевство октокоптеры онлайн-курсы робототехники опрыскивание офисные охрана и беспилотники охрана и роботы парники патенты персональные роботы пищепром пляжи ПО подводные подводные роботы подземные пожарные пожарные роботы поиск полевые роботы полезные роботы полиция помощники Португалия порты последняя миля потребительские роботы почта право презентации пресс-релизы применение беспилотников применение дронов применение роботов прогнозы проекты производство производство дронов происшествия промышленность промышленные роботы противодействие беспилотникам псевдоспутники работа развлечения и беспилотники развлечения и роботы разработка распознавание речи растениеводство регулирование регулирование дронов регулирование робототехники рекорды рисунки робомех робомобили роботакси роботизация робототехника роботрендз роботренды роботы роботы и автомобили роботы и мусор роботы и обучение роботы и развлечения роботы и строительство роботы телеприсутствия роботы-транспортеры робошум рои рой Россия Руанда сад садоводство сайт RoboTrends.ru сбор урожая сборка заказов сварка связь сделки сельское хозяйство сенсоры сервисные роботы синтез речи склады склады и роботизация соревнования сортировка сотрудничество софт-роботика социальная робототехника социальные социальные роботы спорт спорт и дроны спорт и роботы спутниковая статистика строительство судовождение США такси телеком телеприсутствие теплицы теплосети термины терроризм тесты технологии техносказки торговля транспорт транспортные роботы тренды трубопроводы трубопроводы и роботизация уборка Украина уличные роботы участники рынка фотограмметрия Франция химия хобби-беспилотники ховербайки Хождение цифры частоты чатбот шагающие роботы Швейцария Швеция шоу экзоскелеты эко-дроны экология электроника энергетика этика (робоэтика) Южная Корея юмор Япония

Подписка: RSS, Email, Telegram
  Информация