Жизнь человека важнее, чем жизнь животного или какое-либо имущество. Никакой дискриминации в вопросе о том, кто должен выжить. Необходимы усилия по защите от хакеров. 

Это только некоторые из первого в мире набора рекомендаций и этических правил, который сфорумулирован в Германии в отношении того, как следует программировать искуственный интеллект, управляющий автономными транспортными средствами. 

Федеральный министр транспорта в августе представил отчет по теме автономных автомобилей. Он является плодом усилий так называемой Комиссии по Этике автономного вождения, панели экспертов, состоявшей из ученых и юристов. (Скачать отчет: Ethics Comission's complete report on automated and connected driving). 

В отчете отмечаются технологические достижения, которые повысили уровень автоматизации автомобилей с тем, чтобы сделать их более безопасными и снизить число аварий, но также отмечается: "В то же время, на том уровне технологий, который доступен человечеству сегодня ... будет невозможно полностью избежать аварий. Поэтому требуется принятие решений в отношении алгоритмов программного обеспечения полуавтономных и автономных систем управления".

В отчете приведено порядка 20 рекомендаций, которыми должны руководствоваться разработчики автономных систем управления транспортными средствами. По заявлению министра, правительство одобрило Кодекс. Германия стала первой страной в мире, где законодательно установлены этические нормы, которым должны соответствовать системы автоматизации вождения.

Как ожидается, это позволит немецким автопроизводителям быстрее выпустить на рынок современные системы автоматизации автомобиля, а также даст ориентиры для всего остального мира.

 

Автономное вождение более безопасно

Моральные основы на которых построены рекомендации просты - поскольку системы автономного управления транспортном будут приводить к меньшему числу смертей и ранений на дорогах, моральным императивом является переход к использованию таких систем, поскольку задача правительств - забота о гражданах.

Какие ситуации рассмотрены в рекомендациях?

Если аварию невозможно предотвратить, то согласно рекомендациям, безопасность людей должна ставиться выше, нежели безопасность животных или сохранность имущества. Система самоуправления автомобилем должна попытаться избежать столкновений, но если это невозможно, она должна действовать так, чтобы минимизировать ущерб, который будет причинен людям.

В отчете говорится о том, что некоторые решения автономной системы могут быть сомнительными с точки зрения морали.

В таких ситуациях ультимативная обязанность принятия решения и ответственность, по крайней мере, в текущем периоде, когда у водителя еще сохраняется возможность взять управление на себя, будет лежать на человеке, находящемся на месте водителя, поскольку ПО в ситуации сложного морального выбора передаст управление и принятие решения человеку. В случае, если человек не предпримет никаких действий, автопилот попытается остановить машину. В ближайшем будущем, по мере роста возможностей автономных систем, автомобили могут стать полностью автономными.

В отчете признается, что совершенные системы самоуправления пока что не созданы. Вероятность попадания в аварию управляемых бортовым ПО автомобилей не может быть снижена до нуля, но при этом она может быть меньше, чем сейчас, когда автомобилями управляют люди. 

В случае, если столкновение будет оказываться неизбежным, согласно рекомендациям, система должна действовать так, чтобы минимизировать ущерб. При этом не должно быть никакой дискриминации по возрасту, полу, расе, физическим возможностям и т.п. в отношении потенциальных жертв аварии. 

Все люди признаются равными, чтобы ПО могло решить задачу минимизации ущерба.

Такой подход позволяет избежать необходимости решения известной "проблемы вагонетки". 

 

Кто управляет?

В Рекомендациямх говорится о возможности создания полностью автономных систем, но отмечается, что технология пока что не способна справляться  с решением сложных "дилемм", когда автомобилю требуется выбирать между двумя неприемлемыми сценариями. В то же время, как ожидается, по мере совершенствования технологий, появится возможность полной автоматизации самоуправления.

Согласно отчету, в любой момент времени должно быть ясно, кто управляет автомобилем - человек или компьютер. Возможно системы автомобиля должны сканировать водительские права того, кто хочет сесть за руль, прежде чем допускать человека к управлению автомобилем того или иного класса.

На автомобиле должен быть установлен "черный ящик", подобно тому, как это делается на самолетах, который будет непрерывно записывать происходящее, включая кто или что управляет автомобилем в любой момент времени.

В случае аварии с участием автономного автомобиля, расследование должно проводиться независимым федеральным агентством с целью определения ответственных.

Водитель транспортного средства сохраняет свои права в отношении персональной информации, собранной из автомобиля. Использование этих данных третьей стороной должно осуществляться только с согласия информированного об этом владельца и не должно наносить ему ущерба.

Угроза вредоносного взлома автономной системы вождения должна быть снижена за счет использования эффективных средств безопасности. ПО должно разрабатываться с тем, чтобы обеспечивался такой уровень защиты, чтобы возможности хакинга оставались маловероятными.

Система управления транспортным средством должна оставаться эргономически оптимальной для использования человеком, как в обычных автомобилях.

Автомобиль должен автономно действовать в аварийных ситуациях, но человек должен иметь возможность взять управление (и решение) на себя в ситуациях неоднозначного морального выбора (например, решая, погибнуть самому или убить людей на пешеходном переходе).  Управление должно обеспечивать возможность плавной и быстрой передачи. 

В отчете отмечается, что общественность должна понимать принципы действия автономных транспортных средств, включая то, почему именно выбраны заложенные в Кодекс принципы. Соответствующая информация должна быть доведена до школьников, чтобы люди знали ответы на вопросы "почему?" и "как?" в отношении автономных автомобилей.

 

Хороший старт, но работа только начинается

Рекомендации будут пересмотрены через два года после начала использования. Нет сомнений, что потребуется немалая "доводка" рекомендаций по мере накопления практического опыта в ближайшие годы и десятилетия. 

Рекомендации достаточно продуманы и могут рассматриваться как юридическая основа для автопроизводителей Германии, чтобы двигаться дальше в разработке автономных систем управления автомобилями. 

Поскольку другие страны, похоже, заняли выжидательную позицию в отношении разработки аналогичного законодательства, у них появляется возможность последовать примеру Германии, и не в первый раз. Это было бы неплохо, поскольку важно, чтобы в мире наблюдался единый подход к законодательству по части автономных транспортных средств. 

+ +