Высокоуровневый ИИ и опасности, связанные с его разработкой  --  Искусственный интеллект 

В "десятые годы" XXI века сторонники и противники искусственного интеллекта разделились на два лагеря. К одному примкнули крупные корпорации, включая Google, Facebook, Amazon и Microsoft, вкладывающие в разработку ИИ все больше средств и усилий, в то время как наиболее яркие представители другого, Стивен Хокинг и Илон Маск, заявляют о том, что подобные исследования опасны, что это современный способ “вызвать демона”.

В перспективе многие опасаются, что высокоуровневый ИИ может оказаться враждебным или недружественным человеку. Куда более близкая опасность - вытеснение гигантского числа людей, прежде всего, сотрудников офисов, самообучающимися программами. 

 

Публицистика

2017.04.06 Илон Маск начал крестовый поход стоимостью в миллиард долларов с целью остановить Апокалипсис из-за ИИ. 

2015.11 Superintelligence: Paths, Danger, Strategies. Nick Bostrom 

2015.10.13 Уничтожит ли искусственный интеллект человечество? О книге Джеймс Баррат "Последнее изобретение человечества: Искусственный интеллект и конец эры Homo Sapiens" 

Юдковский Элиезер. Искусственный интеллект как позитивный и негативный фактор глобального риска. Перевод А.В.Турчина.

 

В художественных произведениях

2011. Уилсон Дэниел, Роботы Апокалипсиса. НФ. ИИ ставит перед собой цель уничтожения человечества.

 

В реальной жизни

2017.09.13 Азиломарские принципы искусственного интеллекта. 23 принципа, которых необходимо придерживаться всем, кто ведет исследования в сфере искусственного интеллекта. Приняты на конференции Beneficial AI 2017. Среди участников конференции были, например, Илон Маск и Стивен Хокинг. Считается, что если их придерживаться, это обеспечит "безопасность и использование во благо всего человечества ИИ". 

2017.07.17 Илон Маск и восстание машин. Илон Маск призвал создать организацию, регулирующую развитие ИИ. Законы для роботов уже обсуждаются во всем мире. / Ведомости / pressreader.com

2017.01.19 Оптимисты в Давосе рассказывают, что ИИ может создать больше новых рабочих мест, чем уничтожит старых. Я в этом сомневаюсь. Пока что идут вполне реальные увольнения низкоквалифицированного персонала пратически везде, где идет внедрение роботов. Да, при этом зачастую создаются новые рабочие места для специалистов. Но специалистов по-прежнему требуется меньше, чем рабочих. Открытым остается вопрос о том, что будет с людьми, теряющими работу? Всех получится переподготовить по другой специальности? Сомнительно. / vedomosti.ru 

2016.08.09 Google создает новые “Законы роботехники”. DeepMind Google и Институт будущего человечества. 

2016.06.04 В Google задумались над оснащением будущих систем ИИ аварийным рубильником. В публикации “Safely Interruptible Agents” рассматриваются способы принудительного отключения ИИ, а также необходимость формирования для него “большой красной кнопки”. При этом, программам будет запрещено препятствовать своему отключению или искать способы для его предотвращения.

2015 Илон Маск пожертвовал $10 млн Институту будущего жизни на исследования того, как сделать искусственный интеллект безопасным для человека. 

+ +