Высокоуровневый ИИ и его опасность

Высокоуровневый ИИ и опасности, связанные с его разработкой  --  Искусственный интеллект 

В "десятые годы" XXI века сторонники и противники искусственного интеллекта разделились на два лагеря. К одному примкнули крупные корпорации, включая Google, Facebook, Amazon и Microsoft, вкладывающие в разработку ИИ все больше средств и усилий, в то время как наиболее яркие представители другого, Стивен Хокинг и Илон Маск, заявляют о том, что подобные исследования опасны, что это современный способ “вызвать демона”.

В перспективе многие опасаются, что высокоуровневый ИИ может оказаться враждебным или недружественным человеку. Куда более близкая опасность - вытеснение гигантского числа людей, прежде всего, сотрудников офисов, самообучающимися программами. 

 

Публицистика

2017.04.06 Илон Маск начал крестовый поход стоимостью в миллиард долларов с целью остановить Апокалипсис из-за ИИ

2015.11 Superintelligence: Paths, Danger, Strategies. Nick Bostrom 

2015.10.13 Уничтожит ли искусственный интеллект человечество? О книге Джеймс Баррат "Последнее изобретение человечества: Искусственный интеллект и конец эры Homo Sapiens" 

Юдковский Элиезер. Искусственный интеллект как позитивный и негативный фактор глобального риска. Перевод А.В.Турчина.

 

В художественных произведениях

2011. Уилсон Дэниел, Роботы Апокалипсиса. НФ. ИИ ставит перед собой цель уничтожения человечества.

 

В реальной жизни

2017.09.13 Азиломарские принципы искусственного интеллекта. 23 принципа, которых необходимо придерживаться всем, кто ведет исследования в сфере искусственного интеллекта. Приняты на конференции Beneficial AI 2017. Среди участников конференции были, например, Илон Маск и Стивен Хокинг. Считается, что если их придерживаться, это обеспечит "безопасность и использование во благо всего человечества ИИ". 

2017.07.17 Илон Маск и восстание машин. Илон Маск призвал создать организацию, регулирующую развитие ИИ. Законы для роботов уже обсуждаются во всем мире. / Ведомости / pressreader.com

2017.01.19 Оптимисты в Давосе рассказывают, что ИИ может создать больше новых рабочих мест, чем уничтожит старых. Я в этом сомневаюсь. Пока что идут вполне реальные увольнения низкоквалифицированного персонала пратически везде, где идет внедрение роботов. Да, при этом зачастую создаются новые рабочие места для специалистов. Но специалистов по-прежнему требуется меньше, чем рабочих. Открытым остается вопрос о том, что будет с людьми, теряющими работу? Всех получится переподготовить по другой специальности? Сомнительно. / vedomosti.ru 

2016.08.09 Google создает новые “Законы роботехники”. DeepMind Google и Институт будущего человечества. 

2016.06.04 В Google задумались над оснащением будущих систем ИИ аварийным рубильником. В публикации “Safely Interruptible Agents” рассматриваются способы принудительного отключения ИИ, а также необходимость формирования для него “большой красной кнопки”. При этом, программам будет запрещено препятствовать своему отключению или искать способы для его предотвращения.

2015 Илон Маск пожертвовал $10 млн Институту будущего жизни на исследования того, как сделать искусственный интеллект безопасным для человека. 

+ +

Смотрите связанные статьи Robo-педии:

  Публикации

Последние материалы

Метки
AGV ai DARPA DIY DIY (своими руками) DJI Lely pick-and-place RPA VTOL авиация автоматизация автомобили автомобили и роботы автономные аддитивные технологии андроиды анималистичные антропоморфные Арт аэромобили аэротакси безопасность безработица и роботы беспилотники бионика больницы будущее бытовые роботы вакансии вектор вертолеты видео внедрения роботов военные военные дроны военные роботы встречи высотные выставки газ Германия горнодобыча городское хозяйство гостиницы готовка еды Греция грузоперевозки группы дронов гуманоидные дайджест Дания доение роботизированное доильные роботы домашние роботы доставка беспилотниками доставка и роботы дронизация дроны Европа железные дороги животноводство захваты земледелие игрушки идеи измерения Израиль ИИ ИИ - вкратце инвентаризация Индия Иннополис инспекция интервью интерфейсы инфоботы Ирак Иран искусственный интеллект исследования история Италия Казахстан как заработать Канада кейсы киборгизация кино Китай коботы коллаборативные роботы колонки коммунальное хозяйство компании компоненты конкурсы конспекты конструкторы концепты кооперативные роботы космос курьезы курьеры лабораторные роботы Латвия лизинг линки логистика люди и роботы машинное обучение медицина медицина и роботы металлургия мобильные роботы мойка море морские мусор мусор и роботы надводные наземные военные роботы налоги научные роботы необычные нефтегаз нефть Нидерланды Новая Зеландия Норвегия носимые роботы ОАЭ образование образовательная робототехника обучающие роботы общепит и роботы общество Объединенное Королевство онлайн-курсы робототехники опрыскивание охрана и беспилотники охрана и роботы патенты персональные роботы пищепром пляжи ПО подводные подводные роботы подземные пожарные пожарные роботы полевые роботы полезные роботы Португалия потребительские роботы почта право презентации пресс-релизы применение беспилотников применение дронов применение роботов прогнозы проекты производство производство дронов происшествия промышленность промышленные роботы противодействие беспилотникам работа развлечения и беспилотники развлечения и роботы разработка распознавание речи растениеводство регулирование регулирование дронов регулирование робототехники рекорды рисунки робомех робомобили роботизация робототехника роботрендз роботренды роботы роботы и автомобили роботы и мусор роботы и обучение роботы и развлечения роботы и строительство роботы телеприсутствия роботы-транспортеры робошум рои рой Россия Руанда сад сайт RoboTrends.ru сбор урожая сварка связь сделки сельское хозяйство сенсоры сервисные роботы синтез речи склады склады и роботизация соревнования сортировка сотрудничество софт-роботика социальная робототехника социальные роботы спорт спорт и дроны спорт и роботы строительство США такси телеприсутствие теплицы термины терроризм тесты технологии техносказки торговля транспорт транспортные роботы тренды трубопроводы трубопроводы и роботизация уборка Украина уличные роботы Франция хобби-беспилотники ховербайки Хождение чатбот шагающие роботы Швейцария Швеция шоу экзоскелеты эко-дроны экология электроника энергетика этика (робоэтика) Южная Корея юмор

Подписка: RSS, Email, Telegram
  Информация