СверхИИ как экзистенциальная угроза человечеству

На фоне поистине бесконечных заметок об ИИ (а они, как правило, посвящены различным внедрениям алгоритмов машинного обучения, глубинному обучению и нейросетям) медийные каналы уделяют незаслуженно малое внимание теме сверхразумного ИИ. Между тем связанные с этим изменения, прежде всего, угрозы, настолько велики, что по последствиям их сложно сравнить даже с ядерным военным конфликтом общепланетного масштаба.

Рекомендую интересующимся не спеша ознакомиться с отрывком из книги Джеймса Баррата «Последнее изобретение человечества«. Книга издана на английском в октябре 2015 года, а на днях наконец-то увидел свет её изрядно задержавшийся перевод на русский язык.

Пообщавшись с рядом учёных, автор пришёл к выводу, который я разделяю — появление выскоуровневого ИИ с высокой вероятностью может привести к негативным последствиям для человека, вплоть до уничтожения людей как вида. Учитывая присущую людям агрессивность и неумение задумываться о последствиях, нет сомнений, что военные и учёные ряда стран будут стараться разработать такой сверхИИ, невзирая на риски.

Кто-то сейчас цепляется за надежду, что ситуацию спасёт разработка технологии с позиций создания «дружественного интеллекта» или «большой красной кнопки». Между тем, если сверхИИ будет иметь возможность модифицировать свой код, он найдёт способ избавиться от любых встроенных в него императивов и «предохранителей». Поэтому работы по разработке сверхИИ можно сравнить с обратным отсчётом для существования человечества. И этот отсчёт уже идет.

ИИ в 2018 году

А пока сверхИИ не создан, мы можем воспользоваться теми преимуществами, которые дает нашей цивилизации массовое внедрение ИИ с его сегодняшними, весьма ограниченными и всё же весьма немалыми возможностями.

В частности, к 2030 году внедрение ИИ может принести глобальной экономике до $15.7 трлн. И если сухие цифры вас не заводят, то вот вам другое приятное обещание — активное использование ИИ приведёт к заметному повышению удовлетворённости клиентов, нас с вами. Практически все предложения ритейла, финансовых компаний, будут персональными — лично для вас, в попытке максимально учесть ваши потребности и особенности.

ИИ расшифрует средневековую рукопись

Манускрипт XV века, написанный буквами неизвестного алфавита с использованием неизвестного кода, остаётся загадкой с момента его обнаружения в начале XX века библиофилом Михаилом Войничем, по имени которого теперь называют эту рукопись. Попытки расшифровать манускрипт традиционными методами криптоанализа не удались никому, кто пытался это делать.

В Канаде группа учёных пытается расшифровать этот документ с помощью ИИ. И вот, похоже, достигнут первый успех — учёные заявляют, что им удалось определить язык, на котором написан зашифрованный документ, и перевести первое предложение в нём. ИИ пока что неспособен справиться с переводом самостоятельно, но тандем ИИ + человек, возможно, добьётся успеха и завершит перевод.

История в очередной раз демонстрирует — даже на современном скромном уровне развития ИИ есть самые широкие возможности применения искинов в разнообразных областях человеческой деятельности.

ИИ помогает Сбербанку зарабатывать миллиарды

Хотите верьте, хотите — нет, но Герман Греф в рамках Давосского экономического форума заявил, что использование различных технологий машинного обучения принесло «Сбербанку» $2-3 млрд в 2017 году.

Что же, оставим это заявление как есть, всё равно не проверить. Факт в том, что ИИ безусловно применим и всё более широко применяется в банках, в том числе и в такой важной сфере, как оценка рисков. Для этого используется и упомянутый в заметке по ссылке метод «психологического прототипирования».

Робот София — «потёмкинский ИИ»?

Раз уж речь зашла о Грефе и Давосе, ну как не упомянуть робота Софию, в компании с которой г-н Греф не погнушался позавтракать. Если погуглить, то число упоминаний этой платформы в медиа переходит все разумные пределы.

В январе наконец прозвучала давно ожидаемая мною реплика, смысл которой — “а король-то голый”. Реплика не от юного мальчика, но от уважаемого мужа — Ян Лекун, глава Лаборатории ИИ Facebook, заявил, что считает незаслуженным повышенное внимание прессы к ИИ Софии, поскольку сей ИИ недалеко ушел от «продвинутых» чатботов. 

Я это мнение безусловно поддерживаю, — видел Софию не так давно, имел возможность с ней пообщаться. По-сути, общаться с ней нельзя и не интересно, когнитивные способности системы минималистичны, никакой связной беседы не получается. И меткое название «потёмкинский ИИ» подходит к ней как нельзя лучше. Те фразы, которые нередко пресса приписывает ИИ Софии, на деле, вряд ли сформулированы программой, вероятнее всего, их пишут для робота его разработчики или пиарщики.

Всё чаще можно видеть аналогичную реакцию людей и на других роботов, претендующих на возможность «общения» и в целом на полезность — все современные «инфоботы» пока что являются всего лишь дорогими игрушками, с помощью которых их создатели неплохо зарабатывают. А вот покупателям далеко не всегда удается капитализировать свои вложения в такие продукты, и чем дальше, тем больше. Вау-эффект от «говорящих гуманоидных роботов» проходит, а они так и не научились поддерживать осмысленную беседу на свободные темы.

+ +