Размышляющие на эту тему разделились на два больших лагеря, пишет автор статьи в hi-news.ru. Одни считают, что естественный ход развития завершится восстанием ИИ против мира людей или другой связанной с ним глобальной катастрофой. Другие убеждены, что мы на пороге утопии и Золотого века. При этом почти не обсуждаются иные варианты развития событий. В этом, конечно, немалая заслуга кинематографа и всеобщая любовь к ярким, полярным сценариям. А кроме того, как считает автор hi-news.ru, это стиль мышления того типа людей, что тесно увязывают разрушение и творение (его ещё называют миллениаризмом).
Если короче — ожидание смерти и возрождения Феникса. Вера в то, что смерть старого мира станет гарантией построения нового, лучшего, и, конечно, вечное ожидание Мошиаха.

История древняя, здесь и христианские идеи наказания зла и воскресения праведников, которым обещан то ли рай, то ли новый мир. В современной истории можно встретить отголоски того же ожидания, например, в марксизме — поклонники этой “религии” ждали, когда “скорбь угнетённых” сменится “счастьем революции”, появлением нового мира. Праведники обретут мир и справедливость, злые эксплуататоры понесут заслуженные кары. Можно найти параллели и у древних скандинавов с их Рагнареком, и у древних египтян, в свою очередь творчески развивавших наследие шумеров.

В самой современной истории очередным катализатором ожиданий выступила атомная бомба и ядерная энергетика. От них тоже ждали, а кто-то всё ещё ожидает и даже этим грозит, рукотворного ядерного апокалипсиса в стиле “врагу не сдаётся наш гордый Варяг”, либо дешёвого и общедоступного термояда, который наконец-то обеспечит безбедное существование для всех.

Не пора ли отбросить идеи, которые не работают? Почему нужно ожидать, что если все предыдущие технологические изобретения, начиная от появления огня, человечество пережило, не скатившись к тотальному взаимоуничтожению, но и не справившись с построением рая на земле, то именно ИИ, или даже технологическая сингулярность, приведут к какому-то иному результату?

Хорошая попытка успокоить людей и даже логичная. Но до сих пор человек всегда имел дело с технологиями, которые он полностью контролировал. Сейчас стремительное развитие ИИ с потенциальным появлением сверхразума грозит тем, что впервые появится нечто, созданное человеком, но им контролируемое слабо или вовсе не контролируемое. Любой человек может сравнительно безопасно играть со спичками, и максимум, что ему грозит — это слегка обжечь пальцы. Но только не в ситуации, если он затеял игру со спичками на пороховом складе.

А какая идея ближе вам?