“Кажется, она работает… Срочно выключай!”
08.02.2019Мировое господство - такая некрасивая фраза. Предпочитаю называть это мировой оптимизацией.
Элиезер Юдковский
По информации государственных китайских СМИ за 2016 год, в состав госаппарата Поднебесной входят порядка 50 млн человек - на 16 млн меньше, чем проживают в настоящее время в Объединенном Королевстве. Страна “оптимизирует” управление этим Левиафаном, да и жизни простых людей, внедряя высокие технологии: улицы ощетиниваются камерами и системами распознавания лиц, ZTE и иные технологические гиганты разрабатывают правительственные блокчейн-платформы, председатель Си Цзиньпин напоминает о необходимости разработок в области Big data и искусственного интеллекта.
Китайская академия наук и ряд учреждений компартии разработали систему “Zero Trust” (“Никакого доверия”), способную контролировать, оценивать и даже вмешиваться в личную жизнь чиновников, связываясь с более чем 150 защищенными базами данных. Программа создает многослойные “карты активности” чиновников, подмечает странные передачи собственности, аномальные транзакции и подряды, “искажения”, связанные со сносом домов или сменой земельных прав и ряд других показателей.
Zero Trust выявляет изменения в состоянии банковских счетов, приобретение транспортных средств, сомнительные случаи получения собственности друзьями чиновника или членами его семьи. Автоматика оценивает шансы наличия коррупционной составляющей и оповещает о них компетентных людей.
Столкнувшись с сопротивлением власть имущих бюрократов, разработчики Zero Trust запустили систему на крайне ограниченной площади: всего порядка 1% от общей административной территории страны.
Начиная с 2012 года, программа выявила 8721 чиновников, занимавшихся растратой, злоупотреблением властью и государственными средствами и кумовством. Часть этих людей очутились за решеткой, в то время как большинство сохранили работу, получив предупреждение или минимальные наказания. Местные власти округа Маянг, города Хуайхуа и округа Ли в Хунани попросту выключили систему, сославшись на создаваемый автоматикой дискомфорт.
Власти регионов, продолжающие использовать систему, сталкиваются с серьезным давлением: в частности, противники автоматизации указывают на то, что у машины попросту нет прав на то, чтобы копаться в соответствующих источниках. Размах сферы деятельности ПО впечатляет: автоматика даже может “поднять” данные спутниковых снимков, чтобы удостовериться в том, что бюджетные средства, пущенные на строительство дороги в небольшой деревне, в итоге очутились в кармане жадного чиновника.
Стоит отметить, что ИИ-“клерки” постепенно приходят и в суды - в частности, в январе 2019 года ИИ-ассистент “206” впервые “выступил” в зале шанхайского суда. Автоматика записывает переговоры, выводит на экран упоминаемые адвокатами улики, сравнивает показания и определяет в них нестыковки.
Я хотел было сказать, что после поражения коммунизма нам надо приняться за капитализм, но я не это имел в виду: зло не в системе, а в человеке.
Джон ле Карре. Секретный пилигрим
Новость о китайской системе заставляет вспомнить 2015 год и разработанную стартапом при MIT программу Data Science Machine. Система отличилась тем, что строила более качественные прогностические модели, чем большинство высокооплачиваемых аналитиков “средней руки” - при этом, в качестве входных данных она использовала лишь “сырые” массивы информации. Несмотря на то, что конечный результат оказывался чуть хуже, чем у лучших умов планеты, его генерация занимала от 2 до 12 часов. Потенциал системы связывали с усилением связки “человек-ИИ” и с приданием небольшим бизнесам, учебным заведениям и даже одиночным исследователям возможности привлекать высококлассную аналитику в ранее недоступные для ее отрасли.
Мир постепенно отходит от использования интуиции в качестве основного базиса для принятия экзистенциальных решений: в ближайшие годы, все больше игроков станут принимать управляемые данными (data driven) решения, а Big Data проникнет в электронную коммерцию, краудфандинг, ритейл, образования, финансовые услуги и правительственный аппарат.
По данным ООН, за последние 5 лет было подано свыше 170 тысяч патентных заявок, связанных с искусственным интеллектом - речь идет о половине от всех патентов, зарегистрированных с 2001 года. Масса исследований в области ИИ проводились еще в 1950-х годах, однако ключевые перемены начались лишь в последние годы. IBM зарегистрировал 8290 патентов, Microsoft - 5930, Toshiba - 5223, Samsung - 5502. С 2013 по 2016 годы, число патентов в области глубокого обучения (deep learning) росло на 175% в год - при этом, для остальных отраслей ИИ этот показатель составил всего 33%. В ближайшие годы к этим отраслям добавятся применения ИИ в области сельского хозяйства, здравоохранения и производства. Машина пришла в движение и собирается изменить наш мир. Наверно, это не так уж плохо - тем более, что ее уже не остановить.
Китайский кейс указывает по меньшей мере на три важных современных тренда:
- Во-первых, миру нужны по-настоящему “глубокие” кейсы внедрения. Даже наиболее качественное ПО, направленное на улучшение жизней миллионов людей, может попросту провалиться в процессе внедрения, если не будет входить в состав соответствующей экосистемы, на голову превосходящей существующие аналоги.
- Современный ИИ уже может принимать экзистенциальные решения, оказывающие влияние на жизни миллионов людей. В ближайшие годы, подобные программы обзаведутся первыми настоящими последователями: тот же Zero Trust явил миру “чудеса”, играюче определив тысячи коррупционеров, преступников и мздоимцев. Нет ничего сложного в том, чтобы “уверовать” в алгоритм, готовый в любой момент подтвердить свою состоятельность.
- Чтобы что-то у кого-то отнять, стоит предложить этому “кому-то” нечто получше - желательно, в рамках комплексного предложения. Едва ли многие пользователи оценили бы приложение, позволяющее оценивать услуги случайных таксистов. Между тем, тот же Uber, вызывающий такси, поддерживающий навигацию и коммуникации, позволяющий пользователю и водителю оценивать друг друга и поддерживающий денежные транзакции, привлекает куда больше потребителей. Хотелось бы видеть не грозную “карательную” машину, сажающую тысячи, а то и десятки тысяч людей, а прозрачную автоматизированную систему, исключающую коррупционную составляющую и вовлекающую в децентрализованную экономическую систему любых желающих.
По материалам: ; ; ; .
+
За новостями робототехники, ИИ, а также за трендами в этих областях удобно следить в
