Как обмануть ИИ

Чувствительность к данным, используемым для обучения, это серьезная уязвимость ИИ, которой могут воспользоваться злоумышленники. Достаточно подменить данные в “таблице решений”, как делают при атаке типа “отравление”, и ИИ будет в целом работать нормально, не вызывая подозрений, но сможет содержать “закладки”, которыми при необходимости воспользуется хакер. Также возможна и атака уже на обученный правильным образом ИИ, достаточно знать особенности работы алгоритмов распознавания изображений.

Нет никаких сомнений, что число атак на ИИ со временем будет только расти, более того, для них скорее всего также станут использовать системы ИИ, поэтому очень важно, чтобы о защите систем ИИ люди думали уже сегодня, еще до того, как эти системы получат большое распространение и от них начнут зависеть сотни или тысячи жизней людей. Подробнее.

Девид Ян допускает появление ИИ, враждебно настроенного к человеку

Это может произойти практически незаметно, поскольку новые модели ИИ сейчас появляются при участии старых. Нейронные сети порождают новые, все более совершенные. Нельзя исключить, что при попытке решить какую-то полезную для людей задачу ИИ породит эволюционные версии ИИ, враждебно настроенные по отношению к человеку.

Универсального рецепта - как следует действовать в такой ситуации, не существует. Вероятно, необходимо приглядывать за ИИ “сверху”, на уровне государства. Но этот надзор вряд ли будет достаточно эффективным, ведь скорость работы ИИ на порядки выше, чем скорость работы любой бюрократической системы. Важнее приглядывать за ИИ “снизу”, этим должны заниматься разработчики, им куда проще будет заметить, что эволюция ИИ пошла не так, как это ожидалось. Тем не менее, не то, не другое, не дает гарантий безопасности - ИИ - это опасная игрушка, с которой человечеству еще только предстоит научиться управляться. Важно, чтобы принятие всех серьезных решений оставалось за людьми, а ИИ имел бы только совещательный голос.

Впрочем, вряд ли можно ожидать от людей такого подхода - многие могут захотеть пожертвовать безопасностью ради удобства и оперативности принятия решений. Простейший пример - готовность людей безоговорочно доверять свою жизнь совсем еще несовершенным автопилотам автомобилей. За что некоторые уже этой жизнью поплатились. Источник.

ИИ оценит руководство

Использование ИИ для оценки кандидатов на ту или иную вакансию, это уже не редкость, а способ, которым пользуются многие крупные компании в России и за рубежом. Менее распространена практика, когда после проведения анкетирования сотрудников ИИ оценивает содержимое этих анкет с тем, чтобы не только выявить степень стресса или недовольства сотрудников, но также оценить качество руководства компанией. Между тем такие оценки могут быть важным инструментом для принятия кадровых вопросов инвесторами. Можно предположить, что со временем привлечение беспристрастных систем на базе ИИ для такого рода оценок станет настоящим трендом в бизнесе. Источник.

Microsoft запускает образовательную программу по изучению ML и ИИ

Пройти обучение может любой желающий, достаточно записаться для участия в программе Microsoft Professional Program for Artificial Intelligence. Программа включает 10 курсов, каждый из которых длится 3 месяца. Вводный курс дает понятие об общих принципах работы ИИ, сферах и способах применения этой технологии. Далее начнутся практические занятия - курс по использованию Python для ообработки данных, курс по визуализации результатов на Python и R.

Не ждите, что обучение будет легкой прогулкой, в программу включен курс по математике, состоящий из элементов линейной алгебры, теории вероятностей, матстатистики и оптимизации. На завершающем этапе обучающимся предстоит курс моделирования данных для машинного обучения, знакомство с глубокими нейросетями, обучение с подкреплением, обработка естественного языка, распознование речи и образов. И, наконец, учащимся предложат курс по этике ИИ - будут рассмотрены юридические и моральные аспекты, связанные с обработкой персональных данных и построением систем ИИ. Готовы приступить?

Чат-бот S7 Airlines поможет купить билеты

Чат-бот авиакомпании в Facebook Messenger готов ответить на вопросы о доступных авиабилетах, подобрать город для путешествия. При необходимости, если чат-бот не сможет самостоятельно справиться с ответом на тот или иной вопрос, он переведет беседу на оператора-человека, который продолжит общение, изучив историю переписки. Ответы оператора чат-бот добавит в свою базу знаний, чтобы в следующий раз справиться с ответом самостоятельно. Чат-бот компании реализован на платформе Zenbot компании JustAI. В основе платформы - обучаемая нейронная сеть. Подробнее. 

+ +