Дайджест ИИ: Как обмануть ИИ, ИИ оценит руководство, Microsoft обучит ML и ИИ

05.04.2018

Как обмануть ИИ

Чувствительность к данным, используемым для обучения, это серьезная уязвимость ИИ, которой могут воспользоваться злоумышленники. Достаточно подменить данные в “таблице решений”, как делают при атаке типа “отравление”, и ИИ будет в целом работать нормально, не вызывая подозрений, но сможет содержать “закладки”, которыми при необходимости воспользуется хакер. Также возможна и атака уже на обученный правильным образом ИИ, достаточно знать особенности работы алгоритмов распознавания изображений.

Нет никаких сомнений, что число атак на ИИ со временем будет только расти, более того, для них скорее всего также станут использовать системы ИИ, поэтому очень важно, чтобы о защите систем ИИ люди думали уже сегодня, еще до того, как эти системы получат большое распространение и от них начнут зависеть сотни или тысячи жизней людей. Подробнее.

Девид Ян допускает появление ИИ, враждебно настроенного к человеку

Это может произойти практически незаметно, поскольку новые модели ИИ сейчас появляются при участии старых. Нейронные сети порождают новые, все более совершенные. Нельзя исключить, что при попытке решить какую-то полезную для людей задачу ИИ породит эволюционные версии ИИ, враждебно настроенные по отношению к человеку.

Универсального рецепта - как следует действовать в такой ситуации, не существует. Вероятно, необходимо приглядывать за ИИ “сверху”, на уровне государства. Но этот надзор вряд ли будет достаточно эффективным, ведь скорость работы ИИ на порядки выше, чем скорость работы любой бюрократической системы. Важнее приглядывать за ИИ “снизу”, этим должны заниматься разработчики, им куда проще будет заметить, что эволюция ИИ пошла не так, как это ожидалось. Тем не менее, не то, не другое, не дает гарантий безопасности - ИИ - это опасная игрушка, с которой человечеству еще только предстоит научиться управляться. Важно, чтобы принятие всех серьезных решений оставалось за людьми, а ИИ имел бы только совещательный голос.

Впрочем, вряд ли можно ожидать от людей такого подхода - многие могут захотеть пожертвовать безопасностью ради удобства и оперативности принятия решений. Простейший пример - готовность людей безоговорочно доверять свою жизнь совсем еще несовершенным автопилотам автомобилей. За что некоторые уже этой жизнью поплатились. Источник.

ИИ оценит руководство

Использование ИИ для оценки кандидатов на ту или иную вакансию, это уже не редкость, а способ, которым пользуются многие крупные компании в России и за рубежом. Менее распространена практика, когда после проведения анкетирования сотрудников ИИ оценивает содержимое этих анкет с тем, чтобы не только выявить степень стресса или недовольства сотрудников, но также оценить качество руководства компанией. Между тем такие оценки могут быть важным инструментом для принятия кадровых вопросов инвесторами. Можно предположить, что со временем привлечение беспристрастных систем на базе ИИ для такого рода оценок станет настоящим трендом в бизнесе. Источник.

Microsoft запускает образовательную программу по изучению ML и ИИ

Пройти обучение может любой желающий, достаточно записаться для участия в программе Microsoft Professional Program for Artificial Intelligence. Программа включает 10 курсов, каждый из которых длится 3 месяца. Вводный курс дает понятие об общих принципах работы ИИ, сферах и способах применения этой технологии. Далее начнутся практические занятия - курс по использованию Python для ообработки данных, курс по визуализации результатов на Python и R.

Не ждите, что обучение будет легкой прогулкой, в программу включен курс по математике, состоящий из элементов линейной алгебры, теории вероятностей, матстатистики и оптимизации. На завершающем этапе обучающимся предстоит курс моделирования данных для машинного обучения, знакомство с глубокими нейросетями, обучение с подкреплением, обработка естественного языка, распознование речи и образов. И, наконец, учащимся предложат курс по этике ИИ - будут рассмотрены юридические и моральные аспекты, связанные с обработкой персональных данных и построением систем ИИ. Готовы приступить?

Чат-бот S7 Airlines поможет купить билеты

Чат-бот авиакомпании в Facebook Messenger готов ответить на вопросы о доступных авиабилетах, подобрать город для путешествия. При необходимости, если чат-бот не сможет самостоятельно справиться с ответом на тот или иной вопрос, он переведет беседу на оператора-человека, который продолжит общение, изучив историю переписки. Ответы оператора чат-бот добавит в свою базу знаний, чтобы в следующий раз справиться с ответом самостоятельно. Чат-бот компании реализован на платформе Zenbot компании JustAI. В основе платформы - обучаемая нейронная сеть. Подробнее

+ +

Смотрите связанные статьи Robo-педии:

  Публикации

Последние материалы


Метки
ai DARPA DIY (своими руками) DJI автоматизация автомобили и роботы андроиды анималистичные антропоморфные Арт аэротакси безопасность безработица и роботы беспилотники бионика будущее бытовые роботы вектор видео военные дроны военные роботы встречи выставки Германия Греция группы дронов дайджест Дания доильные роботы домашние роботы доставка беспилотниками доставка и роботы дроны Европа железные дороги захваты игрушки Израиль ИИ Индия интервью интерфейсы инфоботы Ирак Иран искусственный интеллект история Италия Казахстан как заработать Канада киборгизация кино Китай коллаборативные роботы колонки коммунальное хозяйство компании компоненты конспекты конструкторы концепты кооперативные роботы космос курьезы курьеры Латвия линки логистика машинное обучение медицина медицина и роботы металлургия море и роботы мусор и роботы наземные военные роботы налоги научные роботы необычные Нидерланды Новая Зеландия Норвегия носимые роботы ОАЭ образование образовательная робототехника обучающие роботы общепит и роботы Объединенное Королевство онлайн-курсы робототехники охрана и беспилотники охрана и роботы патенты персональные роботы пищепром ПО подводные роботы подземные пожарные роботы полевые роботы полезные роботы Португалия право презентации пресс-релизы применение беспилотников применение дронов применение роботов прогнозы проекты производство дронов происшествия промышленные роботы противодействие беспилотникам работа развлечения и беспилотники развлечения и роботы распознавание речи растениеводство регулирование регулирование дронов регулирование робототехники рекорды рисунки робомех робомобили роботизация робототехника роботрендз роботренды роботы роботы и автомобили роботы и медицина роботы и море роботы и мусор роботы и обучение роботы и развлечения роботы и строительство роботы и уборка роботы телеприсутствия роботы-транспортеры робошум рой Россия Руанда сайт RoboTrends.ru сделки сельское хозяйство сенсоры сервисные роботы синтез речи склады и роботизация соревнования софт-роботика социальная робототехника социальные роботы спорт и дроны спорт и роботы строительство США телеприсутствие термины терроризм торговля транспорт транспортные роботы тренды трубопроводы и роботизация уборка и роботы Украина уличные роботы Франция хобби-беспилотники ховербайки Хождение чатбот шагающие роботы Швейцария Швеция шоу экзоскелеты эко-дроны экология электроника этика (робоэтика) Южная Корея юмор

Подписка: RSS, Email, Telegram
  Информация