Дайджест ИИ: Как обмануть ИИ, ИИ оценит руководство, Microsoft обучит ML и ИИ

05.04.2018

Как обмануть ИИ

Чувствительность к данным, используемым для обучения, это серьезная уязвимость ИИ, которой могут воспользоваться злоумышленники. Достаточно подменить данные в “таблице решений”, как делают при атаке типа “отравление”, и ИИ будет в целом работать нормально, не вызывая подозрений, но сможет содержать “закладки”, которыми при необходимости воспользуется хакер. Также возможна и атака уже на обученный правильным образом ИИ, достаточно знать особенности работы алгоритмов распознавания изображений.

Нет никаких сомнений, что число атак на ИИ со временем будет только расти, более того, для них скорее всего также станут использовать системы ИИ, поэтому очень важно, чтобы о защите систем ИИ люди думали уже сегодня, еще до того, как эти системы получат большое распространение и от них начнут зависеть сотни или тысячи жизней людей. Подробнее.

Девид Ян допускает появление ИИ, враждебно настроенного к человеку

Это может произойти практически незаметно, поскольку новые модели ИИ сейчас появляются при участии старых. Нейронные сети порождают новые, все более совершенные. Нельзя исключить, что при попытке решить какую-то полезную для людей задачу ИИ породит эволюционные версии ИИ, враждебно настроенные по отношению к человеку.

Универсального рецепта - как следует действовать в такой ситуации, не существует. Вероятно, необходимо приглядывать за ИИ “сверху”, на уровне государства. Но этот надзор вряд ли будет достаточно эффективным, ведь скорость работы ИИ на порядки выше, чем скорость работы любой бюрократической системы. Важнее приглядывать за ИИ “снизу”, этим должны заниматься разработчики, им куда проще будет заметить, что эволюция ИИ пошла не так, как это ожидалось. Тем не менее, не то, не другое, не дает гарантий безопасности - ИИ - это опасная игрушка, с которой человечеству еще только предстоит научиться управляться. Важно, чтобы принятие всех серьезных решений оставалось за людьми, а ИИ имел бы только совещательный голос.

Впрочем, вряд ли можно ожидать от людей такого подхода - многие могут захотеть пожертвовать безопасностью ради удобства и оперативности принятия решений. Простейший пример - готовность людей безоговорочно доверять свою жизнь совсем еще несовершенным автопилотам автомобилей. За что некоторые уже этой жизнью поплатились. Источник.

ИИ оценит руководство

Использование ИИ для оценки кандидатов на ту или иную вакансию, это уже не редкость, а способ, которым пользуются многие крупные компании в России и за рубежом. Менее распространена практика, когда после проведения анкетирования сотрудников ИИ оценивает содержимое этих анкет с тем, чтобы не только выявить степень стресса или недовольства сотрудников, но также оценить качество руководства компанией. Между тем такие оценки могут быть важным инструментом для принятия кадровых вопросов инвесторами. Можно предположить, что со временем привлечение беспристрастных систем на базе ИИ для такого рода оценок станет настоящим трендом в бизнесе. Источник.

Microsoft запускает образовательную программу по изучению ML и ИИ

Пройти обучение может любой желающий, достаточно записаться для участия в программе Microsoft Professional Program for Artificial Intelligence. Программа включает 10 курсов, каждый из которых длится 3 месяца. Вводный курс дает понятие об общих принципах работы ИИ, сферах и способах применения этой технологии. Далее начнутся практические занятия - курс по использованию Python для ообработки данных, курс по визуализации результатов на Python и R.

Не ждите, что обучение будет легкой прогулкой, в программу включен курс по математике, состоящий из элементов линейной алгебры, теории вероятностей, матстатистики и оптимизации. На завершающем этапе обучающимся предстоит курс моделирования данных для машинного обучения, знакомство с глубокими нейросетями, обучение с подкреплением, обработка естественного языка, распознование речи и образов. И, наконец, учащимся предложат курс по этике ИИ - будут рассмотрены юридические и моральные аспекты, связанные с обработкой персональных данных и построением систем ИИ. Готовы приступить?

Чат-бот S7 Airlines поможет купить билеты

Чат-бот авиакомпании в Facebook Messenger готов ответить на вопросы о доступных авиабилетах, подобрать город для путешествия. При необходимости, если чат-бот не сможет самостоятельно справиться с ответом на тот или иной вопрос, он переведет беседу на оператора-человека, который продолжит общение, изучив историю переписки. Ответы оператора чат-бот добавит в свою базу знаний, чтобы в следующий раз справиться с ответом самостоятельно. Чат-бот компании реализован на платформе Zenbot компании JustAI. В основе платформы - обучаемая нейронная сеть. Подробнее

+ +

Смотрите связанные статьи Robo-педии:

  Публикации

Последние материалы

Метки
AGV ai BVLOS DARPA DIY DIY (своими руками) DJI Lely pick-and-place RPA VTOL аватары авиация автоматизация автомобили автомобили и роботы автономные аддитивные технологии андроиды анималистичные АНПА антропоморфные Арт архитектура аэромобили аэропорты аэротакси безопасность безработица и роботы беспилотники бионика больницы будущее бытовые роботы вакансии вектор вертолеты видео внедрения роботов внутритрубная диагностика водородные военные военные дроны военные роботы встречи высотные выставки газ Германия глайдеры горнодобыча городское хозяйство господдержка гостиницы готовка еды Греция грузоперевозки группы дронов гуманоидные дайджест Дания доение роботизированное доильные роботы дом домашние роботы доставка доставка беспилотниками доставка и роботы дронизация дронопорты дроны Европа еда железные дороги животноводство жилище захваты земледелие игрушки идеи измерения Израиль ИИ ИИ - вкратце инвентаризация Индия Иннополис инспекция интервью интерфейсы инфоботы Ирак Иран искусственный интеллект испытания исследования история Италия Казахстан как заработать Канада квадрупеды кейсы киборгизация кино Китай коботы коллаборативные роботы колонки коммунальное хозяйство компании компоненты конкурсы конспекты конструкторы концепты кооперативные роботы космос культура курьезы курьеры лабораторные роботы Латвия лесоустройство лизинг линки логистика люди и роботы магазины машинное обучение медицина медицина и роботы металлургия мнения мобильные роботы мойка море морские мусор мусор и роботы навигация надводные наземные военные роботы налоги наука научные роботы необычные нефтегаз нефть Нидерланды Новая Зеландия Норвегия носимые роботы ОАЭ образование образовательная робототехника обучающие роботы общепит общепит и роботы общество Объединенное Королевство октокоптеры онлайн-курсы робототехники опрыскивание офисные охрана и беспилотники охрана и роботы парники патенты персональные роботы пищепром пляжи ПО подводные подводные роботы подземные пожарные пожарные роботы поиск полевые роботы полезные роботы полиция помощники Португалия порты последняя миля потребительские роботы почта право презентации пресс-релизы применение беспилотников применение дронов применение роботов прогнозы проекты производство производство дронов происшествия промышленность промышленные роботы противодействие беспилотникам псевдоспутники работа развлечения и беспилотники развлечения и роботы разработка распознавание речи растениеводство регулирование регулирование дронов регулирование робототехники рекорды рисунки робомех робомобили роботакси роботизация робототехника роботрендз роботренды роботы роботы и автомобили роботы и мусор роботы и обучение роботы и развлечения роботы и строительство роботы телеприсутствия роботы-транспортеры робошум рои рой Россия Руанда сад садоводство сайт RoboTrends.ru сбор урожая сборка заказов сварка связь сделки сельское хозяйство сенсоры сервисные роботы синтез речи склады склады и роботизация соревнования сортировка сотрудничество софт-роботика социальная робототехника социальные социальные роботы спорт спорт и дроны спорт и роботы спутниковая статистика строительство судовождение США такси телеком телеприсутствие теплицы теплосети термины терроризм тесты технологии техносказки торговля транспорт транспортные роботы тренды трубопроводы трубопроводы и роботизация уборка Украина уличные роботы участники рынка фотограмметрия Франция химия хобби-беспилотники ховербайки Хождение цифры частоты чатбот шагающие роботы Швейцария Швеция шоу экзоскелеты эко-дроны экология электроника энергетика этика (робоэтика) Южная Корея юмор Япония

Подписка: RSS, Email, Telegram
  Информация