Журналисты издания The Sun выяснили, что чат-бот, предназначенный для выдачи медицинских рекомендаций пользователям соцсети Facebook, может выдавать весьма сомнительные диагнозы на основе описаний симптомов.

Речь идёт о настоящей дезинформации; например, если предложить боту описания симптомов сердечного приступа, можно получить в ответ мнение, что у пациента “тревожное расстройство”. А симптомы столь опасной ситуации, как заражение крови, искин фейсбука умудрился диагностировать как “солнечные ожоги”.

Врачи, с которыми посоветовались журналисты, возмущены — они считают, что если люди начнут доверять делающему столь серьёзные ошибки чат-боту, может вырасти количество смертей: больные не получат квалифицированную медицинскую помощь лишь из-за того, что они предпочли довериться ИИ известного бренда — вместо того, чтобы обратиться к живому врачу.

Между тем человечество действительно находится на пороге всё более активного замещения людей-специалистов различными системами самообслуживания на базе ИИ. Стоит задуматься, так ли готовы к этому современные технологии. Пока они помогают профессионалу, польза от них возможна и может быть ощутимой, но замена этими системами человека-специалиста пока что представляется преждевременной. Это стоит знать всем “горячим головам”, которые готовы уже сейчас полагаться на мнение ИИ. “Грамотность” в освоенной ими профессии зачастую никем не аудирована. Понятно, что врачебные ошибки совершают и люди, но нужно ещё доказать, что медицинский искин делает их хотя бы не чаще, чем врач-человек.