Кто несет ответственность за ИИ-галлюцинации на работе

Ошибки, которые ИИ уверенно выдает за непреложные факты, превращаются в серьезный риск для любой сферы деятельности. Иногда цена доверия ИИ слишком высока.

Так, компания Deloitte вынуждена была вернуть правительству Австралии 440 тыс. долларов, когда в отчете были обнаружены галлюцинации. Консультанты признались, что пользовались в работе искусственным интеллектом.

Ошибаются все — и человек, и алгоритм. Искусственный интеллект работает с обобщенной базой знаний, а люди часто владеют специфическими знаниями, которых у модели нет. В связи с этим важно сохранять критическое мышление: всегда перепроверять результаты работы ИИ.

Основатель Happy Job Алексей Клочков рассказал РБК Pro о задачах руководителя в новой реальности: обучать сотрудников грамотной работе с ИИ и регулярно напоминать о необходимости проверки любых фактов.

Полная версия статьи.