KPMG отозвала отчет об агентском ИИ из-за галлюцинаций

Консалтинговая компания KPMG сняла с веб-сайтов отчет «Переосмысление совершенства в эпоху агентного ИИ» после претензий организаций к недостоверным или вводящим в заблуждение утверждениям об использовании ими технологии, пишет FT. Документ опубликовали в октябре 2025 года. В нем говорилось, что ряд крупных организаций уже применяют ИИ-агентов для автоматизации сложных бизнес-процессов, включая инвестиционный консалтинг, управление рисками, транспортную логистику и здравоохранение. UBS и транспортные компании опровергли заявления Одним из наиболее заметных примеров стал UBS. В отчете утверждалось, что банк интегрировал ИИ-помощников в инвестиционное консультирование, контроль рисков и комплаенс на платформе, разработанной совместно с Microsoft. Представитель UBS заявил изданию, что эти сведения «фактически неверны». После обращения банка KPMG начала удалять документ со своих ресурсов. Аналогичные претензии возникли у Swiss Federal Railways. В отчете говорилось, что железнодорожный оператор использует ИИ-агентов для планирования и оптимизации поездок с учетом предпочтений пассажиров и экологических факторов. В компании заявили, что подобное описание не соответствует действительности. Представители Transport for London также назвали утверждения KPMG о применении агентного ИИ для управления загруженностью транспорта и координации перевозок вводящими в заблуждение. GPTZero обнаружила признаки ИИ-галлюцинаций Неточности выявила исследовательская группа GPTZero, специализирующаяся на анализе контента, созданного искусственным интеллектом. По оценке экспертов, многие спорные фрагменты напоминают классические галлюцинации языковых моделей — случаи, когда система генерирует убедительно выглядящую, но недостоверную информацию. Особое внимание привлек кейс Национальной службы здравоохранения Большого Манчестера. KPMG утверждала, что организация использует агентный ИИ для прогнозирования повторных госпитализаций и маршрутизации пациентов. Однако источник, на который ссылался отчет, описывал лишь применение технологии в проекте по раннему выявлению рака легких и не содержал подобных заявлений. Проблема затронула весь консалтинговый сектор В KPMG заявили, что серьезно относятся к вопросам точности публикуемых материалов и проводят внутреннее расследование обстоятельств появления ошибок. Компания подчеркнула, что ее политика требует обязательной проверки материалов человеком и верификации независимых источников. Инцидент стал очередным примером проблем, связанных с использованием генеративного ИИ в профессиональных услугах. В мае аналогичный отчет была вынуждена отозвать компания EY после обнаружения фиктивных ссылок и других ошибок. Ранее о неточностях, вызванных использованием ИИ, сообщала и юридическая фирма Sullivan & Cromwell. Риски для рынка исследований Генеральный директор GPTZero Edward Tian предупредил, что ошибки в отчетах крупнейших консалтинговых компаний способны создавать эффект «вторичных галлюцинаций», когда недостоверная информация начинает распространяться через СМИ, аналитические обзоры и исследования других организаций. По данным GPTZero, на выводы спорного отчета KPMG уже ссылались отраслевые издания и крупные зарубежные СМИ. Эксперты отмечают, что подобные случаи подрывают доверие к аналитическим материалам компаний, которые одновременно консультируют клиентов по вопросам внедрения ИИ и управления связанными с ним рисками. Напомним, в июне CEO Anthropic Дарио Амодеи призвал власти США ужесточить подход к регулированию искусственного интеллекта.