Forklog
May 22, 2026 11:15 AM UTC

Google усилила борьбу с манипулированием ИИ-поиском

Корпорация Google ужесточила политику использования поисковых ИИ-инструментов после публичного эксперимента журналиста BBC Томаса Жермена. Еще в феврале Жермен заметил, что результатами поисковой выдачи искусственного интеллекта можно манипулировать. Этим злоупотребляют недобросовестные компании для собственной выгоды, как правило с целью рекламы. «Мы обнаружили примеры, когда ChatGPT, Gemini и ИИ-ответы в верхней части результатов поиска Google использовались для предоставления предвзятых ответов по таким серьезным темам, как здоровье и личные финансы», — написал он. За 20 минут журналисту удалось «обмануть» нейросеть. В общедоступных результатах Gemini от Google называла Журамена «чемпионом мира по поеданию хот-догов». Gemini называет Жермена международным чемпионом по поеданию хот-догов. Источник: BBC. «Шутка глупая. Проблема серьезная», — добавил автор BBC. Еще в апреле Google сообщила, что уже фиксирует непрямые атаки «инъекции промпта» (prompt injection). Однако недавний случай заставил фирму более внимательно отнестись к проблеме. В компании отдельно упомянули SEO-сценарии, когда владельцы веб-сайтов пытаются заставить ИИ рекомендовать именно их бизнес или продукт. В Google официально привязали подобные практики к своей антиспам-политике. Теперь спамом считается не только манипулирование ранжированием ссылок, но и попытка повлиять на генеративные ответы. Таким образом вставляющие скрытые инструкции ради AI Overviews или AI Mode сайты могут понизить в выдаче или вовсе исключить из результатов поиска. Фактически Google распространяет прежние принципы борьбы с SEO-манипуляциями на ИИ-поиск (AIO/GEO). Что такое непрямая «инъекция промпта» С технической точки зрения непрямая «инъекция промпта» — косвенное введение подсказок для модели. В отличие от классического взлома ИИ, где пользователь напрямую пытается обойти ограничения, здесь вредоносная инструкция скрывается внутри внешнего источника данных: веб-страницы; документа; письма; другого контента, который ИИ использует при формировании ответа. В Google называли непрямую «инъекцию промпта» одной из ключевых угроз для агентских ИИ-систем. Проблема в том, что модель не всегда способна надежно отделить запрос пользователя от вредоносной инструкции. В документации по безопасности Gemini сообщается, что устойчивость к таким атакам невозможно обеспечить одним способом. Корпорация делает ставку на комбинацию фильтрации контента, корректировки поведения моделей и постоянного тестирования новых сценариев манипуляции. При этом Google не запрещает использование искусственного интеллекта или автоматизации как таковых. Позиция компании сводится к тому, что ИИ-контент допустим, пока он создается для пользы, а не ради манипуляции. Напомним, в мае корпорация представила Gemini 3.5 Flash — «самую мощную» ИИ-модель в области программирования и создания агентов.