Корпорация Google ужесточила политику использования поисковых ИИ-инструментов после публичного эксперимента журналиста BBC Томаса Жермена.
Еще в феврале Жермен заметил, что результатами поисковой выдачи искусственного интеллекта можно манипулировать. Этим злоупотребляют недобросовестные компании для собственной выгоды, как правило с целью рекламы.
«Мы обнаружили примеры, когда ChatGPT, Gemini и ИИ-ответы в верхней части результатов поиска Google использовались для предоставления предвзятых ответов по таким серьезным темам, как здоровье и личные финансы», — написал он.
За 20 минут журналисту удалось «обмануть» нейросеть. В общедоступных результатах Gemini от Google называла Журамена «чемпионом мира по поеданию хот-догов».
Gemini называет Жермена международным чемпионом по поеданию хот-догов. Источник: BBC.
«Шутка глупая. Проблема серьезная», — добавил автор BBC.
Еще в апреле Google сообщила, что уже фиксирует непрямые атаки «инъекции промпта» (prompt injection). Однако недавний случай заставил фирму более внимательно отнестись к проблеме.
В компании отдельно упомянули SEO-сценарии, когда владельцы веб-сайтов пытаются заставить ИИ рекомендовать именно их бизнес или продукт.
В Google официально привязали подобные практики к своей антиспам-политике. Теперь спамом считается не только манипулирование ранжированием ссылок, но и попытка повлиять на генеративные ответы.
Таким образом вставляющие скрытые инструкции ради AI Overviews или AI Mode сайты могут понизить в выдаче или вовсе исключить из результатов поиска. Фактически Google распространяет прежние принципы борьбы с SEO-манипуляциями на ИИ-поиск (AIO/GEO).
Что такое непрямая «инъекция промпта»
С технической точки зрения непрямая «инъекция промпта» — косвенное введение подсказок для модели.
В отличие от классического взлома ИИ, где пользователь напрямую пытается обойти ограничения, здесь вредоносная инструкция скрывается внутри внешнего источника данных:
веб-страницы;
документа;
письма;
другого контента, который ИИ использует при формировании ответа.
В Google называли непрямую «инъекцию промпта» одной из ключевых угроз для агентских ИИ-систем. Проблема в том, что модель не всегда способна надежно отделить запрос пользователя от вредоносной инструкции.
В документации по безопасности Gemini сообщается, что устойчивость к таким атакам невозможно обеспечить одним способом. Корпорация делает ставку на комбинацию фильтрации контента, корректировки поведения моделей и постоянного тестирования новых сценариев манипуляции.
При этом Google не запрещает использование искусственного интеллекта или автоматизации как таковых. Позиция компании сводится к тому, что ИИ-контент допустим, пока он создается для пользы, а не ради манипуляции.
Напомним, в мае корпорация представила Gemini 3.5 Flash — «самую мощную» ИИ-модель в области программирования и создания агентов.
US SEC and CFTC Sign MoU to Coordinate Crypto Regulation and...
Kraken Announces Pi Network Listing Ahead of Pi Day PI Price...
UEX US Expands Its Ecosystem: A Platform Where Digital Asset...
XRP Price Prediction: Can Bulls Push XRP Above $2 After This...
ETH News: Why Institutions Keep Choosing Ethereum Over Other...
Trump-Linked WLFI Launches World Swap Forex Platform
Thailand Approves Bitcoin for Derivatives Market, Crypto ETF...
Coinbase CEO Brian Armstrong Sells $550M in Shares as COIN S...
