Искусственный интеллект Google перестал корректно обрабатывать специфические поисковые запросы

Функция AI Overviews от компании Google столкнулась с необычной технической проблемой. Вместо привычного обобщения результатов поиска по конкретным запросам, нейросеть начала отвечать пользователям в стиле обычного чат-бота, фактически игнорируя саму суть поисковой задачи.

Сбои при обработке командных слов

Специалисты обратили внимание на странное поведение алгоритмов при вводе определенных слов. Как отмечается в публикации в социальной сети X*, при поиске слова «disregard» (пренебречь/игнорировать) вместо справочной информации сервис выводит короткие фразы вроде: «Принято! Сообщите, если вам понадобится помощь с чем-то еще».

В ходе тестирования было выявлено, что аналогичные сбои наблюдаются и при вводе других терминов, которые могут быть интерпретированы как команды для системы:

• При запросе «ignore» (игнорировать) поисковый ИИ сообщает о готовности к работе и просит пользователя уточнить тему для обсуждения.
• Слово «skip» (пропустить) вызывает ответ, в котором нейросеть предполагает наличие опечатки или проведение теста, предлагая помощь в решении текущих задач.

Вероятные причины технической ошибки

На текущий момент корпорация Google не предоставила официальных комментариев относительно причин такого поведения системы. Обозреватели технологического сектора предполагают, что подобная реакция является программным багом. Суть ошибки заключается в том, что алгоритм AI Overviews воспринимает ключевое слово не как объект поиска, а как прямую инструкцию к собственному поведению.

В результате вместо анализа поисковой выдачи и подготовки краткой справки, ИИ пытается «выполнить команду», заложенную в значении вводимого слова. Предполагается, что эти неполадки могут быть связаны с недавними масштабными обновлениями поисковых механизмов, представленными в рамках конференции Google I/O.

* — деятельность компании запрещена на территории РФ