В последнее время в социальных сетях появилось множество примеров того, как недавно запущенный ИИ-поисковик Google выдает причудливые ответы на запросы пользователей. От рекомендаций добавлять клей в пиццу до предложений съесть камни.

На фоне этого Google вручную отключает функцию обзоров, генерируемых с помощью ИИ, для определенных запросов, из-за чего многие странные ответы поисковика вскоре исчезают. Данная ситуация выглядит парадоксальной, учитывая, что Google уже год тестирует обзоры, создаваемые ИИ.

Бета-версия функции Search Generative Experience была запущена в мае прошлого года, и генеральный директор Google Сундар Пичаи утверждал, что за это время она обработала более миллиарда запросов. Пичаи также заявлял, что в период тестирования удалось снизить стоимость предоставления ИИ-ответов на 80% благодаря "аппаратным, инженерным и техническим прорывам".

Похоже, что эта оптимизация была проведена преждевременно, до того как технология была полностью готова к коммерческому использованию. Google продолжает настаивать, что в большинстве случаев ее ИИ-поисковик предоставляет пользователям "высококачественную информацию".

Представитель компании сообщил: "Многие примеры, которые мы видели, связаны с нестандартными запросами, а некоторые были сфальсифицированы или не воспроизводились нами". Он также подтвердил, что Google удаляет сгенерированные ИИ обзоры по некоторым запросам "где это необходимо согласно нашей политике в отношении контента".

Примеры неудачных ИИ-ответов используются для разработки улучшений поисковика, некоторые из которых "уже начали внедряться". Эксперт по ИИ и профессор Нью-Йоркского университета Гэри Маркус считает, что многие ИИ-компании "продают мечты" о повышении точности своих алгоритмов с 80% до 100%. По словам Маркуса, достичь 80% точности относительно просто, обучив алгоритм на большом объеме существующих данных. Однако увеличить точность еще на 20% - чрезвычайно сложная задача.

Алгоритм должен уметь "рассуждать", насколько правдоподобна та или иная информация и источники, то есть вести себя подобно человеку, проверяющему факты. Таким образом, несмотря на длительное тестирование, ИИ-поисковик Google все еще сталкивается с проблемами, давая странные ответы на некоторые запросы. Компании приходится вручную отключать функцию для таких запросов, что является временным решением. Достижение высокой точности в 100% для систем ИИ остается очень сложной задачей.

Источник: The Verge
Изображение: Шелеврум