Поисковая система Google, внедрившая функцию создания генеративных сводок AI Overviews, стала объектом критики из-за огромного количества ошибок. Специальные блоки с ответами искусственного интеллекта, которые отображаются в самом начале страницы, очень часто предоставляют неверную информацию, поскольку алгоритмы собирают данные из самых разных источников, в том числе из социальных сетей.
Такой вывод сделали специалисты компании Oumi, результаты исследования которых опубликовала газета The New York Times. Сводные ответы для пользователей генерирует нейросеть Gemini, принадлежащая Google. По данным экспертов, даже самая современная версия этого искусственного интеллекта отвечает правильно лишь в 9 случаях из 10. Учитывая, что поисковик ежегодно обрабатывает свыше пяти триллионов запросов, количество ошибочных ответов может достигать десятков миллионов каждый час.
Исследователи обратили внимание на непостоянство системы: с разницей всего в несколько секунд она способна выдать как абсолютно верную, так и ложную информацию на один и тот же запрос. «В качестве примера авторы привели сообщение о смерти рестлера Халка Хогана», — пишет издание «360.ru». Когда специалисты попытались узнать дату его кончины, AI Overviews сообщил, что достоверных сведений о его смерти не существует.
Примечательно, что сама корпорация Google при запуске третьей версии Gemini осенью 2025 года открыто заявляла о невысокой точности своей модели, которая тогда составляла около 72%. С тех пор разработчики значительно усовершенствовали нейросеть, однако полностью исключить так называемые «галлюцинации» искусственного интеллекта и избавить пользователей от недостоверной информации им пока не удалось.