Использование искусственного интеллекта Google для улучшения поиска выявило проблемы в организации информации. Большая часть мировой информации сейчас находится в интернете, и Google, основанная в 1998 году, стала основным инструментом доступа к этой информации. В апреле 2024 года доля Google на канадском поисковом рынке составляла 90%, и для ученых сервисы Google Scholar и Google Books являются основными инструментами.
Однако, несмотря на значимость Google в качестве инфраструктуры для поиска, компания предпринимает социально вредные шаги, которые требуют вмешательства регулирующих органов. В мае 2024 года Google объявила о обновлении своего поискового сайта для интеграции искусственного интеллекта, что должно было «переосмыслить» поиск. Новый сервис, AI Reviews, представляет собой чат-бота, который использует модель большого языка (LLM) для предоставления ответов на запросы.
Запуск ChatGPT в 2022 году вызвал интерес к генеративному ИИ, но пользователи быстро поняли, что такие чат-боты являются ненадежными источниками информации. LLM не могут рассуждать и лишь формируют ответы на основе вероятности. Это привело к курьезным случаям, когда AI Reviews советовал добавлять клей в соус для пиццы или есть камни для здоровья. Google признала критику и пообещала улучшения, но проблемы, связанные с природой LLM, остаются.
Основные недостатки поиска Google связаны с зависимостью от рекламы и идеологией датаизма, при которой данные интерпретируются без внешнего контекста. Это ведет к искажению результатов поиска, так как Google ранжирует их по популярности, а не по экспертной оценке.
Такое искажение знаний подрывает доверие к информации и требует жестких мер со стороны регулирующих органов. Необходимы стандарты качества поиска, независимые от рекламы, и демократический контроль над поисковыми платформами, чтобы обеспечить доступ к надежным знаниям.
