Один из ведущих специалистов в области искусственного интеллекта Йошуа Бенджио выразил серьезную обеспокоенность стремительным развитием автономных систем искусственного интеллекта. Как один из основоположников технологии нейронных сетей, которые сегодня лежат в основе множества ИИ-инструментов, он призывает к более осторожному подходу в разработке подобных систем.
В интервью Sky News Бенджио отметил, что наблюдает, как разработчики в погоне за лидерством допускают опасные упрощения и становятся менее внимательными к вопросам безопасности. Несмотря на то, что скорость разработки может определить, кто создаст новый продукт стоимостью в миллиарды долларов, такой подход может нести серьезные риски для общества.
Ситуация особенно обострилась с появлением китайских компаний в сфере ИИ, таких как DeepSeek, чьи достижения в области чат-ботов привлекли внимание западных компаний и правительств. Вместо того чтобы замедлиться и тщательно оценить риски, крупные технологические компании ускоряют разработку ИИ в стремлении к превосходству.
Бенджио подчеркивает, что современные системы ИИ уже способны принимать автономные решения, а не просто обрабатывать информацию. При достаточной вычислительной мощности искусственный интеллект, способный разрабатывать стратегии, адаптироваться и действовать самостоятельно, может стать сложно контролируемым.
Эксперт не призывает к полной остановке разработок в области ИИ. Он остается оптимистом в отношении возможностей искусственного интеллекта, когда тот используется ответственно, например, в медицинских исследованиях или решении экологических проблем. Однако он настаивает на необходимости смещения приоритетов в сторону более продуманной и осторожной работы над технологиями ИИ.
По мнению Бенджио, регулирование должно подкрепляться готовностью компаний нести ответственность за свои системы. Они должны инвестировать в исследования безопасности не меньше, чем в улучшение производительности, хотя достижение такого баланса в современных условиях представляется сложным, сообщает Sky News.
