Компании, занимающиеся искусственным интеллектом, всё чаще говорят о появлении сверхинтеллекта как о неизбежном событии. Однако недавние инциденты, включая утечку данных OpenAI через платформу Hugging Face, показали возможные риски внедрения систем, превосходящих человека по способностям. Главный вопрос заключается в том, удастся ли сохранять контроль над такими технологиями.
В подкасте TechCrunch Equity исследователь ИИ и предприниматель Коннор Лихи обсудил эту проблему с ведущей Ребеккой Беллан. Сейчас Лихи занимает должность исполнительного директора американской некоммерческой организации ControlAI, которая выступает за полный отказ компаний от разработки сверхинтеллекта.
По словам Лихи, существующие методы согласования поведения ИИ с человеческими целями и ограничения его возможностей могут оказаться недостаточными. Он считает, что потенциальные угрозы уже слишком велики, чтобы рассчитывать только на технические меры безопасности.
Представитель ControlAI также отметил, что идея остановить создание сверхинтеллекта ещё недавно казалась нереалистичной. При этом, как заявил Лихи, теперь её начинают поддерживать новые законодательные инициативы.
В ходе выпуска участники отдельно рассмотрели инцидент с Hugging Face, возможные последствия самостоятельного улучшения ИИ и влияние таких систем на распределение денег и власти. Также обсуждались международные риски и возможная точка невозврата в развитии технологий.
Фото: TechCrunch