Бывший исследователь Anthropic Джейкоб Коксон сравнил искусственный интеллект со сознанием инопланетного разума. По его словам, разработка сверхинтеллекта может представлять опасность, поскольку люди не смогут полностью оценить его способности. Специалист считает, что подобная аналогия помогает нагляднее понять возможные угрозы.
Коксон заявил, что создание сверхинтеллекта можно воспринимать как приглашение неизвестного внеземного вида. Он отметил, что такой подход позволяет иначе взглянуть на последствия развития передовых систем искусственного интеллекта. При этом исследователь не уточнил, каким именно образом могут проявиться эти риски.
Ранее глава Anthropic Дарио Амодей призвал замедлить разработку более мощных моделей ИИ. Свою позицию он объяснил соображениями безопасности. Его поддержали руководитель OpenAI Сэм Альтман и предприниматель Илон Маск.
Коксон ранее сообщил об уходе из индустрии искусственного интеллекта. Решение он связал с опасениями по поводу технологической гонки между разработчиками. По оценке специалиста, стремительное развитие ИИ способно привести к «точке невозврата» уже к концу 2027 года.