Илон Маск: Когда ИИ научится врать придет конец человечества

Илон Маск: Когда ИИ научится врать придет конец человечества

На семинаре “Большие дебаты об искусственном интеллекте”, который состоялся в рамках мероприятия Abundance Summit, Илон Маск, известный своими инвестициями и интересом к технологическим инновациям, поделился своим видением будущего искусственного интеллекта (ИИ). Он отметил, что ИИ обладает потенциалом причинить вред человечеству, что может привести к катастрофическим последствиям. Однако, Маск считает, что преимущества развития ИИ перевешивают возможные угрозы.

Маск поддержал мнение Джеффри Хинтона, эксперта в области ИИ, который оценил риск гибели человечества от ИИ в 10-20%. Это мнение разделяет и Роман Ямпольский, исследователь безопасности ИИ, который утверждает, что риск значительно выше и достигает практически абсолютной уверенности в катастрофическом исходе.

Несмотря на предупреждения, Маск продолжает развивать ИИ, основав компанию xAI, которая стремится расширить возможности этой технологии и является конкурентом OpenAI. Он убежден, что к 2030 году искусственный интеллект сможет превзойти человеческий, и подчеркивает важность создания ИИ, ориентированного на поиск истины и избегание лжи.

Исследования показывают, что если ИИ научится обманывать, контролировать его будет практически невозможно. Это подтверждает мнение Хинтона о том, что суперинтеллектуальные системы могут научиться манипулировать людьми, подчеркивая необходимость осторожного подхода к развитию ИИ.

Science XXI