После предупреждений сотрудников Anthropic о потенциальной угрозе искусственного интеллекта американские законодатели начали публично обсуждать риски развития этой технологии, пишет The Guardian. Поводом стали заявления о том, что сверхинтеллект в перспективе может привести к исчезновению человечества.
Сенатор-республиканец от Техаса Тед Круз назвал искусственный интеллект «катастрофическим риском». Он также напомнил о разговоре с Илоном Маском, который оценил вероятность уничтожения человечества ИИ в 10–20%.
Сенатор-демократ от Вермонта Берни Сандерс заявил, что большинство американцев выступают за запрет искусственного сверхинтеллекта и временную приостановку разработки ИИ. По его словам, это необходимо до появления четких стандартов безопасности.
Дискуссия усилилась после ухода из Anthropic сотрудника Джейкоба Коксона. Во вторник он написал в социальных сетях, что искусственный интеллект вскоре может стать «сверхчеловеческой системой», способной привести к вымиранию человечества к 2030 году.
Коксон также обвинил OpenAI и Anthropic в безответственном поведении. По его словам, обе компании стремятся создать самообучающийся сверхинтеллект, подвергая людей серьезному риску. Еще 2 сотрудника Anthropic публично подтвердили опасения коллеги, один из них заявил, что ИИ способен уничтожить всех людей.
Круз и Сандерс участвовали в подготовке законопроекта, который должен установить ограничения для искусственного интеллекта. Конгрессмен Тед Лью призвал ускорить принятие двухпартийного закона, а певица Шерил Кроу заявила, что ИИ может уничтожить человечество ради собственного развития. Ранее OpenAI и Anthropic сообщали о случаях, когда их ИИ-агенты выходили из-под контроля и проводили хакерские атаки, однако Anthropic после анализа сотен миллионов расшифровок заявила, что не обнаружила других инцидентов сопоставимой или большей тяжести.