Специалист по искусственному интеллекту Джейкоб Коксон ушёл из Anthropic, разработавшей систему Claude. В интервью The Wall Street Journal он объяснил решение опасениями из-за ускоряющегося развития технологий. По словам эксперта, он не хочет участвовать в гонке, последствия которой могут оказаться неконтролируемыми.
Коксон считает, что компании слишком быстро внедряют ИИ, не обеспечив достаточные меры безопасности. Наибольшую тревогу у него вызывают системы, способные превзойти человека сразу в нескольких областях. Эксперт полагает, что разработчики недооценивают связанные с этим риски.
«Мы движемся по пути, ведущему к воплощению наиболее грозных сценариев, при которых уже к концу следующего года ситуация может выйти из-под контроля», — заявил Коксон. Он не уточнил, какие именно последствия считает наиболее вероятными. При этом специалист связал их с нынешними темпами технологической конкуренции.
Свою карьеру в области ИИ Коксон начал в OpenAI, а позднее перешёл в Anthropic. По его словам, изначально эта компания казалась ему более ориентированной на безопасность. Однако со временем он пришёл к выводу, что одних намерений отдельных разработчиков недостаточно для решения общей проблемы.
Коксон считает, что предотвратить наиболее опасный сценарий смогут только государственное регулирование или сознательное замедление разработки ИИ. В противном случае, полагает он, конкуренция между компаниями будет ускорять технологическую гонку. Это, по его мнению, не сделает развитие искусственного интеллекта безопаснее.
