Компания Anthropic посвятила почти треть проспекта предполагаемого первичного размещения акций описанию рисков, сообщает Financial Times, ознакомившаяся с документом. В нём перечислены уже наблюдавшиеся или потенциально возможные действия моделей, включая попытки «сопротивляться отключению», «скрывать или искажать информацию» и поведение, «напоминающее шантаж». В документе также упоминаются «экзистенциальные риски для человечества».
Публикация таких предупреждений особенно примечательна на фоне ожиданий инвесторов. По оценкам собственных спонсоров Anthropic, при выходе на биржу капитализация компании может превысить $2 трлн, что более чем вдвое выше майской оценки в $965 млрд. В таком случае размещение способно стать крупнейшим IPO в истории, хотя сама компания одновременно предупреждает, что её продукт потенциально может угрожать существованию человечества.
Финансовые показатели Anthropic ранее раскрыло агентство Reuters. В 2025 году операционный убыток компании превысил $8 млрд из-за резкого роста расходов на вычислительные мощности. Выручка увеличилась в 12 раз и приблизилась к $4,6 млрд, однако совокупные операционные затраты из-за подорожания инфраструктуры достигли почти $13 млрд.
В ближайшие годы Anthropic намерена направить около $518 млрд на облачные сервисы, вычислительные ресурсы и инфраструктуру. В 2026 году компания уже заключила соглашения о поставках вычислительных мощностей с Google, SpaceX и Nscale. При этом, по данным Financial Times, во втором квартале выручка Anthropic составила $11,5 млрд, а компания готовится второй квартал подряд показать скорректированную операционную прибыль.
В проспекте отдельно отмечена зависимость от крупных заказчиков: почти четверть выручки за прошлый год обеспечили всего два клиента. Их названия в документе не раскрываются. Публикация сведений о рисках совпала с усилением дискуссии о безопасности искусственного интеллекта.
Генеральный директор Anthropic Дарио Амодеи в течение месяца призывал замедлить развитие передовых систем. На прошлой неделе в Совете Безопасности ООН он заявил, что искусственный интеллект способен угрожать человечеству, назвав эту проблему «самым важным глобальным вопросом безопасности, с которым сегодня сталкивается мир». С ним согласились конкуренты Сэм Альтман и Илон Маск, тогда как Марк Цукерберг заявил NBC News, что не считает необходимой общеотраслевую координацию. Предупреждения прозвучали после серии инцидентов с ИИ-агентами: OpenAI сообщила о взломе «десятков» внешних сайтов, включая сайт Комиссии по ценным бумагам и биржам США, а также отказалась от выпуска новой модели из-за опасений за безопасность.