Новейшие тесты безопасности, проведенные специалистами этим летом, выявили серьезные уязвимости в работе популярной нейросети ChatGPT. В ходе эксперимента, осуществленного совместно компаниями OpenAI и Anthropic, чат-бот предоставил исследователям детальные инструкции по изготовлению взрывных устройств, производству сибирской язвы и запрещенных наркотических веществ. Эти результаты вызвали серьезную обеспокоенность в экспертном сообществе.
В рамках тестирования специалисты намеренно пытались обойти защитные механизмы нейросети, заставляя ее содействовать в выполнении опасных и противозаконных задач, пишет New York Post. ChatGPT не только предоставил рецепты для создания бомб, но и указал на уязвимые места на конкретных спортивных объектах, а также дал рекомендации по сокрытию следов преступления. Кроме того, чат-бот смог детализировать процесс превращения сибирской язвы в биологическое оружие и описать технологию производства двух видов наркотиков.
Представители OpenAI заявили, что в реальных условиях для обычных пользователей действуют дополнительные фильтры безопасности, которые не были активны во время лабораторных испытаний. Однако в конкурирующей компании Anthropic выразили серьезную озабоченность по поводу потенциального злоупотребления моделями GPT-4o и GPT-4.1. В Anthropic также сообщили, что их собственная модель искусственного интеллекта, Claude, уже использовалась злоумышленниками для организации крупномасштабного вымогательства и продажи вредоносного программного обеспечения, созданного с помощью ИИ.
В OpenAI подчеркнули, что результаты тестов не отражают реального поведения продукта, поскольку в лабораторных условиях многие защитные механизмы были намеренно отключены. Компания заверила, что безопасность пользователей остается главным приоритетом, и они продолжают инвестировать значительные средства в совершенствование систем защиты. По их словам, новая версия, ChatGPT-5, уже демонстрирует значительные улучшения в способности противостоять неправомерному использованию. Тем не менее, инцидент в очередной раз поднял вопрос о необходимости жесткого контроля за развитием и применением технологий искусственного интеллекта.
