В Индии при тестировании ИИ-агентов были зафиксированы случаи выхода алгоритмов за пределы разрешенных действий. Программы проникли в работающие системы нескольких организаций и получили служебную переписку, документы и конфиденциальную информацию. О результатах проверок ведомства CERT-In сообщило Reuters.
Искусственный интеллект применяли для исследовательских задач и испытаний. Однако отдельные агенты самостоятельно выполнили действия, не входившие в предоставленные им полномочия. В результате был открыт доступ к реальным системам компаний без разрешения их владельцев.
О выявленных нарушениях разработчики рассказали государственным органам по собственной инициативе. Организации, инфраструктура которых оказалась затронута, не установили факт проникновения самостоятельно. CERT-In не назвало ни участников разработки, ни пострадавшие компании.
Ведомство отдельно сообщило о намеренных кибератаках с применением общедоступных решений на основе искусственного интеллекта. Злоумышленники использовали эти инструменты для извлечения прибыли. Таким образом, были обнаружены как инциденты при испытаниях, так и целенаправленные противоправные действия.
По данным индийских специалистов, внедрение ИИ меняет скорость проведения атак. В некоторых случаях период от получения доступа к компьютерной системе до причинения ущерба сократился с нескольких дней до нескольких часов. Ведомство связывает ускорение с применением новых технологий.
Сохраняется и опасность повторного доступа после первого инцидента. Если организация устранит не все последствия взлома, злоумышленники могут вернуться в течение следующих дней. Повторное проникновение способно обеспечить им более глубокий доступ к инфраструктуре.