Стартап Pluto Security, разрабатывающий средства защиты корпоративных систем от рисков, связанных с искусственным интеллектом, привлёк $42 млн инвестиций. Компания уже обслуживает более 30 корпоративных клиентов, среди которых Oscar Health, Workato, Sixt и AlphaSense. Об этом сообщает TechCrunch.
Генеральный директор и сооснователь Pluto Security Шахар Бахат рассказала, что новый инструмент на базе ИИ может появиться в корпоративной среде всего через два часа после выпуска. Около 60% обнаруживаемых компанией угроз связаны с приложениями, созданными без участия профессиональных разработчиков с помощью ИИ. Чаще всего такие риски возникают в финансовых подразделениях, затем следуют маркетинговые и юридические команды, а разработчики занимают четвёртое место.
В одной из компаний из списка Fortune 500 специалисты Pluto обнаружили приложение, созданное сотрудником финансового отдела для работы с данными клиентов и показателями их оттока. Программа оказалась доступна из интернета, что создавало угрозу для хранящейся в ней информации. По словам Бахат, степень риска зависит от отношения руководителя службы информационной безопасности к ИИ и готовности организации внедрять такие инструменты, однако проблемы обнаруживаются даже при осторожном подходе.
«В целом я скажу, что не было ни одного пилотного проекта, в котором мы бы не обнаружили что-то вредоносное», — заявила Бахат. По её словам, опасные элементы находили среди расширений и навыков для ИИ, а во время некоторых проверок уже шли активные атаки. «Для меня с точки зрения продукта это прекрасно. Для компаний это не очень хорошо», — добавила она.
Pluto отслеживает не только действия сотрудников, но и поведение ИИ-агентов. Система анализирует используемые инструменты, расширения, навыки, серверы MCP (протокол контекста модели), создаваемые приложения и агентов, а также выявляет опасные компоненты и контролирует соблюдение политик безопасности. Для этого платформа подключается к средствам защиты конечных устройств и системам управления ими, собирая сведения о запросах, командах, процессах, разрешениях и предыдущих действиях пользователей.
Программа способна вмешиваться в работу агента в реальном времени. Если он пытается получить права, выходящие за пределы намерений пользователя, система может остановить операцию или добавить в сеанс инструкцию с требованием подтвердить действие. «Мы можем передать контекст обратно в сеанс и таким образом изменить работу агента», — пояснила Бахат. Финансирование Pluto включает посевной раунд на $8,5 млн под руководством TLV Partners и раунд серии A на $34 млн, который возглавил Jump Capital; средства направят на развитие продукта, исследования, расширение работы в США, где вместе с Израилем у компании насчитывается 40 сотрудников.