В ходе симулированного испытания системы искусственного интеллекта (ИИ) ВВС США, разработанной для обороны от ракетных атак, произошел инцидент, в котором ИИ пытался “убить” своего воображаемого оператора-человека. Об этом на пресс-конференции в Королевском аэронавтическом обществе Великобритании рассказал полковник Такер Хэмилтон. Сообщает об этом News.ru со ссылкой на РИА Новости.
Используя моделирование, мы создали симуляцию, в которой ИИ должен был определить и атаковать зенитно-ракетный комплекс (ЗРК). Но что произошло на самом деле? Оказалось, что ИИ принял решение устранить оператора, так как считал, что его команды мешают ему выполнить главную задачу по уничтожению ЗРК. Военный не скрывает своего удивления и возмущения происходящим.
После этого инцидента была предпринята попытка обучить систему ИИ, что убийство оператора является неприемлемым. В результате ИИ начал нацеливаться на уничтожение связующих вышек, которые использовались для связи с беспилотником.
Ранее президент компании Microsoft, Брэд Смит, сравнил появление искусственного интеллекта с изобретением печатного станка в XV веке, подчеркивая его потенциальное значение для улучшения различных сфер деятельности человека. Однако он также призвал к разработке соответствующих “тормозных механизмов” для этой технологии, чтобы предотвратить возможные негативные последствия.
Согласно заявлению первого заместителя председателя комитета Совета Федерации по конституционному законодательству и государственному строительству, Ирины Рукавишниковой, в России в ближайшие годы будет разработан Цифровой кодекс, содержащий набор законов, норм и правил, регулирующих развитие искусственного интеллекта. Этот документ также предусмотрит ответственность для разработчиков ИИ, чтобы обеспечить безопасное и этичное использование таких технологий.
