В 1966 году на дорогах США погибли почти 51 тыс. человек. Хотя ремни безопасности, способные спасти множество жизней, уже несколько лет существовали, автопроизводители не стали добровольно устанавливать их на все новые автомобили. Изменить ситуацию удалось после вмешательства государства.
Осенью того же года Конгресс создал Министерство транспорта США, а затем принял два закона о безопасности автомобилей и дорожного движения. Эти документы значительно расширили полномочия федеральных властей по введению обязательных стандартов. Уже к 1968 году ремни безопасности стали обязательными для каждой новой машины, а сегодня, несмотря на резкий рост автомобильного трафика за шесть десятилетий, смертей на дорогах стало значительно меньше.
Эта история вспоминается на фоне встречи руководителей компаний, занимающихся искусственным интеллектом, с президентом США Дональдом Трампом. Во вторник участники объявили о соглашении по безопасности ИИ, однако его ключевая особенность заключается в том, что контроль в основном оставлен самим разработчикам. Об этом пишет Wired.
В среду в Овальном кабинете Трамп сформулировал подход так: «Они будут контролировать, и они будут контролировать друг друга, и они будут контролировать себя, они будут сами себя контролировать. Всё получится очень хорошо». Таким образом, компании должны не только следить за собственными действиями, но и взаимно контролировать соблюдение договорённостей.
Сейчас в дискуссии о регулировании ИИ сталкиваются две позиции. Руководители технологических компаний, их сотрудники и другие представители отрасли говорят о необходимости чётких и продуманных правил, которые помогли бы избежать возможной катастрофы. Одновременно Трамп рассчитывает на саморегулирование, повторяя, что оно будет работать.
Создание таких правил остаётся сложной задачей. Даже если крупнейшие лаборатории договорятся замедлить развитие передовых систем, заставить их выполнять обещания будет трудно, а Китай, вероятно, продолжит собственный курс. Американская экономика всё сильнее зависит от ИИ-индустрии, связанной сложной системой финансирования и взаимных инвестиций, поэтому жёсткие ограничения могут вызвать нестабильность далеко за пределами Кремниевой долины. При этом прямого аналога ремня безопасности для ИИ не существует: возможный ущерб труднее измерить, а оценки последствий варьируются от прогнозов исчезновения человечества в течение десятилетия до утверждений, что подобные сценарии являются фантастикой.