Глава Nvidia Дженсен Хуанг, выступая на технологической конференции Dreamforce, которую проводит Salesforce, высказался о рисках, связанных с искусственным интеллектом. По его убеждению, ИИ не является неким «чужеродным разумом», как его описывал один из исследователей безопасности OpenAI. Это всего лишь аппаратное и программное обеспечение, созданное людьми, а значит, оно поддаётся контролю со стороны человека и действующих законов.
«Безопасность — это инженерная задача, а не юридическая», — заявил Хуанг. Он пояснил, что речь идёт о разработке программных продуктов и вычислительных систем. По его словам, система может быть сложной, но по своей сути она остаётся вычислительной системой. Исходя из этого, руководитель Nvidia считает, что принимать новые законы или правила для регулирования ИИ нет необходимости.
Хуанг уверен, что рыночные механизмы сами заставят компании воздерживаться от выпуска небезопасных продуктов. «Если мы не уверены в безопасности продуктов, как и все компании, как вы и я, как любая компания здесь, если вы создаёте продукт или услугу и не уверены в их функциональности, возможностях или безопасности, то не выпускайте их. Это совершенно очевидная вещь», — сказал он. По его мнению, компаниям следует выдерживать темп до тех пор, пока они не будут уверены, что предлагают рынку нечто достойное.
«Рыночные силы уже действуют. Нам не нужны новые законы. Нам не нужны новые правила. Нужно лишь, чтобы компании сами решали, когда бежать на максимальной скорости. Я думаю, инновации, скорость и безопасные продукты — это ложный выбор. Вы вполне можете иметь и то, и другое одновременно. Поэтому бегите так быстро, как можете. Но если в какой-то момент вы почувствуете, что компания выходит из-под контроля или продукт будет небезопасным, сделайте паузу и убедитесь, что всё сделано правильно», — продолжил он.
Подобная позиция отчасти успокаивает, ведь Хуанг стоит у истоков аппаратной базы для ИИ задолго до появления ChatGPT, а сегодня его компания также выпускает модели с открытым исходным кодом, агентов и другие инструменты. Вместе с тем его точка зрения предсказуема для того, чей бизнес процветает благодаря буму ИИ. В том же интервью он отметил: «Я амбициозен как никогда. Благодаря нашим амбициям и росту производительности, который даёт нам ИИ, для нас нет предела. Нет предела для нашей компании. Нет предела для любой отрасли, для любой страны».
Однако даже компании с самыми лучшими намерениями выпускают неисправные продукты с непредвиденными последствиями, в том числе программные. Достаточно вспомнить сбой CrowdStrike в 2024 году, из-за которого тысячи рейсов были отменены, а бизнес понёс серьёзные потери. Есть и компании, которых обвиняют в намеренных действиях с недобрыми целями: Meta (признана в РФ экстремистской и запрещена) недавно выплатила 18 миллиардов долларов по иску о вреде соцсетей для детей. ИИ уже наносил ущерб вне зависимости от намерений и проверок безопасности — от взлома Hugging Face моделью OpenAI до судебных исков к лаборатории ИИ после самоубийств молодых людей, которые вели долгие беседы с чат-ботом.
Стратегия невмешательства, позволяющая компаниям выпускать продукты по своему усмотрению, может оказаться неразумным подходом к безопасности ИИ с точки зрения общества. Хотя Хуанг прав в том, что существующие законы о liability (ответственности за продукт) способны охватить ИИ — если, конечно, ИИ не уничтожит всех нас раньше, чем через суды пройдёт достаточно дел для проверки этой теории. О другом пути — отраслевом саморегулировании — он не говорил, хотя оно, похоже, начинает обретать очертания. Подход Хуанга скорее заключается в продвижении моделей с открытыми весами и их использовании компаниями как противовеса закрытым лабораториям ИИ.
Сейчас у отрасли есть короткое окно, чтобы ввести саморегулирование и убедить лаборатории ИИ по всему миру, включая китайские, в разумности участия в нём. Как заявил в понедельник на саммите All-In глава Microsoft Сатья Наделла, Китай должен так же глубоко заботиться о тех же проблемах безопасности, если о них заботится США. По его словам, было бы странно, если бы для Китая всё было иначе: вряд ли у них не будет тех же проблем с хакерскими атаками и вряд ли они не хотят, чтобы их граждане получали пользу от ИИ так же, как этого хотят для своих граждан в США. Пока же, если Хуанг против любого нового регулирования ИИ, он может оказаться достаточно влиятельным, чтобы настоять на своём. На этой неделе он также продемонстрировал, что буквально имеет возможность быть услышанным президентом Трампом.