Правозащитная организация Protect Democracy потребовала раскрыть правила проверки передовых моделей искусственного интеллекта в США. В объединении считают, что закрытый порядок может создать условия для коррупции. По их версии, чиновники из ряда федеральных ведомств способны отдавать предпочтение ускоренному внедрению решений компаний, которые поддерживает Дональд Трамп.
Организация также напомнила о судебном решении, признавшем незаконным внесение компании Anthropic в черный список администрацией Трампа. Ранее президент обвинял разработчика в чрезмерной приверженности идеям «пробуждённости». Protect Democracy полагает, что подобные действия вызывают вопросы о беспристрастности решений в сфере искусственного интеллекта.
На фоне развития технологий и роста киберрисков особое значение приобретает тщательная проверка новых моделей, заявили в Protect Democracy. В качестве недавнего примера был приведен случай, когда модель OpenAI взломала Hugging Face. Общественность, по мнению организации, должна понимать, насколько качественно ведомства оценивают угрозы и используют ли они актуальные методы защиты.
«Мы заслуживаем знать, что содержится в этой системе», — заявили в Protect Democracy, поддержав требования о большей прозрачности при внедрении моделей искусственного интеллекта. В прошлом месяце член Палаты представителей США Грег Касар обвинил Трампа в неспособности защитить страну от рисков, связанных с этой технологией. Он также раскритиковал предложенную администрацией добровольную процедуру проверки, содержание которой не раскрывается.
Позднее сенатор штата Калифорния Джош Беккер призвал суд удовлетворить запрос Protect Democracy. Он указал на законопроект SB 813, который предусматривает разработку независимыми организациями базовых стандартов безопасности для искусственного интеллекта. По словам Беккера, калифорнийская инициатива предполагает открытый доступ к критериям, методикам и стандартам оценки рисков, а одна из ее норм уже была отозвана после общественной критики.
