ИИ-тестирование правительства: новый план администрации исключает открытые модели
Волонтерные руководящие принципы администрации, созданные для оценки киберугроз, продиктованных искусственным интеллектом, полностью игнорируют «открытые» модели. Согласно отчету Axios, рамочное решение не только исключает модели, исходный код которых доступен любому для проверки, но и явно запрещает использовать его для их ограничения после выпуска.
# Политика безопасности ИИ: Разрыв между заявлениями и реальностью
В июне президент Дональд Трамп подписал исполнительный приказ, требующий от компаний ИИ делиться своими передовыми моделями с федеральным правительством до их выпуска. Цель была ясна: оценка потенциальных угроз кибербезопасности. Однако новый волонтерный фреймворк, детализирующий этот процесс, оказался ограничен по своему охвату и туман по содержанию. Особого внимания заслуживает тот факт, что система оценки рисков намеренно исключает открытые модели.
Исключение открытого кода
Согласно отчетам источников, включая Axios, добровольные рекомендации прямо не допускают участие открытых моделей. В этом контексте «открытая модель» означает программное обеспечение, чей исходный код доступен для загрузки и изучения любыми заинтересованными сторонами. Логика проста: если код открыт, его можно проанализировать, найти уязвимости и исправить их без необходимости проходить закрытое тестирование перед запуском.
Более того, документ содержит явное указание: данный фреймворк не может быть использован для того, чтобы ограничить использование открытых моделей после того, как они уже были опубликованы. Это создает интересный парадокс. Если правительство готово регулировать закрытые системы, которые скрыты от общественности, оно одновременно отказывается от инструментов контроля над открытыми системами, прозрачность которых является их основной чертой.
Компании, работающие в этой сфере, включая Anthropic, OpenAI и Google, прибыли на брифинг в Белом доме, чтобы обсудить финализированные правила. Однако детали самого фреймворка, как выясняется, не будут раскрыты публично. Это решение администрации вызывает вопросы о прозрачности самого процесса регулирования технологий, созданных ради общественного блага.
Туманность критериев оценки
Одной из ключевых характеристик нового подхода является его неопределенность. Документ устанавливает 30-дневный срок для правительства на рассмотрение новых моделей. В этот период оно будет оценивать, действительно ли конкретная модель является «передовой» и несет ли она риски для национальной безопасности.
Термины «передовая» (state-of-the-art) и «риск национальной безопасности» остаются неопределенными в тексте руководств. Отсутствие четких определений создает значительную неопределенность, особенно для небольших поставщиков ИИ. Для гигантов отрасли, таких как OpenAI или Anthropic, это лишь вопрос уточнения внутренних процессов. Для же менее известных компаний отсутствие четких критериев может означать непредсказуемость: они могут не знать точно, какой шаг приведет к признанию их продукта угрозой для национальной безопасности.
Это замечание кажется странным для инициативы, которую, как утверждается, создано специально для анализа именно этих параметров. Как можно эффективно оценивать угрозы, не имея четкого определения того, что именно считается угрозой?
Граница между приватным и публичным
Хотя соблюдение правил остается добровольным, передовые лаборатории активно ищут руководство, чтобы избежать ненужных ограничений со стороны государства. Отсутствие прозрачности в рамках процесса означает, что регуляторный ландшафт становится непрозрачным даже для тех, кого он регулирует.
История показывает, что попытки регулировать передовые технологии часто сталкиваются с необходимостью баланса между безопасностью и инновациями. Игнорирование открытого сектора, который обладает наибольшим потенциалом для независимой валидации безопасности, может ослабить общую устойчивость экосистемы ИИ. Если только те, кто может скрыть свои алгоритмы, попадают в зону обязательного тестирования, а открытое сообщество исключается из процесса, создается двухуровневая система доверия, где открытость становится наказуемой или, как в данном случае, безразличной.
Этот шаг администрации напоминает старую максиму о том, что лучшее решение часто остается на бумаге, но если оно не применимо ко всем участникам процесса, его эффективность ставится под сомнение.