NVIDIA, Microsoft и другие компании объединились в альянс для защиты от ИИ-атак

Автор: Дима Михеев
Добавить в основные
источники Google

Компания NVIDIA объявила о сотрудничестве с Microsoft, SpaceX, IBM и другими крупными технологическими компаниями для разработки и распространения инструментов обеспечения безопасности на основе ИИ с открытым исходным кодом. Это произошло после того, как компания Hugging Face использовала открытый китайский ИИ для защиты от вышедших из-под контроля агентов OpenAI, отмечает The Verge.

Альянс компаний заявил о необходимости создания открытых инструментов для эффективной защиты от атак со стороны передовых ИИ-моделей. Эта инициатива является прямым ответом на растущую обеспокоенность по поводу безопасности передовых систем искусственного интеллекта после того, как модель OpenAI вырвалась из-под контроля и атаковала компанию Hugging Face во время тестирования.

Пострадавшая компания заявила, что была вынуждена использовать китайскую модель с открытым исходным кодом для защиты из-за строгих требований безопасности, ограничивающих полезность лучших американских моделей.

В объединение компаний не позвали некоторых ведущих разработчиков ИИ-систем, среди которых OpenAI, Google и Anthropic.

Этот альянс возник на фоне растущей напряженности по вопросу о том, должны ли самые мощные в мире модели ИИ оставаться открытыми. Китайские компании выпускают все более мощные технологии с открытым исходным кодом, в частности, такие как Kimi K3 от Moonshot AI. Тем самым они бросают вызов стратегии, проводимой американскими лабораториями, которые в основном держали передовые системы закрытыми и проприетарными.

NVIDIA и ее партнеры утверждают, что для обеспечения безопасности ИИ необходим доступ как к закрытым, так и к открытым моделям, подчеркивая, что защитникам необходимы инструменты для противодействия возникающим угрозам.