Microsoft, Nvidia, Google и другие IT-компании образовали Коалицию за безопасный искусственный интеллект

Инициатива направлена на предоставление руководства путём обеспечения методологии с открытым исходным кодом, стандартизированных фреймворков и инструментов, позволяющих разработчикам создавать безопасные ИИ-системы.

В рамках CoSAI особое внимание уделят безопасной разработке, интеграции, развёртыванию и эксплуатации систем ИИ, снижая риски в виде кражи моделей, компрометации данных, кибератак и других несанкционированных действий злоумышленников.

Коалиция создаст совет управляющих проекта для продвижения и управления своей общей технической повесткой дня, а также технический руководящий комитет, включающий экспертов в области ИИ из академических кругов и промышленности, для надзора за различными направлениями работы.

Свои первоначальные задачи CoSAI определяет так:

• Безопасность цепочек поставок программного обеспечения для ИИ-систем: улучшение мониторинга состава и происхождения для защиты ИИ-приложений;

• Подготовка специалистов защиты для меняющегося ландшафта кибербезопасности: решение проблем инвестиций и интеграции в ИИ и классические системы;

• Управление безопасностью ИИ: разработка передовых практик и структур оценки рисков для безопасности ИИ.

Сопредседатель совета управляющих CoSAI от Google Дэвид ЛаБьянка заявил, что создание коалиции обусловлено необходимостью демократизации знаний и достижений, необходимых для безопасной интеграции и развёртывания ИИ.

Инициатива CoSAI по созданию подхода с открытым исходным кодом к безопасности ИИ — это важный шаг на пути к укреплению доверия и содействию ответственному развитию в этой быстро развивающейся отрасли ИИ, пишет Neowin. Портал добавляет, что CoSAI стремится предоставить разработчикам и организациям возможность создавать изначально безопасные ИИ-системы.