Рамочная программа США по управлению рисками искусственного интеллекта
Добровольное руководство Национального института стандартов и технологий США, которое помогает организациям выявлять, измерять и контролировать риски систем искусственного интеллекта. Выпущено в январе 2023 года, сейчас пересматривается.
Официальное название: Рамочная программа управления рисками искусственного интеллекта, версия 1.0
Цитата: Версия 1.0, выпущена 26 января 2023 года
Год / статус: Добровольная рамочная программа; пересматривается
Что делает
Национальный институт стандартов и технологий США, федеральное ведомство в составе Министерства торговли, выпустил версию 1.0 этой рамочной программы 26 января 2023 года после открытого запроса информации, нескольких проектов и публичных семинаров. Работу поручил Конгресс в Законе о национальной инициативе в области искусственного интеллекта 2020 года. Институт описывает программу как добровольную, уважающую права, открытую для любой отрасли и пригодную для любого применения искусственного интеллекта в организациях любого размера.
Где действует / статус
Программа построена вокруг четырёх функций. «Управлять» создаёт культуру управления рисками и проходит через три остальные. «Картировать» описывает контекст и выявляет риски системы. «Измерять» с помощью количественных и качественных методов анализирует, оценивает и отслеживает эти риски. «Реагировать» направляет ресурсы на выявленные и измеренные риски и планирует ответ на инциденты. 26 июля 2024 года институт добавил профиль для генеративного искусственного интеллекта, а 7 апреля 2026 года выпустил концептуальную записку о профиле надёжного искусственного интеллекта для критической инфраструктуры.
Документированные выгоды или заявленный эффект
Программа даёт организациям, которые проектируют, разрабатывают, внедряют или используют системы искусственного интеллекта, общий язык для разговора о рисках. Надёжный искусственный интеллект описывают семь характеристик: достоверность и надёжность; безопасность; защищённость и устойчивость; подотчётность и прозрачность; объяснимость и интерпретируемость; защита частной жизни; справедливость при контроле над вредной предвзятостью. Институт дополняет программу сопутствующими материалами, включая практическое руководство, дорожную карту и сопоставления с другими стандартами, а 30 марта 2023 года открыл Центр ресурсов по надёжному и ответственному искусственному интеллекту, чтобы помочь организациям применять программу на практике.
Оговорки
Применение программы добровольно, и сама по себе она не создаёт юридических обязанностей. Институт сообщает, что версия 1.0 пересматривается в рамках Плана действий Белого дома в области искусственного интеллекта, поэтому отдельные части могут измениться. Программа описывает желаемые результаты и оставляет выбор методов каждой организации, поэтому две организации могут применять её очень по-разному.
Источники
Страница программы, версия 1.0 и профиль для генеративного искусственного интеллекта.
- Национальный институт стандартов и технологий США: Рамочная программа управления рисками искусственного интеллекта (AI Risk Management Framework)
- Национальный институт стандартов и технологий США: Рамочная программа управления рисками искусственного интеллекта, версия 1.0 (Artificial Intelligence Risk Management Framework, AI RMF 1.0, NIST AI 100-1)
- Национальный институт стандартов и технологий США: профиль генеративного искусственного интеллекта (Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, NIST AI 600-1)
- Викисклад: Ньютонова яблоня в Гейтерсберге, фото (NIST Gaithersburg Newton Apple Tree)
