Amerykańskie ramy zarządzania ryzykiem sztucznej inteligencji
Dobrowolny przewodnik Narodowego Instytutu Standaryzacji i Technologii Stanów Zjednoczonych, który pomaga organizacjom rozpoznawać, mierzyć i kontrolować ryzyko systemów sztucznej inteligencji. Wydany w styczniu 2023 r., obecnie w trakcie przeglądu.
Nazwa oficjalna: Ramy zarządzania ryzykiem sztucznej inteligencji, wersja 1.0
Cytat: Wersja 1.0, wydana 26 stycznia 2023 r.
Rok / status: Dobrowolne ramy; w trakcie przeglądu
Co robi
Narodowy Instytut Standaryzacji i Technologii Stanów Zjednoczonych, agencja federalna w strukturze Departamentu Handlu, wydał wersję 1.0 tych ram 26 stycznia 2023 r., po publicznym zapytaniu o informacje, kilku projektach i otwartych warsztatach. Prace zlecił Kongres w ustawie o krajowej inicjatywie w dziedzinie sztucznej inteligencji z 2020 r. Instytut opisuje ramy jako dobrowolne, chroniące prawa, otwarte dla każdego sektora i odpowiednie dla każdego zastosowania sztucznej inteligencji w organizacjach każdej wielkości.
Gdzie obowiązuje / status
Ramy opierają się na czterech funkcjach. „Zarządzaj” buduje kulturę zarządzania ryzykiem i przenika pozostałe trzy. „Mapuj” opisuje kontekst i rozpoznaje ryzyka systemu. „Mierz” za pomocą metod ilościowych i jakościowych analizuje, ocenia i monitoruje te ryzyka. „Reaguj” kieruje zasoby na rozpoznane i zmierzone ryzyka oraz planuje odpowiedź na incydenty. 26 lipca 2024 r. instytut dodał profil dla generatywnej sztucznej inteligencji, a 7 kwietnia 2026 r. opublikował notę koncepcyjną profilu godnej zaufania sztucznej inteligencji w infrastrukturze krytycznej.
Udokumentowane korzyści albo zamierzony skutek
Ramy dają organizacjom, które projektują, rozwijają, wdrażają lub używają systemów sztucznej inteligencji, wspólny język do mówienia o ryzyku. Godną zaufania sztuczną inteligencję opisuje siedem cech: trafność i niezawodność; bezpieczeństwo; ochrona i odporność; rozliczalność i przejrzystość; wyjaśnialność i interpretowalność; ochrona prywatności; sprawiedliwość przy kontroli szkodliwych uprzedzeń. Instytut uzupełnia ramy materiałami towarzyszącymi, w tym praktycznym poradnikiem, mapą drogową i zestawieniami z innymi normami, a 30 marca 2023 r. uruchomił Centrum zasobów na rzecz godnej zaufania i odpowiedzialnej sztucznej inteligencji, aby pomóc organizacjom stosować ramy w praktyce.
Zastrzeżenia
Stosowanie ram jest dobrowolne i same w sobie nie tworzą obowiązków prawnych. Instytut informuje, że wersja 1.0 jest poprawiana w ramach planu działań Białego Domu w sprawie sztucznej inteligencji, więc części ram mogą się zmienić. Ramy opisują pożądane rezultaty i pozostawiają wybór metod każdej organizacji, więc dwie organizacje mogą stosować je bardzo różnie.
Źródła
Strona ram, wersja 1.0 i profil sztucznej inteligencji generatywnej.
- Narodowy Instytut Standaryzacji i Technologii Stanów Zjednoczonych: Ramy zarządzania ryzykiem sztucznej inteligencji (AI Risk Management Framework)
- Narodowy Instytut Standaryzacji i Technologii Stanów Zjednoczonych: Ramy zarządzania ryzykiem sztucznej inteligencji, wersja 1.0 (Artificial Intelligence Risk Management Framework, AI RMF 1.0, NIST AI 100-1)
- Narodowy Instytut Standaryzacji i Technologii Stanów Zjednoczonych: profil generatywnej sztucznej inteligencji (Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, NIST AI 600-1)
- Wikimedia Commons: Jabłoń Newtona w Gaithersburgu, zdjęcie (NIST Gaithersburg Newton Apple Tree)
