Akt UE w sprawie AI: rozporządzenie w sprawie sztucznej inteligencji (UE 2024/1689)

Akt UE w sprawie AI to pierwsze na świecie kompleksowe ramy prawne regulujące sztuczną inteligencję. Przyjęty w 2024 roku, wprowadza oparte na ryzyku podejście do zarządzania AI i dzieli systemy AI na cztery kategorie ryzyka: ryzyko niedopuszczalne (zakazane), wysokie ryzyko (ściśle regulowane), ograniczone ryzyko (obowiązki w zakresie przejrzystości) i minimalne ryzyko (w dużej mierze nieregulowane). Rozporządzenie ma zastosowanie do dostawców, podmiotów stosujących, importerów i dystrybutorów systemów AI wprowadzanych na rynek UE lub takich, których wyniki są wykorzystywane w UE. Wprowadza obowiązkowe wymogi dla systemów AI wysokiego ryzyka, w tym zarządzanie ryzykiem, zarządzanie danymi, dokumentację techniczną, przejrzystość, nadzór ze strony człowieka oraz standardy dokładności i solidności. Akt obejmuje również modele AI ogólnego przeznaczenia, w tym modele podstawowe i generatywną AI, z określonymi obowiązkami dla modeli z ryzykiem systemowym.

1. Dostawcy systemów AI, którzy opracowują lub zlecają opracowanie systemów AI w celu wprowadzenia ich na rynek UE, niezależnie od tego, czy mają siedzibę w UE.
2. Podmioty stosujące (użytkownicy) systemy AI w UE, w tym przedsiębiorstwa i organy publiczne, które wykorzystują systemy AI w swojej działalności.
3. Dostawcy modeli AI ogólnego przeznaczenia, w tym modeli podstawowych i dużych modeli językowych, z rozszerzonymi obowiązkami dla modeli stwarzających ryzyko systemowe.
4. Importerzy i dystrybutorzy systemów AI na rynku UE, którzy muszą zapewnić zgodność przed udostępnieniem systemów.

1. 01

   Klasyfikacja ryzyka

   Organizacje muszą sklasyfikować swoje systemy AI według kategorii ryzyka określonych w akcie. Do systemów AI wysokiego ryzyka należą systemy stosowane w infrastrukturze krytycznej, edukacji, zatrudnieniu, ściganiu przestępstw, migracji i wymiarze sprawiedliwości.

2. 02

   System zarządzania ryzykiem

   Dostawcy systemów AI wysokiego ryzyka muszą wdrożyć ciągły system zarządzania ryzykiem w całym cyklu życia systemu AI, obejmujący identyfikację, analizę, oszacowanie i ocenę ryzyka oraz przyjęcie odpowiednich środków ograniczających.

3. 03

   Zarządzanie danymi

   Zbiory danych treningowych, walidacyjnych i testowych dla AI wysokiego ryzyka muszą spełniać kryteria jakości, w tym adekwatności, reprezentatywności, wolności od błędów i kompletności, z określonymi przepisami dotyczącymi wykrywania i ograniczania stronniczości.

4. 04

   Przejrzystość i nadzór ze strony człowieka

   Systemy AI wysokiego ryzyka muszą być projektowane tak, aby umożliwiać skuteczny nadzór ze strony człowieka, i muszą zawierać jasną instrukcję obsługi. W określonych kontekstach użytkownicy muszą być informowani, że wchodzą w interakcję z systemami AI.

5. 05

   Dokumentacja techniczna

   Dostawcy systemów AI wysokiego ryzyka muszą przygotować kompleksową dokumentację techniczną wykazującą zgodność, obejmującą architekturę systemu, metodykę rozwoju, procedury trenowania i wyniki testów.

6. 06

   Ocena zgodności

   Systemy AI wysokiego ryzyka muszą przejść procedury oceny zgodności przed wprowadzeniem do obrotu, a niektóre kategorie wymagają oceny przez jednostki notyfikowane.

Akt UE w sprawie AI wprowadza wielostopniową strukturę kar. Naruszenia dotyczące zakazanych praktyk w zakresie AI mogą skutkować karami do 35 mln euro lub 7% całkowitego rocznego światowego obrotu. Niespełnienie obowiązków dotyczących AI wysokiego ryzyka grozi karami do 15 mln euro lub 3% światowego obrotu. Przekazanie organom nieprawidłowych lub wprowadzających w błąd informacji może skutkować karami do 7,5 mln euro lub 1% światowego obrotu. MŚP i startupy korzystają z proporcjonalnych limitów kar. Państwa członkowskie muszą również ustanowić przepisy dotyczące kar za inne naruszenia i zapewnić, aby mechanizmy egzekwowania były skuteczne, proporcjonalne i odstraszające.

1. Lip 2024

   Akt w sprawie AI zostaje opublikowany w Dzienniku Urzędowym 12 lipca 2024 roku i wchodzi w życie 1 sierpnia 2024 roku.

2. Lut 2025

   Zaczynają obowiązywać zakazy praktyk w zakresie AI o niedopuszczalnym ryzyku.

3. Sie 2025

   Zaczynają obowiązywać zasady dotyczące modeli AI ogólnego przeznaczenia.

4. Lip 2026

   Przyjęcie omnibusu cyfrowego w sprawie AI (rozporządzenie (UE) 2026/1744), który przesuwa terminy dla wysokiego ryzyka.

5. Sie 2026

   Ogólne stosowanie aktu, w tym zasad przejrzystości z art. 50.

6. Gru 2026

   Zaczynają obowiązywać nowe zakazy dotyczące AI, która generuje intymne obrazy bez zgody lub materiały przedstawiające seksualne wykorzystywanie dzieci.

7. Gru 2027

   Obowiązki dotyczące wysokiego ryzyka zaczynają mieć zastosowanie do systemów z załącznika III.

8. Sie 2028

   Obowiązki dotyczące wysokiego ryzyka zaczynają mieć zastosowanie do produktów z załącznika I.