Po trzech dniach intensywnych negocjacji między państwami członkowskimi a Parlamentem Europejskim Unia Europejska osiągnęła bezprecedensowe porozumienie, które reguluje rozwój sztucznej inteligencji (AI).
"Jest Umowa!" - napisał na platformie X unijny komisarz ds. rynku wewnętrznego i usług Thierry Breton. "To historyczny moment. UE staje się pierwszym kontynentem, który ustali jasne zasady korzystania ze sztucznej inteligencji" - dodał.
Podkreślił, że to "porozumienie polityczne" dotyczy ustawodawstwa, które powinno promować w Europie innowacyjność zaawansowanych technologii, ograniczając jednocześnie ich ewentualne nadużycia.
Historic!The EU becomes the very first continent to set clear rules for the use of AI The #AIAct is much more than a rulebook it's a launchpad for EU startups and researchers to lead the global AI race. The best is yet to come! pic.twitter.com/W9rths31MU
ThierryBretonDecember 8, 2023
Jak pisze agencja AFP, decydujący wpływ na rozpoczęcie procesu negocjacji miało pojawienie się pod koniec ubiegłego roku systemu ChatGPT, generatora tekstu kalifornijskiej firmy OpenAI, zdolnego do napisania w ciągu kilku sekund esejów, wierszy czy tłumaczeń.
System ten, podobnie jak systemy zdolne do tworzenia dźwięków czy obrazów, ujawnił światu ogromny potencjał sztucznej inteligencji, ale także pewne ryzyko. Przykładowo dystrybucja fałszywych zdjęć w sieciach społecznościowych ukazała niebezpieczeństwo manipulacji opinią społeczną.
Zjawisko generatywnej sztucznej inteligencji zostało uwzględnione w bieżących negocjacjach na wniosek posłów do Parlamentu Europejskiego, którzy nalegają na szczególny nadzór nad tego rodzaju technologią o dużym wpływie. W szczególności wezwano do większej przejrzystości w odniesieniu do algorytmów i gigantycznych baz danych, stanowiących serce tych systemów.
Państwa członkowskie przed rozpoczęciem negocjacji obawiały się, że nadmierne regulacje zduszą w zarodku rozwój ich wschodzących liderów w tej branży, takich jak Aleph Alpha w Niemczech i Mistal AI we Francji.
AFP tłumaczy, że porozumienie polityczne, osiągnięte w piątkowy wieczór, będzie uzupełnione pracami technicznymi w celu sfinalizowania tekstu. Dokładnie przeanalizujemy znaleziony dziś kompromis i w nadchodzących tygodniach zadbamy o to, aby tekst zachował zdolność Europy do rozwijania własnych technologii sztucznej inteligencji i zachował jej strategiczną autonomię - oświadczył francuski minister cyfryzacji Jean-Noel Barrot.
Kompromis przewiduje uwzględnienie dwóch prędkości - rozwoju sztucznej inteligencji i ograniczeń, uniemożliwiających nadużywanie jej. Na obie zostaną nałożone zasady, mające na celu zapewnienie jakości danych wykorzystywanych przy opracowywaniu algorytmów i sprawdzenie, czy nie naruszają one przepisów dotyczących praw autorskich. Twórcy będą musieli także dopilnować, aby tworzone dźwięki, obrazy i teksty były wyraźnie oznaczane jako sztuczne.
Sednem projektu jest lista zasad, nałożonych wyłącznie na systemy uznane za "wysokiego ryzyka", głównie stosowane w obszarach wrażliwych, takich jak infrastruktura krytyczna, edukacja, zasoby ludzkie, egzekwowanie prawa itp. Systemy te będą podlegać szeregowi obowiązków, takich jak zapewnienie ludzkiej kontroli nad maszyną, sporządzenie dokumentacji technicznej lub wdrożenie systemu zarządzania ryzykiem.
Przepisy przewidują wprowadzenie szczególnego nadzoru nad systemami sztucznej inteligencji, wchodzącymi w interakcję z człowiekiem. Zmusi ich to do poinformowania użytkownika, że ma kontakt z maszyną.
Dokument przewiduje też rzadkie stosowanie zakazów, które dotyczyć mają przede wszystkim zastosowań sprzecznych z europejskimi wartościami. Jako przykład, którego nie należy naśladować, podane są Chiny, gdzie istnieją systemy oceny obywateli czy masowego nadzoru bądź zdalna biometryczna identyfikacja osób w miejscach publicznych. W tej ostatniej kwestii państwa UE uzyskały jednak swobodę w przypadku niektórych działań dotyczących egzekwowania prawa, takich jak walka z terroryzmem.
Porozumienie przewiduje też, że prawodawstwo europejskie zostanie wyposażone w środki nadzoru i sankcje, utworzone zostanie także europejskie biuro ds. sztucznej inteligencji w Komisji Europejskiej. Za najpoważniejsze wykroczenia będą nakładane kary pieniężne w wysokości do 7 proc. obrotu, a dolna granica wynosić będzie 35 mln euro.