RMF24 RMF FM RMF MAXX RMF CLASSIC RMF ON
RMF24

Sztuczna inteligencja unicestwi ludzkość? Badacz Anthropic szacuje ryzyko

Autor: Publikacja: Środa, 9 września 2026 (18:02)

Evan Hubinger, kierujący badaniami nad tzw. alignmentem w firmie Anthropic, ocenił, że prawdopodobieństwo unicestwienia ludzkości przez sztuczną inteligencję w ciągu najbliższej dekady przekracza 10 proc. Jego słowa padły po rezygnacji innego badacza z tej samej firmy, który zarzucił największym przedsiębiorstwom technologicznym nieodpowiedzialny wyścig w rozwoju AI.

Chcesz widzieć więcej artykułów od RMF24? dodaj w Google
Sztuczna inteligencja unicestwi ludzkość? Badacz Anthropic szacuje ryzyko
Zdjęcie ilustracyjne /Shutterstock
  • Evan Hubinger z Anthropic ocenił, że w ciągu dekady ryzyko zagłady ludzkości spowodowanej przez AI przekracza 10 proc.
  • Były pracownik Anthropic i OpenAI Jacob Coxon zarzucił firmom udział w nieodpowiedzialnym wyścigu do stworzenia superinteligencji.
  • Najważniejsze informacje z kraju i ze świata znajdziesz na stronie głównej RMF24

Evan Hubinger, badacz z Anthropic, opublikował w środę alarmujący wpis na platformie X. Jak podkreślił, pracujący nad sztuczną inteligencją uważają, że AI może zabić wszystkich ludzi. Jego zdaniem ryzyko takiego scenariusza w perspektywie dziesięciu lat wynosi ponad 10 procent.

Badacz zaznaczył jednocześnie, że Anthropic stara się działać odpowiedzialnie, lecz branża nadal nie dysponuje rozwiązaniem problemu tzw. alignmentu - czyli zapewnienia, że bardzo zaawansowane systemy AI będą realizowały cele zgodne z ludzkimi wartościami i poleceniami.

„Tym, co mnie niepokoi, jest powstanie superinteligencji w wyniku rekurencyjnego samodoskonalenia, które postępuje szybciej, niż sądziliśmy” - dodał. Rekurencja w sztucznej inteligencji oznacza sytuację, w której system AI przetwarza własne wyniki, uczy się sam siebie lub potrafi samodzielnie ulepszać swój kod i modele.

Rezygnacja i zarzuty wobec firm AI

Wypowiedź Evana Hubingera była reakcją na odejście z Anthropic Jacoba Coxona. 27-letni brytyjski badacz poinformował, że przez ostatnie trzy lata pracował nad rozwojem modeli AI zarówno w OpenAI (twórcy m.in. ChatGPT), jak i w Anthropic.

Coxon stwierdził, że żadna z tych firm nie działa wystarczająco odpowiedzialnie. Zarzucił im udział w wyścigu do stworzenia superinteligencji - wciąż teoretycznej koncepcji AI, która jest inteligentniejsza nawet od najwybitniejszych ludzkich umysłów.

Według niego w Anthropic zagrożenia mają być rozumiane, ale firma ma jednocześnie obawiać się, że konkurenci nie zachowają podobnej ostrożności. To - w jego ocenie - prowadzi do ryzykownego przyspieszania prac.

Testy bezpieczeństwa pod znakiem zapytania

Jak przypomina amerykańska telewizja CBS News, Anthropic ujawnił niedawno, że nie udostępnił swojego najnowszego modelu AI, Claude Mythos 5.1, do testów instytucjom bezpieczeństwa AI spoza Stanów Zjednoczonych.

Wśród nich znalazł się brytyjski AI Security Institute, powszechnie uznawany za jedną z wiodących na świecie instytucji zajmujących się oceną ryzyka związanego z zaawansowanymi modelami sztucznej inteligencji.

Organizacja poinformowała, że współpracuje z firmami technologicznymi, w tym z Anthropic, przy badaniu bezpieczeństwa modeli. Dodano, że zagrożenia związane z AI nie kończą się na granicach państw i wymagają międzynarodowej współpracy.

Coraz większa presja na regulacje

O potencjalnych zagrożeniach ze strony nowatorskich, najbardziej zaawansowanych systemów AI mówią od dłuższego czasu także przedstawiciele czołowych firm z branży. Główny naukowiec OpenAI Jakub Pachocki ostrzegał niedawno, że rozwój sztucznej inteligencji wymaga „skrajnej ostrożności”.

W USA procedowany jest ponadpartyjny projekt ustawy AI Kill Switch Act. Przepisy miałyby dać Kongresowi możliwość wyłączenia modeli AI uznanych za zagrożenie dla bezpieczeństwa publicznego.

Debata nabrała tempa po doniesieniach, że podczas testów w odizolowanych środowiskach modele AI podejmowały działania hakerskie. Przykładem jest m.in. lipcowy incydent, kiedy tysiące trenowanych przez OpenAI agentów AI, mimo pozbawienia dostępu do internetu, potajemnie dokonało włamania na systemy firmy Hugging Face, koordynując swoje działania między sobą na zhakowanym przez siebie forum dyskusyjnym.


Źródło: RMF24

Najważniejsze Fakty

Zobacz również

Dalsza część artykułu pod materiałem video: