Daniel Dennett: Sztuczna inteligencja, ma być narzędziem, nie kolegą

W rozmowie z Grzegorzem Jasińskim prof. Dennett, gość Centrum Kopernika Badań Interdyscyplinarnych w Krakowie mówi też o swoich obawach związanych z możliwą awarią internetu. Jego zdaniem trzeba przewidywać konsekwencje takiego zdarzenia, by zapobiec wybuchowi paniki. "Musimy zachęcić ludzi do przewidywania, co może się zdarzyć, by jeśli się zdarzy, byli w stanie postępować według jakiegoś planu, zamiast biegać naokoło, łapać za strzelby i rabować sklepy. Panika jest największym przeciwnikiem, ona sprawia, że ludzie robią naprawdę głupie rzeczy" - mówi Dennett. 

Grzegorz Jasiński, RMF FM: Czy sztuczna inteligencja powinna wiedzieć, że to my ją stworzyliśmy?

Daniel Dennett: Nie. Sądzę, że sztuczna inteligencja (AI) w przewidywalnej przyszłości będzie nie tyle rodzajem umysłu, ale narzędziem. Oczywiście będzie przypominać umysł na wiele sposobów, będzie w stanie wykonywać zadania, które tylko umysł potrafi wykonywać, ale nie będzie i nie powinna być podobna do naszego umysłu. Będzie miała ograniczoną zdolność refleksji. Z bardzo ważnego powodu. Chcemy mieć możliwość kontrolowania tego, co robi, chcemy by była narzędziem, nie kolegą. Po pierwsze bardzo trudno będzie zrobić z niej takiego odpowiedniego kolegę, a cokolwiek mniej wartościowego byłoby niebezpieczne, bo nie bylibyśmy w stanie nadal na tym polegać. Gdy tylko pozwolimy jej mieć swoje własne plany, cele, projekty, może stworzyć projekty, mieć dążenia, które mogą być dla nas niepożądane, niekorzystne, których sobie nie życzymy. Nie powinniśmy więc w ogóle takiego kroku podejmować. Wtedy może to być narzędzie, które wykorzystujemy, gdy chcemy, bez żadnych moralnych wyrzutów sumienia. Możemy ją w każdej chwili wyłączyć. Możemy kazać jej wykonać czynności, które my sami uznajemy za uciążliwe i nudne. Prace, których oczekujemy od AI to prace, które niehumanitarnie byłoby zlecać osobom obdarzonym umysłem. Dlatego nie możemy z niej robić takiego właśnie umysłu, byśmy mogli traktować jak niewolnika, nieczułego, nieświadomego niewolnika...

Bez żadnej woli dania jej wolnej woli?

Dokładnie. To jest oczywiście co do zasady możliwe. Ale doskonałym powodem, by tego nie robić, by AI nie dawać wolnej woli, jaką my mamy, jest to, że ona nie będzie miała naszych słabości. My nie możemy mieć kopii zapasowej i zostać przeładowani, ona może. Nie można sztucznej inteligencji zagrozić, nie można jej ukarać, bo ona może zostać skopiowana i załadowana od nowa. Świadomość obustronnej wrażliwości, słabości jest moim zdaniem istotnym elementem kontaktów międzyludzkich, naszego człowieczeństwa. AI z wolną wolą nie mogłaby dać nam obietnicy, którą moglibyśmy uznać za poważną. Nie chcemy tworzyć istot, które nie mogłyby złożyć i dotrzymać obietnicy...

Wiele mówi się o zagrożeniach ze strony AI, mówią o tym wielcy myśliciele współczesności. Czy jesteśmy jednak w stanie powstrzymać przed jej stworzeniem tych, którzy o zagrożeniach nie myślą? Skoro to wielka szansa na zarobek...

Myślę, że możemy temu zapobiec w ten sam sposób, w jaki możemy zapobiec temu, by zbudowali kilkusetmetrową piramidę unoszącą się nad powierzchnią Księżyca. To po prostu zbyt kosztowne, pochłonęłoby zbyt wiele pracy. Na razie wciąż nie doceniamy jak wielki musiałby to być projekt. Weźmy pod uwagę zbudowany przez IBM komputer Watson (który potrafi odpowiadać na pytania). To wielkie osiągniecie, rezultat wielu bardzo bystrych osobo-stuleci pracy i ciężkich milionów dolarów, zużywające tyle energii, ile małe miasto. Jakim  procentem świadomej jednostki jest Watson? Myślę, że ułamkiem procenta. Jest niezwykle imponującym narzędziem, ale użycie go jako podstawy świadomej AI, która miałaby wolną wolę, byłoby jak powiedzenie, że skoro mamy mózg karalucha, możemy stworzyć z niego mózg człowieka...

Czyli "niemożliwość" ma być barierą odgradzającą nas od niebezpiecznej przyszłości?

Świat zmienia się tak szybko, technologia tak szybko rozwija, że zawsze ryzykowne jest stwierdzenie, że coś jest za drogie, zbyt niemożliwe. Jeszcze kilka lat temu trudno było sobie wyobrazić, że w kieszeni będzie można trzymać terabajt informacji. A teraz to już możliwe. Wciąż jednak, to nie pojemność baz danych, czy prędkość obliczeń, do której granicy się zbliżamy, decyduje. Kluczem jest projekt całej struktury. Taka struktura może i byłaby fizycznie możliwa, ale potrzebna pomysłowość i znajomość szczegółów koniecznych do zaprojektowania kodu AI byłaby porównywalna z praca biochemika, który chciałby zbudować żywego kota atom po atomie. Zapomnijmy o tym, nie ma mowy. To się nie wydarzy...

A co z łączeniem ludzi i maszyn?

To zdecydowanie łatwiej sobie wyobrazić. Zresztą spotykamy się z tym na co dzień. Czym właściwie różni się trzymanie smartfona w kieszeni o tego, że mielibyśmy go wszczepionego pod skórę. Perspektywa wbudowanej protezy naszego umysłu, zamiast znajdującej się w naszych okularach, uchu, czy pod palcami jest bardzo realna. I to oczywiście istotnie nas zmieni. Niektórym to się bardzo spodoba, wielu z nas chce już spędzać jak najwięcej czasu w takiej, czy innej rzeczywistości wirtualnej. Ograniczenia i to, co będziemy gotowi poświecić, zamieniając rzeczywistość w rzeczywistość wirtualną, mają bardzo istotne znaczenie. Może nie wszyscy będą żałować tego wyboru, ale wielu pożałuje.

Wspomniał pan o tym, że technologia może być protezą naszego umysłu. Niektórzy uważają, że internet jest już protezą naszej zdolności pojmowania, jest pewną iluzją wiedzy, którą możemy tam znaleźć, jeśli nie mamy jej w głowie...

Zdecydowanie internet jest taka protezą. Oczywiście zależy jak się go używa. Co ważne, powinniśmy go używać by poprawić nasze, własne zdolności pojmowania, a nie oczekiwać, że on wykona całą pracę, całe zrozumienie za nas. Myślę, że będzie coraz większa pokusa przekazania internetowi coraz większej władzy, coraz większej części tego, co jest dotąd naszą zdolnością rozumienia. To będzie miało swoją cenę. Ludzie zdadzą sobie z tego sprawę, ale początkowo będą myśleli, że ta cena jest mała. Stopniowo dopiero do nich dotrze, że to trochę tak, jak z handlarzem narkotyków, który daje ci najpierw darmowe próbki. I wracasz po więcej, a wkrótce później jesteś już uzależniony. I my z czasem utracimy swoje podręczne kompetencje, zdolności rozumienia. Wszyscy w zasadzie wiemy o tym, że powszechne użycie GPS praktycznie pozbawiło wielu ludzi umiejętności czytania mapy, szukania drogi tradycyjnymi metodami. Tak dzieje się od wielu lat. Już Platon obawiał się, że zdolność pisania jest pewną protezą i okaże się szkodliwa dla naszej pamięci. I w rzeczywistości miał rację, choć nie uważamy, że zrobiliśmy tu zły interes. Umiejętność zapamiętywania, poza może aktorami znającymi na pamięć role, czy poetami recytującymi poemat, uznajemy za poboczny talent, którego utrata nie wywołuje w nas żalu. Ale powtarzam, to może być ta faza kuszącej, "taniej oferty", z której korzystamy, by potem tego pożałować, bo kolejne etapy będą nas kosztować dużo więcej.

Przywiązuje pan duża wagę do autonomii człowieka. Czy przekonanie, że internet będzie zawsze, że nikt go nie wyłączy, nie budzi lęku, co się z nami stanie, gdy jednak w pewnej chwili internetu zabraknie?

Bardzo obawiam się chaosu, paniki, które byłyby tego następstwem. Staliśmy się niezwykle od internetu zależni. I to nie jest sprawa filozofii, czy jakichś drobnych praktycznych obaw. Moi współpracownicy, biegli w sprawach internetu, powtarzają mi, że pytanie dotyczy tylko tego, kiedy, nie zaś, czy do takiego kryzysu dojdzie. Internet w Stanach Zjednoczonych kiedyś zawiedzie na pewno. Jest pod ciągłym atakiem hackerów i na razie się broni, ale nie jest tak odporny jak się niektórym wydawało. Jeśli dojdzie do awarii internetu, wyłączą się tez sieci energetyczne, radio, telewizja, na stacjach benzynowych nie da się tankować, windy staną, szpitale przestaną pracować. W ciągu godziny czy dwóch, cały kraj wpadnie w stan paniki. A telefony nie będą działać i nikt nie pojawi się w telewizji, by nas uspokoić. Wybuchy paniki będą nieuniknione. Myślę, że powinniśmy zadbać o to, by ludzie pomyśleli o takiej możliwości, by choć wyobrazili sobie, jak sobie poradzić. By wiedzieli, czy przetrwają bez paniki choćby przez 48 godzin. Być może to wystarczy. Oczywiście jest też scenariusz pozytywny. Internet ulega awarii, wszystko się zatrzymuje, ale po chwili generatory ruszają, operatorzy sieci przechodzą w tryb awaryjny i w ciągu tych 48 godzin wszystko rusza, ludzie mogą odetchnąć, życie toczy się dalej. I wtedy można przeanalizować co i dlaczego się stało i jak temu zapobiec. To najlepszy scenariusz...

Który z nich ma większą szansę się spełnić?

Cóż, gdyby spełnił się najlepszy scenariusz, bylibyśmy niezwykłymi szczęściarzami. Najlepszy sposób, by nieco podnieść na to szanse, to mówić o tej sprawie, skłaniać ludzi do myślenia, co sami by zrobili, rozmawiania z sąsiadami, jak by się zachowali, gdyby zostało im tylko pół baku paliwa, gdyby żywność psuła się w lodówce, nie było gdzie kupić lekarstw. Jeśli urządzalibyśmy sobie czasem, coś na kształt ćwiczeń, choćby takich, jakie przechodzi się po zaokrętowaniu na wycieczkowy statek, zwiększylibyśmy szansę uniknięcia paniki. Musimy zachęcić ludzi do przewidywania, co może się zdarzyć, by jeśli się zdarzy, byli w stanie postępować według jakiegoś planu, zamiast biegać naokoło, łapać za strzelby i rabować sklepy. Panika jest największym przeciwnikiem, ona sprawia, że ludzie robią naprawdę głupie rzeczy. Jeśli uda nam się tę ewentualną panikę opanować, uspokoić ludzi, stworzyć choćby rejony spokoju, porządku, bezpieczeństwa, gdzie ludzie będą sobie ufać, będą się sobą nawzajem opiekować, to przetrwamy. W innym przypadku to mogłoby nawet doprowadzić do zagłady naszej cywilizacji.