„Jedno pozostaje jasne: to, czy SI będą zdolne do odczuwania subiektywnych doświadczeń, będzie kluczowe dla wartościowania przez nas ich istnienia. Świadomość to filozoficzny fundament naszych systemów etycznych, pozwalający nam określić, czy ktoś bądź coś jest podmiotem lub osobą, a nie tylko maszyną.”
Świadome maszyny. Sztuczna inteligencja i projektowanie umysłów, Susan Schneider, tł. Joanna Bednarek, Wydawnictwo Naukowe PWN, 2021, s. 11.
CZYM JEST ŚWIADOMOŚĆ?
Na początek definicja. W Wielkim słowniku języka polskiego PWN o świadomości czytamy, że jest to [m. in.]:
„[…] wiedza o czymś, uświadamianie sobie czegoś, zdawanie sobie sprawy z czegoś […] stan przytomności, czuwania, odbierania bodźców ze świata otaczającego; przytomność.”
Wielki słownik języka polskiego PWN. Tom IV, Wydawnictwo Naukowe PWN, 2018.
Według Słownika psychologii Arthura S. Rebera, pierwsza część powyższej definicji to awareness, drugi człon to z kolei consciousness. Świadomość jako consciousness to – doprecyzowując:
„[…] domena umysłu zawierająca doznania, spostrzeżenia i wspomnienia, których ktoś jest świadom w danym momencie [o których wie, że w danym momencie je przeżywa]. Te aspekty bieżącego życia psychicznego, na które koś zwraca uwagę.”
Słownik psychologii, Arthur S. Reber, Wydawnictwo Naukowe SCHOLAR, 2002, s. 740.
Problem ze świadomością jest bardzo złożony, gdyż – jak wnioskuje Susan Schneider w Świadomych maszynach – nie do końca wiadomo, czym tak naprawdę świadomość jest. Autorka wskazuje na żywy dyskurs, toczący się wśród różnych środowisk [naukowych, filozoficznych, etc.]. Co za tym idzie, zaobserwować można również zmiany w dominującym paradygmacie [rozwój pojęcia na przestrzeni historii]. Inną kwestią jest również niepewność; właściwie nie wiadomo, co odpowiada za to, że jest się świadomym. A to z kolei, przekłada się na fakt, iż nie jesteśmy w stanie wskazać lokalizacji świadomości w człowieku [w domyśle: w jego mózgu]. O świadomości więcej więc nie wiemy, niż wiemy – i być może [ale kolejna część zdania jest już moją autorską myślą, o której Autorka nie wspomina], mnogość definicji świadomości, służy raczej ukryciu niepewności, niż wyeksponowaniu tego, co rzeczywiście jest wiadome.
Skoro o świadomości tak niewiele wiemy, to czy możliwe jest stworzenie świadomej, sztucznej inteligencji?
JAK POWSTANIE ŚWIADOMA, SZTUCZNA INTELIGENCJA?
Autorka wskazuje, iż do powstania świadomych maszyn może dojść na wiele sposobów. Scenariusze są najróżniejsze [i wszystkim z nich Schneider poświęca jednakowo wiele uwagi]: od stworzenia AI poprzez inżynierię, aż po wykształcenie się życia postbiologicznego, będącego pokłosiem nadmiernego modyfikowania człowieka poprzez np. technologiczne implanty. Bo być może my, jako istoty obdarzone cielesną powłoką, jesteśmy jedynie etapem pośrednim? Być może we wszechświecie, inteligencja biologiczna w którymś momencie wypierana jest przez inteligencję sztuczną?
Ale: czy maszynom w ogóle opłaca się być świadomym? Czy świadomość nie będzie stanowić dla AI jedynie procesu niepotrzebnie angażującego moce obliczeniowe?
JESZCZE SCIENCE-FICTION
Świadome maszyny przedstawiają więc również scenariusze będące przedmiotem badań futurologii, czy [póki co], przewijające się w dziełach z gatunku Science-Fiction. Uzyskanie świadomości przez maszyny, może doprowadzić do wielu skrajności. Mogą one np. przybrać charakter do bólu fatalistyczny [vide: Skynet z serii filmów Terminator], jak i optymistyczny [bo być może świadome inteligencje wspomogą ludzkość w rozwiązaniu teoretycznie nierozwiązywalnych problemów?]. Ale, czego nie wyklucza Autorka: być może zmiany nie będą aż tak spektakularne. Bo być może, cały proces przebiegnie łagodnie i stopniowo?
Wśród innych, rozpalających wyobraźnię pomysłów, przewija się co najmniej kilka idei. Po pierwsze: możliwość zaistnienia technologicznej osobliwości [w wielkim uproszczeniu: jest to punkt, w którym technologia będzie tak zaawansowana, iż człowiek nie będzie już w stanie jej zrozumieć]. Jak stwierdza Schneider:
„Zasady, którymi przez tysiąclecia kierowała się ludzkość, nagle przestaną obowiązywać. Będzie mogło zdarzyć się wszystko.”
Świadome maszyny. Sztuczna inteligencja i projektowanie umysłów, Susan Schneider, tł. Joanna Bednarek, Wydawnictwo Naukowe PWN, 2021, s. 21.
Druga opcja: powstanie inteligentnego wszechświata, który wszelką dostępną materie będzie wykorzystywał do swoich obliczeń [w tym przypadku warto również zapoznać się z ideą sfery Dysona].
Trzecia opcja – która, choć niekoniecznie, może być pokłosiem tej drugiej – powstanie symulacji rzeczywistości. Baudrillard zadawał to pytanie, w swoim najsłynniejszym dziele Symulakry i symulacja: czy żyjemy w świecie będącym jedynie symulacją? Pomysł ten spopularyzowało jednak przede wszystkim rodzeństwo Wachowskich w Matrixie.
Istotna jest również kwestia transhumanizmu: idei połączenia człowieka z technologią. Do kiedy człowiek będzie człowiekiem? Czy możliwy będzie transfer umysłu, świadomości do innego ciała? I czy jeśli już do takiego transferu dojdzie, co stanie się z pierwotnym właścicielem danej świadomości? Czy możliwe będzie wręcz utworzenie dowolnej liczby kopii danego człowieka?
DYLEMATY ETYCZNE I PRAWNE
Susan Schneider rozpatruje zagadnienie sztucznej inteligencji z wielu stron. Wychodząc od wskazania wartościującej roli świadomości, zastanawia się na przykład, czy utworzenie maszyn obdarzonych świadomością byłoby w istocie korzystne dla firm produkujących AI. Bo przecież przymuszanie do pracy bytów świadomych, oznaczałoby w istocie odrodzenie się niewolnictwa.
Problem w istocie jest bardziej fundamentalny: skąd będzie wiadomo, że dana maszyna jest świadoma? A jeśli już, to czy świadomość można stopniować? Autorka proponuje kilka rozwiązań. Omawia między innymi opracowane przez siebie testy na świadomość AI [stworzyła jest dla Instytutu Studiów Zaawansowanych w Princeton].
Załóżmy jednak, że oto powstała w pełni świadoma sztuczna inteligencja. Jakie powinny być wprowadzone regulacje prawne dla takich bytów? Z pomocą przychodzi rozjaśnienie przez Autorkę m. in. definicji osoby oraz tożsamości.
PODSUMOWUJĄC
Świadome maszyny to książka na styku nauki i filozofii, która pobudza szare komórki. Zmusza do stawiania pytań fundamentalnych; nie tylko dla maszyn, nauki, ale wręcz dla człowieka – bo czy można inaczej potraktować kwestię tego, czym jest świadomość? Książka Susan Schneider wpisuje się w aktualny dyskurs dotyczący sztucznej inteligencji. I choć po jej przeczytaniu więcej w głowie pytań niż odpowiedzi, staje się istotnym głosem w jednej z najważniejszych debat współczesnej cywilizacji.
PS. Autorka często w tekście powołuje się na różne dzieła kulturowe: książki czy filmy. Od siebie dodam, iż warto zapoznać się również z Accelerando Charlesa Strossa. W książce tej Autor poruszył większość z wymienianych przez Schneider zagadnień.
RECENZJA NA PODSTAWIE WYDANIA
Świadome maszyny. Sztuczna inteligencja i projektowanie umysłów, Susan Schneider, tł. Joanna Bednarek, Wydawnictwo Naukowe PWN, 2021, ISBN: 978-83-01-21952-9.
Za egzemplarz książki do recenzji dziękuję Wydawcy.
PPS. W mojej recenzji często pada zwrot być może – i jest to zabieg jak najbardziej celowy.