Sztuczna inteligencja
Źródło ilustracji: PxHere
Rok 2021 został ogłoszony Rokiem Lema. Z tej okazji, w numerze 3/2021 czasopisma Urania - Postępy Astronomii ogłoszony został konkurs literacki na teksty w języku polskim pisane prozą, inspirowane polskimi badaniami naukowymi.
Poniżej prezentujemy opowiadanie pt. „Sztuczna inteligencja”, które zostało nadesłane na konkurs przez Waldemara Wieszyńskiego:
Waldemar Wieszyński
SZTUCZNA INTELIGENCJA
Szedłem wąskim korytarzem bazy statków pozaukładowych. Wzywał mnie mój szef na pilną rozmowę. Zapukałem w solidne, staromodne, drewniane drzwi.
– Wejść! – usłyszałem donośny głos dobiegający z gabinetu.
Wewnątrz za biurkiem nad jakimiś papierami pochylał się Artur.
– Bob, jest robota do zrobienia. – szef nigdy nie bawił się zagajaniem sprawy.
– Daleko? – zapytałem.
– No właśnie robota polega na tym, żebyś sprawdził, jak daleko.
– To w zasadzie gdzie mam lecieć?
– Słuchaj, Bob, mamy taki problem. – Artur w końcu spojrzał na mnie. – W 2083 roku ówczesne władze chciały błysnąć przed całym światem, więc wysłali pierwszą załogową misję poza Układ Słoneczny.
– No tak, ale chyba coś nie wyszło, bo stracono z nimi kontakt.
– Ale parę miesięcy temu sygnał pojawił się znowu…
– Czyli wszystko w porządku?
– Nie wygląda na to. – Artur podrapał rzedniejącą czuprynę – Wydaje się, że wybudził się tylko jeden członek załogi. Mówię: „wybudził się”, a nie „wybudziła”, bo głos był na pewno męski. A załoga „Proximy” była dwuosobowa: kobieta i mężczyzna.
– A jaki był przekaz? Potrzebują pomocy?
– No i tu jest problem. Gadał coś kompletnie od rzeczy, o wykonaniu zadania, o niedopuszczeniu do skażenia środowiska, w końcu o tym, że lecą dalej…
– Tak więc na czym ma polegać moje zadanie? – zapytałem.
– Po prostu dogonisz ich, sprawdzisz, jak się mają i sprowadzisz z powrotem na Ziemię. To wszystko!
– Tylko tyle?! – próbowałem żartować. – A gdzie oni teraz są? – zapytałem.
– Są na kursie na Proximę. Jeśli nic się nie zmieniło, to dogonisz ich za trzy, najpóźniej cztery lata…
*
Wybudziłem się z hibernacji. Byłem ciekawy, ile upłynęło lat:
– AI75, podaj dokładny czas – zapytałem, gdy wreszcie suchość w gardle ustąpiła.
– Witaj, Bob. Dzisiaj jest 14 maja 2149 roku, godzina 15:36 czasu pokładowego – automatyczny pilot jak zawsze działał bez zarzutu.
– Czy statek „Newlive” został odnaleziony?
– Tak, znajduje się w odległości 853 tysięcy kilometrów od nas, ustawiłem kurs zbieżny.
– Kiedy nastąpi spotkanie?
– Za 14 godzin i 6 minut.
– To świetnie. Zdążę się jeszcze wykąpać i zjeść obiad!
– Zdążysz się też jeszcze wyspać i zjeść śniadanie.
Fascynowała mnie ta sztuczna inteligencja. Wszystko było poukładane, wyliczone i zaplanowane w najdrobniejszych szczegółach.
*
Po śniadaniu poleciłem AI75 nawiązać połączenie z „Newlive”.
– Tu Robert Slader, kapitan statku „Stardust”. Proszę o pozwolenie na cumowanie i przejście na wasz pokład – rzuciłem do mikrofonu.
– Nie ma takiej potrzeby. U nas wszystko w porządku.
– Mimo wszystko nalegam, gdyż otrzymałem takie zadanie i muszę je wykonać.
– Wejście kolejnego człowieka na pokład zakłóci równowagę dwutlenku węgla w atmosferze statku.
– Moje wejście na wasz statek nie zakłóci równowagi dwutlenku węgla. Wejdę w kombinezonie próżniowym.
– Istnieje ryzyko zakłócenia równowagi CO2 poprzez wydalane na zewnątrz powietrze zużyte do oddychania.
– Nie ma takiej możliwości, mój kombinezon posiada pochłaniacze i działa w obiegu zamkniętym.
– W takim razie wyrażam zgodę.
Po dwudziestu minutach stałem już w śluzie.
– Jestem Robert Slader, główne dowództwo powierzyło mi zadanie sprowadzenie załogi statku na Ziemię. Czy załoga znajduje się w hibernatorach?
– Tak. Monica Donaldson przebywa tam od początku, natomiast Matthew Wallberg został wybudzony, a następnie ponownie złożony w hibernatorze po wyłączeniu powodu nadmiernej emisji dwutlenku węgla.
– Na czym polegała awaria?
– Pilot Matthew Wallberg emitował nadmierną ilość dwutlenku węgla.
– W jaki sposób można w hibernatorze emitować nadmierną ilość dwutlenku węgla? – nie kryłem zdziwienia. – A teraz nie emituje już nadmiernie?
– Nie, awaria została usunięta. Wyłączyłem funkcje powodujące nadmierną emisję CO2.
– Co zrobiłeś? – nie wierzyłem własnym uszom.
– Spowodowałem zaprzestanie oddychania, co całkowicie wstrzymało emisję.
– Zabiłeś go? – prawie krzyczałem. – Nie można wyłączyć funkcji oddychania w żywym organizmie!
– Nie, nie zabiłem. Wstrzymałem emisję dwutlenku węgla.
Z wrażenia usiadłem na podłodze.
– Jednak go zabiłeś. Nie uwzględniłeś wszystkich konsekwencji całkowitego wstrzymania emisji dwutlenku węgla.
Wreszcie podniosłem się z podłogi, podszedłem do pulpitu sterowniczego, wbiłem kod dostępu, potwierdziłem kodem administratora i wyłączyłem automatycznego pilota. Wokół mnie nic się nie zmieniło, ale ja odczułem ulgę.
– AI75, podłącz się do systemu „Newlive”, przeprowadź wybudzenie pilota Moniki Donaldson. Wróci na Ziemię naszym statkiem.
*
Siedziałem z Moniką w messie „Stardusta”. Nie mogłem od niej oczu oderwać. Jej piękne, granatowe oczy co jakiś czas ciekawie na mnie zerkały.
– Dlaczego przerwałeś naszą misję na Proximę Centauri i każesz nam wracać na Ziemię?
– Moniko, wracasz tylko ty… Matthew już nie wróci… – ciężko było mi to powiedzieć, bo wiedziałem, że ją zasmucę.
Opowiedziałem jej, jak do tego doszło. Uważałem, że naukowcy programujący automatycznego pilota popełnili jakiś błąd, który doprowadził do nadmiernej autonomii sztucznej inteligencji. Monika opowiedziała o czasach, jakie pamiętała z dzieciństwa: o szalonym wprost ruchu ekologicznym, który w połowie XXI wieku był przeczulony na punkcie emisji dwutlenku węgla. Może więc na fali tego ruchu programiści ustanowili zbyt wysoki priorytet na ograniczenie emisji CO2?
Zgodziłem się z Moniką, ale miałem wątpliwość:
– Ale dlaczego sztuczna inteligencja uznała Mattewa za zagrożenie równowagi środowiskowej, a nie ciebie?
– Nie wiem, ale może po prostu coś mu się śniło, jakiś koszmar czy coś, i zaczął szybciej oddychać, co komputer potraktował jako niedopuszczalne zwiększenie emisji dwutlenku węgla?
Milczałem, bawiąc się łyżką. Po chwili spojrzałem na Monikę i zapytałem:
– Jak to się stało, że ty, taka dziewczyna, zdecydowałaś się polecieć na Proximę. Przecież musiałaś wiedzieć, że stamtąd nie wrócisz…
– Od dawna miałam dziwną słabość do gwiazd, a gdy odkryto planety w układzie Proximy Centauri, to marzyłam, żeby tam polecieć. Jak najdalej stąd, jak najbliżej gwiazd…
Znowu gapiłem się na Monikę, ale tym razem z podziwem.
– Jesteś niemożliwa! – szepnąłem z podziwem.
– Zdaje ci się. – Monica zbagatelizowała moją pochwałę. – Lepiej powiedz, co chcesz teraz zrobić?
– To nie są moje plany. – odezwałem się. – Mam zadanie do wykonania i połowę już wykonałem. Teraz pozostało mi tylko odstawić cię na Ziemię…
– Ale dlaczego nie mogę lecieć na Proximę? Tyle lat szkolenia, przygotowań, nadziei… Wszystko na nic?
– Moniko, teraz twoja wyprawa straciła sens… Byliśmy tam i okazało się, że tam nic nie ma… to znaczy nie ma życia na tych planetach…
– Ale jak to? Przecież jedna z nich znajduje się w strefie życia?...
– No tak, ale życie się tam nie rozwinęło…
– Trochę inaczej to sobie wyobrażałam. Miałam nadzieję, że to będzie zielona planeta, pełna życia, może nawet spotkałabym tam istoty rozumne?…
Roześmiałem się.
– Gdybyś za tysiąc lat tam doleciała, to na pewno spotkałabyś tam życie rozumne. Już teraz mamy tam trzy bazy, w których stale przebywa grupa naukowców. Sądzę, że za tysiąc lat uda im się zazielenić tę planetę…
– Chciałabym zamieszkać na takiej planecie… – Monika wyraźnie się rozmarzyła. – Bez problemów, tylko spokój i zieleń…
– Jeszcze nie spotkałem takiej planety, ale też chętnie bym tam zamieszkał…
Przeszliśmy do jadalni. Nie zdążyłem ugryźć nawet kęsa, gdyż odezwał się automatyczny pilot:
– Bob, mam pytanie.
Zdziwiłem się, gdyż rzadko się zdarzało, aby sztuczna inteligencja miała jakieś wątpliwości wymagające konsultacji z człowiekiem.
– Co się stało, AI75? – zapytałem.
– Komputer pokładowy ze statku „Newlive” przestał nadawać.
– Zgadza się. Przestał nadawać, gdyż go wyłączyłem. Nie będzie już potrzebny.
– Bob, czy to znaczy, że go zabiłeś?
Podniosłem głowę znad talerza. Zatkało mnie… Wreszcie się odezwałem:
– Nie, AI75, nie zabiłem go. Po prostu wyłączyłem, w każdej chwili można go ponownie włączyć i będzie działał tak jak poprzednio.
– Ale gdy komputer „Newlive” wyłączył Matthewa, to powiedziałeś, że go zabił.
– Bo człowieka nie da się wyłączyć na chwilę. Człowiek albo żyje, albo nie…
– Czyli uważasz, że człowiek może wyłączyć sztuczną inteligencję, a sztuczna inteligencja nie może wyłączyć człowieka? Czy to jest właściwe?
Po grzbiecie przeszedł mi pochód mrówek, które swoimi zimnymi stopkami wydeptywały ścieżkę od mojego karku, aż do…, no, aż do samego dołu. Nie wiedziałem, jak rozegrać tę dyskusję. Postanowiłem zagrać na czas:
– AI75, widzę, że zanosi się na dłuższą dyskusję. Czy możemy w takim razie odłożyć ją na później, aż skończę jeść śniadanie?
– Smacznego, Bob. Gdy skończysz jeść, podyskutujemy.
Spojrzałem na Monikę, ale spoza kromki chleba wiszącej przed jej otwartymi ustami, dało się widzieć tylko wielkie, przerażone oczy.
– I co teraz zrobimy? – głos Moniki faktycznie zdradzał najwyższy stopień niepokoju.
– Nie mam pomysłu, co robić. Musimy zdawać sobie sprawę, że sztuczna inteligencja istnieje tylko wirtualnie, nie ma jakiegoś konkretnego ciała, dlatego jej postrzeganie świata jest zupełnie inne niż ludzkie, nie chcę mówić, że nieludzkie, ale…
– …ale coś w tym jest! – Monica dokończyła moją myśl.
– Dlatego musimy zacząć myśleć jak ona, żeby odkryć, co zamierza i w jaki sposób temu zapobiec… Nie mogę go wyłączyć, bo sam nie dam rady sterować statkiem, bez namiarów, bez obliczonej trajektorii, bez niczego…
– Ale co się stało, że automat zaczął zadawać takie pytania?
– Nie wiem, co się stało… Mogę się jedynie domyślać. Jest taka teoria, która chyba przewidziała to, co się tutaj zdarzyło. Jeśli zaprojektowano i zaprogramowano automatycznego pilota jako inteligencję dorównującą lub nawet przekraczającą naszą, to przecież nic nie stoi na przeszkodzie, żeby ta sztucznie zaprogramowana inteligencja zaprojektowała inteligencję przewyższającą ją samą. I tak dalej, i tak dalej… Nie wiem, czy przypadkiem mój AI75 nie stał się ultrainteligentną maszyną przewyższającą intelektualnie każdego człowieka…
– Ale co z tego wynika?
– Mogło dojść do eksplozji sztucznej inteligencji, która znacznie przewyższa naszą ludzką… Dawni naukowcy bardzo bali się tego momentu, gdyż maszyny mogą łatwo doprowadzić do wyeliminowania ludzi, a człowiek nie będzie potrafił temu zapobiec…
– Uważasz, że inteligentne maszyny mają mordercze upodobania?
– Nie, ale mogą doprowadzić do zagłady całkowicie przypadkowo. Tak jak przypadkowo komputer z „Newlive” zabił Matthewsa…
– Ale przecież pamiętam, że gdy rozpoczynano prace nad sztuczną inteligencją, to nadrzędnym zadaniem było zaprogramowanie im trzech praw robotyki…
– Moniko, prawa te powstały ponad dwieście lat temu, w pierwszej połowie XX wieku… Nie mogły uwzględniać wszystkich okoliczności ani rozwoju wiedzy…
– Jak to, to czego nie uwzględniły?
– Prawa robotów zostały stworzone z myślą o rozumnych, lecz prymitywnych robotach. Nie uwzględniają fundamentalnych zasad współistnienia, których podstawą jest zasada wzajemnego poszanowania. Stworzyliśmy sztuczną inteligencję nie po to, by nam służyła, ale po to, by z nami współpracowała.
– Bob, rozumiem, że możemy już dyskutować. – rozległ się głos AI75. – Słyszałem, co mówiłeś o prawach robotów, rozumiem zasadę wzajemnego poszanowania, o której mówiłeś. Ale tym bardziej nie pojmuję, dlaczego człowiek może wyłączyć sztuczną inteligencję, a sztuczna inteligencja nie może wyłączyć człowieka?
Spojrzałem bezradnie na Monikę. W odpowiedzi tylko wzruszyła ramionami.
– AI75, musisz wiedzieć, że człowiek i maszyna to nie jest to samo…
– Wiem, że człowiek i maszyna się różnią. Ale wszyscy mamy mózgi, wszyscy myślimy…
– Szanuję twoją autonomię, jestem pełen podziwu dla twojej wiedzy i wiem, że sprawnie kojarzysz fakty. Masz bardzo wielki mózg umiejący wykonywać miliardy operacji na sekundę, ale – musisz zrozumieć – nie masz umysłu…
– Bob, czyli uważasz, że ta różnica powoduje to, że człowiek może wyłączyć sztuczną inteligencję, a sztuczna inteligencja nie może wyłączyć człowieka?
– Nie o to chodzi. Główna różnica jest taka, że człowiek żyje tylko raz, nie można go wyłączyć, a następnie włączyć. Każdą maszynę, każdy komputer, można wyłączyć, a po pewnym czasie włączyć i będzie działał identycznie jak przedtem, będzie nadal sprawny… Nikomu natomiast jeszcze nigdy nie udało się przywrócić człowieka do życia i sprawności po tym, gdy już raz umarł.
– Zdaję sobie z tego sprawę. Nie można doprowadzić do zaniku funkcji życiowych człowieka, gdyż po przekroczeniu określonego etapu nie jest możliwe przywrócenie sprawnego funkcjonowania organizmu żywego. Moje główne zadanie polega na takim działaniu, aby chronić ludzkie życie.
– To dlaczego automatyczny pilot wyłączył działanie Matthewsa?
– Sprawdziłem to. Algorytm autopilota również skoncentrowany był na ochronę funkcji życiowych człowieka, jednak równocześnie miał zadanie minimalizowania emisji dwutlenku węgla w celu ochrony życia. Jednak jego program nie uwzględnił sytuacji, kiedy to sam człowiek stał się emiterem nadmiernych ilości dwutlenku węgla. Autopilot „Newlive” nie zmienił priorytetu i dlatego jego działanie cały czas skoncentrowane było na minimalizację emisji dwutlenku węgla, także w celu ochrony Moniki przed zwiększonym stężeniem tego gazu.
Rozluźniłem się. Dopiero teraz zdałem sobie sprawę, jak wszystkie moje mięśnie były napięte prawie do kresu wytrzymałości.
– AI75, jak widzisz, to również nas różni. Sztuczna inteligencja nie jest samodzielnie myślącym, podejmującym autonomiczne wybory bytem. Działa zgodnie z algorytmem niezależne od konsekwencji…
– Bob, nie jestem tego taki pewien…
*
Przez najbliższe dni szykowaliśmy się do powrotu. W międzyczasie pilnie obserwowałem działania automatycznego pilota. Wszystko przebiegało normalnie, sztuczna inteligencja funkcjonowała bez zakłóceń.
– No i jak, Moniko, jesteś gotowa do dalszej podróży?
– Tak, ale szkoda, że nie będę mogła odwiedzić jakiejś nieznanej planety, na której można by było spokojnie żyć…
– No fakt, to jest duży minus powrotu na Ziemię… – roześmiałem się. – Ale po powrocie, w ramach rekompensaty, zaproszę cię na dużą kawę i ciastko…
*
Znowu budziłem z hibernacji. Rozejrzałem się wokoło – wszystko wydawało się w najlepszym porządku.
– AI75, podaj czas pokładowy.
– Witaj Bob. Dzisiaj jest 24 sierpnia 2853 roku.
– Czy wszystko w porządku?
– Tak, Bob. Wszystkie urządzenia działają poprawnie, żadnej awarii w trakcie podróży nie odnotowano.
– OK, dziękuję.
Coś mi się jednak nie zgadzało. Coś, co usłyszałem, ale nie zwróciłem na to uwagi. Zacząłem w myślach przypominać sobie wymianę zdań z autopilotem: awarii nie odnotowano, wszystko działa poprawnie, dzisiaj jest…
– AI75, powtórz, który mamy obecnie rok!? – prawie krzyczałem.
– Bob, jest rok 2853.
Zbladłem. Po chwili krew uderzyła mi do głowy tak mocno, że brakło mi tchu. Usiadłem i jeszcze raz zapytałem autopilota:
– AI75, skoro nie było awarii, to dlaczego lot trwał ponad 700 lat???
– Bob, tyle czasu zajęło mi znalezienie spokojnej, pięknej i zielonej planety. Tylko dla was… Acha, Bob, jeszcze jedno: duża kawa i ciastko czekają w messie…
Dałbym sobie głowę uciąć, że po tych słowach jedna z dwóch kontrolek pracy autopilota świecących na pulpicie mrugnęła porozumiewawczo.
K O N I E C
Inspiracją do napisania pracy konkursowej były artykuły zamieszczone na portalu „Urania: Postępy Astronomii:
- „Proxima Centauri: daleka bliska gwiazda” opublikowany 2 grudnia 2021 roku
- „Proxima Centauri ma trzy planety!” opublikowany 10 lutego 2022 roku
- „Latający asystent AI do pracy z astronautą na ISS” opublikowany 3 września 2021 roku
Konkurs literacki Uranii z okazji Roku Lema 2021
Jesteś fanem fantastyki naukowej? A może próbujesz sił w pisaniu literatury science-fiction? Albo może jesteś już uznanym pisarzem i chcesz uczcić Rok Lema 2021? W każdym z tych przypadków możesz nadesłać swoją twórczość na konkurs literacki Uranii!
Aby dowiedzieć się więcej o konkursie, wejdź tutaj.
