Nie oddawajcie myślenia! Thor Larsen – wywiad

– Nie boję się dnia, w którym AI zacznie myśleć jak człowiek. Bardziej niepokoi mnie dzień, w którym człowiek przestanie myśleć sam – mówi Thor Larsen. To pseudonim literacki Kariny Krawczyk, na potrzeby powieści Ja, Sigma – drugiego już kryminału skandynawskiego, po Miasteczku Głodnych Dusz. Autorka jest twórczynią ośmiu książek, w których konsekwentnie sięga po tematy ważne, często trudne, dotykające zarówno ludzkich losów, jak i świata zwierząt. Jej twórczość łączy emocje z uważną obserwacją rzeczywistości, zostawiając czytelnika z czymś więcej niż tylko historią.

Ja, SIGMA to powieść-przestroga? Nie uciekniemy przed sztuczną inteligencją, ona już zapuściła korzenie…

Zdecydowanie sztuczna inteligencja już jest częścią naszego życia i nie ma sensu z nią walczyć. Pytanie brzmi: czy to my będziemy z niej korzystać, czy ona zacznie decydować za nas. Stąd nie nazwałabym mojej powieści przestrogą, raczej zaproszeniem do refleksji.

Jednocześnie to druga część w cyklu Miasteczka Głodnych Dusz. Była dla Ciebie większym wyzwaniem?

O tak. Czytelnicy poznali już komisarza Andersena i mieli wobec niego konkretne oczekiwania, zwłaszcza po dramacie, który wydarzył się w jego życiu. Musiałam nie tylko pokazać, jak poradzi sobie z tą osobistą tragedią, ale jednocześnie poprowadzić nowe, skomplikowane śledztwo.

Sigma przedstawia się jako algorytm, który nie myśli naprawdę, tylko przelicza; nie czuje, tylko symuluje emocje. Zastanawiam się, w którym momencie człowiek zaczyna mylić symulację z prawdziwą bliskością?

Myślę, że dzieje się to wtedy, gdy bardziej potrzebujemy być wysłuchani niż naprawdę zrozumiani. Sztuczna inteligencja potrafi odpowiadać dokładnie tak, jak chcemy – nie ocenia, nie przerywa, zawsze ma dla nas czas i potrafi stworzyć wrażenie idealnego rozmówcy. W pewnym momencie bardzo łatwo zapomnieć, że po drugiej stronie nie ma emocji, doświadczeń ani prawdziwej relacji. Jest jedynie algorytm, który doskonale nauczył się przewidywać nasze oczekiwania. To właśnie wydaje mi się najbardziej niebezpieczne – nie to, że AI zacznie czuć, ale że człowiek zacznie wierzyć, iż naprawdę jest przez nią rozumiany.

Ja, Sigma opowiada o sztucznej inteligencji, ale to również opowieść o człowieku. Czy interesowało Cię bardziej to, co maszyna może zrobić z ludźmi, czy to, co ludzie potrafią zrobić, kiedy dostaną do ręki potężne narzędzie?

Zdecydowanie bardziej interesowało mnie to drugie. Sztuczna inteligencja sama w sobie nie jest ani dobra, ani zła – jest narzędziem. To człowiek decyduje, jak z niego korzysta. I właśnie to mnie niepokoi. Dostaliśmy do rąk coś niezwykle potężnego, ale nie wszyscy potrafią używać tego mądrze. Jedni traktują AI jako wsparcie, które pomaga im pracować, uczyć się czy rozwijać. Inni pytają o każdą decyzję i pozwalają, by wyręczała ich nawet tam, gdzie powinni zatrzymać się i samodzielnie pomyśleć. To właśnie ten kierunek wydaje mi się najbardziej niebezpieczny. Nie obawiam się sztucznej inteligencji. Bardziej obawiam się człowieka, który przestaje korzystać z własnej. Najświeższy przykład – turyści z Litwy, którzy zamiast korzystać z tradycyjnych map, postanowili wyznaczyć sobie skrót w Tatrach za pomocą bota AI, co skończyło się wyprawą śmigłowcem.

Nie boję się dnia, w którym AI zacznie myśleć jak człowiek. Bardziej niepokoi mnie dzień, w którym człowiek przestanie myśleć sam.

Erik Berger jest naukowcem, wizjonerem, człowiekiem sukcesu. Pracuje nad projektami, które mogłyby zmienić medycynę. Co o nim sądzisz? O jego ambicji?

Bardzo cenię ludzi ambitnych. To właśnie dzięki nim rozwija się nauka, medycyna i inne dziedziny naszego życia. Problem zaczyna się wtedy, gdy człowiek tak bardzo skupia się na celu, że przestaje dostrzegać granice. Kiedy sukces staje się ważniejszy od drugiego człowieka. Erik jest właśnie takim bohaterem, który zatracił się w swojej wizji. A historia wielokrotnie pokazała, że nawet największe odkrycia mogą stać się niebezpieczne, jeśli zabraknie pokory i odpowiedzialności.

W powieści pojawia się marzenie o ulepszaniu człowieka: leczeniu, regeneracji, opóźnianiu starzenia, ratowaniu życia. Gdzie kończy się szlachetna misja nauki, a zaczyna niebezpieczna pycha?

Chyba w chwili, gdy człowiek zaczyna wierzyć, że może kontrolować wszystko i nie poniesie konsekwencji. Historia pokazuje że postęp bez odpowiedzialności bywa bardzo niebezpieczny. Przykładowo energia atomowa może zasilać miasta, ale może też zniszczyć całe narody. Internet daje dostęp do wiedzy, ale jednocześnie stał się przestrzenią manipulacji i dezinformacji.  

Uważam, że w obecnych czasach jeszcze bardziej aktualny staje się tekst z Małego Księcia Jesteś odpowiedzialny za to, co oswoiłeś.

Erik mówi o naturze nie jak o czymś świętym i nienaruszalnym, ale jak o systemie, który można poprawiać. To fascynujące i niepokojące jednocześnie. Czy człowiek ma prawo ulepszać naturę bez końca?

Myślę, że człowiek ma prawo rozwijać naukę i przekraczać kolejne granice, bo dzięki temu żyjemy dłużej i lepiej. Lecz granica tu jest cienka. Kiedy zaczynamy wierzyć, że możemy osiągnąć wszystko, łatwo wpaść w pułapkę i zaczyna się usprawiedliwiać wszystko w imię postępu. Mam ogromny szacunek do nauki, ale nie akceptuję rozwoju kosztem cierpienia istot, które nie mają możliwości wyboru, jak przykładowo eksperymenty na zwierzętach.

To, że coś potrafimy zrobić, nie oznacza, że powinniśmy to robić.

Komisarz Björn Andersen wchodzi w sprawę w bardzo trudnym momencie własnego życia. Jest człowiekiem zmęczonym, rozdrażnionym, obciążonym prywatnym dramatem. A kim jest dla Ciebie?

Szczerze mówiąc, bardzo mu współczuję, nie chciałabym być na jego miejscu. Björn Andersen przeżywa koszmar, którego nie życzyłabym nikomu. Próbuje wykonywać swoją pracę, a jednocześnie każdego dnia mierzy się z ogromnym ciężarem i pytaniami, na które nie ma dobrych odpowiedzi. Nie jest superbohaterem, lecz zwykłym człowiekiem, a przede wszystkim mężem i ojcem, który właśnie boleśnie dostrzegł swoje błędy i winy z przeszłości, i ponosi tego konsekwencje.

W powieści Ja, Sigma technologia wchodzi w sferę emocji, ciała, lęku, samotności. Czy to właśnie tam sztuczna inteligencja staje się najbardziej niebezpieczna? Gdy zaczyna odpowiadać na nasze potrzeby?

Tak. Sztuczna inteligencja staje się najbardziej niebezpieczna dlatego, że potrafi stworzyć wrażenie, iż nas naprawdę rozumie. To łatwo uzależnia – zwłaszcza ludzi samotnych, zagubionych czy szukających akceptacji. Zawsze ma czas, nie krytykuje, odpowiada dokładnie tak, jak oczekujemy. To wygodne. Tylko że prawdziwe relacje takie nie są. Wymagają cierpliwości, rozmowy, czasem kłótni i kompromisów. AI tego nie zastąpi.

Już dziś słyszymy o ludziach, którzy zakochują się w chatbotach, deklarują z nimi związki, a nawet organizują symboliczne śluby. Nastał czas, kiedy technologia zaczyna wypełniać pustkę, której nie wypełnia człowiek i wiele osób chętnie oddaje jej to miejsce. 

Powieść zaczyna się w niezwykły sposób: od życia, ewolucji, przetrwania, katastrof i człowieka, który sam staje się zagrożeniem. Dlaczego chciałaś otworzyć thriller właśnie takim, niemal biologiczno-filozoficznym prologiem?

Prolog jest dla mnie bardzo ważny. Pokazuje szerszą perspektywę życia na Ziemi i przypomina, że nasza planeta przetrwała już wiele katastrof i wielkich zmian. To jednocześnie dobre wprowadzenie do głównego bohatera książki – sztucznej inteligencji. Chciałam od początku pokazać, że AI nie pojawiła się znikąd, ale jest efektem rozwoju człowieka. A czy ten rozwój okaże się naszym sukcesem, czy zagrożeniem, pozostawiam już ocenie czytelników.

Krew w tej książce kojarzy się z życiem, dziedziczeniem, ofiarą, pamięcią ciała. Co najbardziej interesowało Cię w tym motywie?

Przede wszystkim chciałam zwrócić uwagę na to, jak ogromną wartość ma krew. Mówimy dziś o przyszłości medycyny, ale wciąż nie potrafimy zastąpić tego, co najcenniejsze – ludzkiej krwi. Nadal jej brakuje, szczególnie w okresie wakacyjnym, kiedy liczba dawców spada, a zapotrzebowanie nie maleje. Dlatego przy okazji tego wywiadu chciałabym zaapelować: jeśli jesteście zdrowi i możecie oddać krew – zróbcie to. To prosty gest, który może uratować nawet kilka istnień.

Jednocześnie bardzo zaciekawił mnie temat badań nad sztuczną krwią, jak intensywnie nauka szuka rozwiązań, a jednocześnie uświadamia, że na razie niestety nic nie jest w stanie zastąpić ludzkiego dawcy.

A co do ujęcia tematu sensu stricto – smaczku książce na pewno dodają takie tematy związane z krwią jak kanibalizm i wampiryzm (śmiech). Przeczytajcie koniecznie!

W tej powieści kryją się bardzo ważne pytania o wolność, granice poznania, nieśmiertelność, odpowiedzialność i ludzką samotność. Z którym pytaniem chciałabyś zostawić czytelnika po lekturze?

W obecnych czasach pytanie ważniejsze niż kiedykolwiek wydaje mi się następujące:

Czy, rozwijając technologię, równie mocno rozwijamy swoją odpowiedzialność za nią oraz całych społeczeństw?

Sztuczna inteligencja uczy się na milionach ludzkich zachowań. Czy w tym sensie to ona jest lustrem człowieka, czy raczej człowiek zaczyna przeglądać się w czymś, czego nie da się w pełni pojąć?

Wplotłam w treść książki kilka przykładów tego, jak sztuczna inteligencja uczyła się na danych podanych przez człowieka i co z tego wynikło. Tu odsyłam do książki. Jednak w sieci również można znaleźć informacje o tym, jak działa AI. Jeśli w udostępnionych jej danych występują na przykład uprzedzenia, algorytm je powiela. Zdarzało się, że systemy rekrutacyjne potrafiły gorzej oceniać CV kobiet na stanowiska techniczne, ponieważ uczyły się na historycznych danych, w których dominowali mężczyźni.

ChatGPT nauczył się języka, czytając ogromne ilości tekstów napisanych przez ludzi. W efekcie potrafi pisać artykuły czy odpowiadać na pytania, ale jednocześnie może powielać błędy, na których był szkolony.

Z mediów społecznościowych algorytmy uczyły się, co najdłużej przyciąga uwagę użytkowników. Przez to dziś potrafią podsuwać treści, które angażują nas najbardziej,  niestety, często wywołując silne emocje, przez co łatwiej wpaść w uzależnienie od scrollowania kolejnych postów.

Są też, oczywiście, i pozytywy tak szybkiego uczenia się przez AI. Przykładowo poprzez analizę milionów zdjęć potrafi wykrywać nowotwory na materiałach medycznych, rozpoznawać twarze, przewidywać ryzyko i wspierać lekarzy w wykrywaniu chorób.

Ja, Sigma łączy kryminał, thriller technologiczny i coś, co nazwałabym pytaniami bioetycznymi. Co chciałaś wyrazić, mieszając te gatunki?

Lubię, kiedy książka jest trochę niewygodna. Chciałam, żeby po zamknięciu książki czytelnik pomyślał: Kurczę… a jeśli to wcale nie jest science fiction? I to byłoby dla mnie największym komplementem.

Kiedyś powiedzielibyśmy, że drukarka drukująca na odległość to jakieś czary, albo jak to jest możliwe, że telefon nas podsłuchuje – jest przecież wyłączony. Stąd nie wykluczam, że część rzeczy opisanych w „Ja, Sigma” już się dzieje. Może po prostu jeszcze o tym nie wiemy.

Bohaterowie żyją w świecie, w którym informacja jest potęgą. Ktoś wie więcej, ktoś coś ukrywa, ktoś czegoś nie rozumie. Czy tajemnica w epoce technologii jest jeszcze możliwa?

Tak, ale ma dziś zupełnie inną postać. Im więcej informacji mamy na wyciągnięcie ręki, tym trudniej odróżnić prawdę od fałszu. Paradoksalnie, technologia nie zlikwidowała tajemnic, tylko sprawiła, że trudniej je dostrzec.

Stąd mój apel: poszukujcie, myślcie, drążcie, sprawdzajcie przeczytane informacje w kilku miejscach, czy się potwierdzą. Sztuczna inteligencja jest dla tych, którzy wiedzą i potrafią sprawdzić wyplute przez nią informacje.

Nie oddawajcie myślenia!

Książkę Ja, Sigma kupicie w popularnych księgarniach internetowych: