“Ludzie pójdą z kijami na Dolinę Krzemową”
Aleksandra Przegalińska o tym, dlaczego nie lubi Elona Muska
Z wykształcenia Aleksandra Przegalińska jest filozofem. Ale jej zainteresowanie sztuczną inteligencją spowodowało, że rozpoczęła badania na najlepszej politechnice na świecie - Massachusetts Institute of Technology. “Nasz człowiek w MIT” spotkał się z nami w swoim warszawskim mieszkaniu. Pomimo przeprowadzki za ocean, Przegalińska dalej aktywnie uczestniczy w życiu akademickim nad Wisłą. W rozmowie z INN:Poland opowiada o tym, co jest nie tak z Doliną Krzemową, technologicznych nierównościach i przyszłości, w której roboty staną się pełnoprawnymi członkami rodziny.
Jak się pracuje na MIT?
Świetnie, choć to już stricte laboratoryjna praca. Nie musisz tam nikomu tłumaczyć, czym chcesz się zająć, bo dziedzina nikogo nie obchodzi. Projekt ma zainteresować. Poza tym to interdyscyplinarna uczelnia, nie ma sztywnych ram. Jest też ogromny know-how, mają laboratoria, prowadzą też działalność jako inkubator start-upów.
I czym się teraz zajmujesz?
Wraz z Leonem Ciechanowskim, moim co-researcherem robimy projekt interakcji człowiek-chatbot, tworzony wspólnie z SWPS w Warszawie. Mierzymy tam zmiany psychofizjologiczne.
W jaki sposób?
Podpinamy osobę między innymi pod elektromiograf i pulsometr. Sprawdzamy, która z wersji bota będzie cię najbardziej odstręczać – z głosem czy tekstowa. Badamy, jaki rodzaj wstrętu wywołają te humanoidalne cechy. To uczucie może być pochodną tego, że bot przypomina człowieka, ale nim nie jest – a to kojarzy się ze śmiercią. To jest atawistyczne – jesteśmy biologicznie uwarunkowani, by bać się takich obrazów.
Jeśli tak, czemu Japończycy rozwijają botykę? Wystarczy wspomnieć ich seks-roboty albo wirtualnego asystenta, który imituje mangową lolitkę.
Efekt obserwowany w Japonii jest dużo słabszy. To jest o tyle ciekawe, że sam termin ukuł Japończyk, Masahiro Mori. Dolina Niesamowitości to zjawisko biologiczne, ale można je do pewnego stopnia zniwelować kulturą.
Dlaczego?
W Japonii jest duża akceptacja tego, co nieożywione - dość wspomnieć shintoizm, który zakłada, że nawet rzeczy mają duszę. W toku rozwoju technologicznego, który w Japonii był bardzo dynamiczny, sami Japończycy zostali lepiej przygotowani na robotyczną inność. Wielu Japończyków i Japonek kupuje robotyczne pieski Sony, albo foki Paro, które są tworzone dla starszych osób. W toku ekspozycji na roboty po prostu przestali tak negatywnie reagować.
Też kiedyś przestaniemy tak negatywnie reagować?
Nie jest to nie do przeskoczenia. Ale to istotny problem, zwłaszcza z punktu widzenia konsumenckich technologii. Jeśli pierwsza reakcja będzie negatywna, całe przedsięwzięcie biznesowe może być skazane na porażkę.
A co ze wspomnianym już wirtualnym asystentem?
Widziałam tę reklamę ze smutnym człowiekiem, który nie ma z kim rozmawiać. Tylko czy to nie jest opowieść o stanie japońskiego społeczeństwa? Z drugiej strony, część moich znajomych uznało, że jestem bardzo konserwatywna w swoich reakcjach. Przecież nie ma znaczenia, czy to jest, czy nie jest człowiek – ma spełniać funkcję towarzyską. Jeśli to nie jest żywa osoba to co z tego? Czy to rzeczywiście takie ważne?
Ale kontakt z drugą osobą staje się zbędny.
To jest produkt dla osób, które nie są w stanie odnaleźć się w relacji z drugą osobą. I tak zostaliby sami. Jak o tym pomyśleć, to nawiązujemy różne relacje, z ludźmi czy zwierzętami. Ten asystent to nowy pluszowy miś, do którego przytulaliśmy się w dzieciństwie.
Miś 2.0.
Nawet 3.0. Widzę to po mojej córce i jej podejściu do technologii, które jest bardzo pozytywne. Jej pokolenie będzie miało zupełnie inny stosunek do zjawisk, które dziś budzą niepokój w naszym pokoleniu i w pokoleniach starszych.
Naprawdę?
Dla niej robot to coś sympatycznego, co może być członkiem rodziny. Na przykład bardzo lubi Alexę od Amazona. Nasz obecny lęk przed technologią przede wszystkim jest deklaratywny – bo i tak wszyscy patrzą w ekrany smartfonów. Jako pośrednik nie budzi ona lęku, jako partner już bardziej. Jednak dzieci na przykład chętnie wchodzą w interakcję z agentami pokroju Siri – zobaczymy, co się stanie, jak będą starsze.
No właśnie. powstały Siri, Cortana, Amazon Echo, samochody Tesli. Ale nie przepracowaliśmy nierówności ekonomicznych. Przeciwnie, dalej je pogłębiamy. Czy nie stanie się tak, że za 30 lat będzie w azylu o nazwie Dolina Krzemowa kilkaset tysięcy osób będzie czerpało maksimum korzyści z rozwoju, a reszta świata zostanie skazana na cyfrowe ochłapy?
To jest poważny i bardzo rzeczywisty problem w odniesieniu do SI. Nie chodzi o to, w którą stronę pójdzie technologia, tylko kto będzie jej beneficjentem.
Jakie mamy możliwości?
Problem z technologią polega na jej obojętności – nie interesuje jej, czy będzie rozwijana w warunkach redystrybucji, czy koncentracji kapitału. Spójrzmy na Elona Muska – dla wielu ludzi to współczesny Piotruś Pan. Co wymyśli, to się materializuje. Widzi się w nim człowieka, które chce nas wysłać na Marsa. Pytanie tylko, komu to oferuje. Przecież on tworzy dobra luksusowe dla bardzo wąskiej grupy konsumentów. I nie widać, by dokonywał się spill over.
Fot. Maciej Stanik/INN:Poland
Spill over?
Z dostępem do technologii dokonuje się pewien proces. Początkowo jest w zasięgu entuzjastów i ludzi zamożnych lub wojskowych. Ale potem dokonuje się jej „rozlanie” na pozostałe grupy – tak było z internetem czy siecią komórkową, nawet wearable. Klasa średnia, która jeszcze istnieje, może sobie na nie pozwolić. Ale nie widzę, żeby Elon Musk miał interes w tym, by dokonał się spill over. Przeciwnie, on inkubuje technologię dla zamożnych, bo to finansuje jego fantasmagorie.
A loty na Marsa i komercyjne na orbitę?
Z kolei jego projekty, które są w założeniu dla dobra ludzkości, są pisane palcem na wodzie. Na przykład finansowana przez NASA misja SpaceX. Ona jest potwornie zadłużona i korzysta głównie z publicznych pieniędzy. To nie jest dobroczyńca. To zanurzony po uszy w centrum kapitalizmu przedsiębiorca, którego model biznesowy nie wskazuje, że chce się z kimkolwiek dzielić swoimi badaniami.
I to jest właśnie ciekawe w kontekście późnego kapitalizmu – wykorzystując pieniądze od rządu, tworzy się produkty dla bardzo wąskiej grupy.
Spójrz na Petera Theila [współzałożyciel PayPal – przyp. red]. Ten człowiek mnie przeraża i fascynuje jednocześnie.
Dlaczego?
To piewca i donator Donalda Trumpa, człowiek, który zniszczył Gawkera, libertarianin i konserwatysta. Z drugiej strony przewidział internetową bańkę końca zeszłego wieku i ocalił PayPala. Ma w sobie jakiś geniusz, ale ewidentnie jest technologicznym elitarystą. Co ciekawe, powtarza, że technologia powinna powstawać za prywatne pieniądze i walczy z UE, które jego zdaniem zbyt miesza się w ten segment. A cały majątek zbudował na Internecie – narzędziu sfinansowanym przez DARPA. Jeśli twierdzi, że nie korzystał bezpośrednio z pieniędzy publicznych, to mówi prawdę. Ale korzystał z nich pośrednio.
Więcej osób z technologicznego światka podziela jego zdanie?
Wszyscy w Dolinie Krzemowej mówią w podobnym tonie i dalej flirtują ze środkami publicznymi. Jeśli mam jakieś zmartwienie, dotyczące Osobliwości, to właśnie to, w czyich rękach będzie. O tym właśnie trzeba mówić. Skąd się wzięły fale populizmu na świecie?
Skąd?
Z niewłaściwej redystrybucji. Jeśli jej nie będzie, nie będzie względnie równego dostępu do technologii, to przed nami stoją dwie wizje. Albo wąskiej elity, albo totalnej rewolucji i maszerowania z kijami na Dolinę Krzemową.
Kwestia redystrybucji powoli się zmienia. Finlandia rozpoczęła w tym roku eksperyment z dochodem gwarantowanym.
To jest bardzo interesująca propozycja, ale trzeba to mądrze zrobić. Bo jeśli mamy nowe narzędzia i technologie, pojawiają się nowe formy zatrudnienia. Ale jeśli nie masz nic do roboty, to to może spowodować wtórne kalectwo. Ja nieco obawiam się świata bez pracy. Pojawiają się postulaty, żeby przyśpieszyć automatyzację na rzecz tego, by ludzie mieli czas tylko dla siebie.
Kto to postuluje?
Ten ruch nazywa się Akcelerakcjonizm. Ja, jako pracoholik, czuję się uwikłana. Dużo mojej pracy jest zadanej i jest to element mobilizujący w jakiś sposób. Martwi mnie, jaki może mieć wpływ na kondycję psychiczną człowieka brak pracy. Program w Finlandii trzeba traktować jak pilotaż.
Z jakiego powodu?
Trzeba zapytać się, czy nie wywoła u ludzi poczucia, że są zbędni. Może należałoby tych”uwolnionych” ludzi dokształcać i dawać im jakieś ciekawe zadania? Zresztą, fiński pilotaż jest realizowany – wbrew powszechnym mniemaniom - w dość okrojonej formie i trudno stwierdzić, czy będzie konkluzywny.
Są i inne problemy. Mamy całe pokolenie Y, prekariat, które boi się o swoją przyszłość. Niektórzy już przewidują, że ta warstwa zmutuje w unnecessariat (warstwę ludzi niepotrzebnych). Całe pokolenie będzie zbędne. Nie załapało się na to, żeby masowo czerpać korzyści z technologii, jak pokolenie Z. I urodziło się za późno, żeby załapać się na szczytowy moment neoliberalizmu, jak pokolenie X.
Mam wrażenie, że mit self-made mana i nagrody za ciężką pracę, w której wychowano „iksów”, zdążył się już załamać. Wszyscy doskonale wiemy, że to problem strukturalny. Starć pokoleniowych jest między nami bardzo dużo.
Natomiast ciekawa rzecz stanie się, kiedy pokolenie X zostanie dotknięte tym problemem. Na razie są okopani w korporacjach, ale one też będą się atomizować, nastąpi rozluźnienie ich struktur i przemiana na parastartupowe.
Jak Spotify ze swoim systemem Lean.
Dokładnie. Do tej formy, czyli zarządzania w stylu lean, mam akurat bardzo dużo sympatii. Administracja Baracka Obamy zapowiedziała jej wdrożenie, ale ostatecznie nie zdążyli albo nie dość mocno próbowali. Przyszłość jednak będzie opierać się na elastyczności i ekonomii działań na żądanie (on demand).
Praca z doskoku?
Będziesz pracować, kiedy twoje usługi będą potrzebne. Nie wierzę, że „iksy” nie otrą się o ten system. Technologia i Lean idą ze sobą w parze. Spójrz na sharing economy. Głównym założeniem jest maksymalne wykorzystanie zasobów w najkrótszym czasie na jak najbardziej elastycznym poziomie.
Czy sharing economy nie jest jednak pustosłowiem? Takie ikony, jak Uber czy AirBNB mają kolejne problemy. Czy to prawne, czy z pracownikami, którzy skarżą się na wysokie prowizje i niskie stawki. Sąd Najwyższy w Anglii uznał, że kierowcy Ubera muszą dostawać pensję minimalną.
Zgadzam się, ten termin się zdewaluował. Tak samo zresztą jak termin start-up. Wszystko jest teraz start-upem. W pewnej książce podano przykład niskobudżetowego start-upu. Wiesz jaki? Piekarnię. Była też cukiernia i kwiaciarnia.
Aleksandra Przegalińska z robotem. Tym razem należącym do jej dziecka. Fot. Maciej Stanik/INN:Poland
Wszyscy jesteśmy start-upowcami.
Dobry pomysł na tytuł książki o porażce. Ale wracając do pytania, Uber bardzo sprytnie to wymyślił: my tylko zarządzamy platformą i co nam zrobicie? Z drugiej strony, będziemy korporacją taksówkarską, tylko nie z nazwy.
Co o tym myślisz?
Moje stanowisko jest jednoznaczne: Uber w dzisiejszej formie jest wyzyskiem. Nie mam problemu z rzeczami pokroju stawek zależnych od pory dnia czy nawet dostępu do moich danych przez kartę kredytową.
To gdzie jest problem?
W sytuacji, kiedy kierowca wiezie do lasu pasażerkę i próbuje ją zgwałcić. Co robi Uber? Ofiarowuje się, że ta pasażerka dostanie bezpłatny przejazd. To jest kuriozalne.
Cała idea sharing economy jest wypaczona?
Są pozytywne przykłady. Przede wszystkim w zakresie dzielenia się wiedzą i jej wspólnego budowania. Na przykład Wikipedia. W tym zakresie jest dużo kolaboracyjnych projektów, gdzie ludzie wymieniają się swoimi zasobami w dowolnym momencie. To nic nowego – technologia to po prostu wzmocniła.
To czemu mniej o nich słyszymy?
Bo nie są monetyzowane tak, jak start-upy z Doliny Krzemowej. One tylko twierdzą, że działają na zasadach sharing economy, a w gruncie rzeczy są nastawione wyłącznie na zysk.
Dla mnie przykładem sharing economy jest kooperatywa spożywcza. Tylko to offline’owy przykład.
A online masz General Assembly, darmowe kursy na Codecademy czy oprogramowanie Open Source. Tylko że przykład Ubera zaraził ludzi nieufnością. To już się jednak zmienia. W coraz większej liczbie państw jego działalność jest reglamentowana. Tak samo jest z podobnymi projektami, które mieniły się tytułem sharing economy – okazuje się, że działały w luce prawnej. Tylko regulacje bardzo wolno powstają. Może SI powinna je tworzyć, żeby przyśpieszyć ten proces (śmiech).
Skoro o SI mowa: deep learning, inaczej głębokie uczenie. Coraz modniejszy zwrot, która pojawia się w kontekście maszyn i sztucznej inteligencji. Czy jednak bot może się uczyć na podobnych zasadach jak człowiek?
Do pewnego stopnia tak, chociaż nie do końca. Deep learning, czyli uczenie głębokie, to w pewnym sensie nowa wersja czegoś, co znamy, czyli tzw. propagacji wstecznej.
Czyli?
Wcześniej była ona ograniczona do dwóch lub trzech warstw neuronowych, dziś takich ograniczeń nie ma. Tak naprawdę trudno nam powiedzieć, na ile uczenie maszyn jest zbieżne z naszym własnym.
Dlaczego?
Bo o tym, jak sami się uczymy, też w gruncie rzeczy wiemy jeszcze niewiele. Nauka dalej próbuje poznać dokładne działanie mózgu. Ale niewątpliwie udało się już rozwikłać kilka zagadek.
A trend nauczania maszyn jest coraz popularniejszy.
Uczenie maszynowe nabrało tempa i w przyszłości maszyna pewnie będzie musiała uczyć się bardziej tak, jak uczy się człowiek. Zwłaszcza jeśli mówimy o zaawansowanej , czy wręcz generalnej SI. Natomiast dziś jeszcze częściej stosowane są prostsze sposoby uczenia maszyn. Na przykład reinforcement learning (uczenie przez wzmacnianie), czyli nauka przez karę i nagrodę.
Tylko jak można karać i nagradzać wirtualny byt?
To taka metafora. W tej metodzie chodzi o to, że masz bota, który styka się cały czas z takimi samymi pytaniami i odpowiedziami. Jeśli odpowiednio zada pytanie lub udzieli na nie poprawnej odpowiedzi, dochodzi do „wzmocnienia” ścieżki, dzięki której podtrzymuje rozmowę.
Thync - neurostymulator do obniżania poziomu stresu i/lub zwiększania poziomu koncentracji. Fot. Maciej Stanik/INN:Poland
I co to daje?
Uczenie przez wzmocnienie to metoda wyznaczania optymalnej polityki sterowania przez wirtualnego agenta. W tym przypadku bota, który działa w nieznanym, skomplikowanym środowisku, na podstawie interakcji z tym właśnie środowiskiem. Jedyną informacją, na której agent się opiera jest sygnał wzmocnienia - poprzez wzorowanie się na pojęciu wzmocnienia z nauk psychologicznych. Kiedy osiąga wysoką wartość pojawia się sygnał nagrody. Kiedy osiąga niską, pojawia się sygnał kary.
Tylko że tak działa się teraz. A jak było wcześniej?
W przeszłości w botyce było dużo siermiężniej. Skupiano się na symulowaniu u bota zdolności do mówienia w języku naturalnym.
W jaki sposób?
Rozmontowywał składnię zdania i przestawiał słowa, próbując odpowiedzieć na pytanie. A jeśli nie umiał tego zrobić, to miał podać jakąś odpowiedź, która nic nie wnosiła. Po prostu ciągnął konwersację. Mówił rzeczy typu „doprawdy? czy “serio?”. Tylko to nie było uczenie maszyn. Raczej ślizganie się po powierzchni.
Świadomy bot to problem. Wystarczy spojrzeć na kwestie prawne.
Tylko teraz mówisz już o maszynie osobliwej, prawdziwie inteligentnej. Która dorówna, a nawet przebije człowieka pod względem możliwości intelektualnych.
Tak. Ray Kurzweil [amerykański futurolog i propagator transhumanizmu - przyp. red.] przewidział jej powstanie na 2045 rok. To już niedaleka przyszłość. Ale problemem praw zajmowali się pisarze science-fiction już w połowie XX. wieku.
Jak Isaac Asimov, który sformułował trzy prawa robotyki. Głównym założeniem zawsze było to, że robot nie może skrzywdzić człowieka. Ochrona tego drugiego pozostaje zawsze celem nadrzędnym. Tyle tylko, że prawa Asimova są bardzo generalne i nie znajdują przełożenia na skomplikowane dylematy moralne.
I tu zaczynają się schody.
Właśnie. Bo co, jeśli dwie osoby są zagrożone? Czyje życie będzie cenniejsze dla robota? Potrzebujemy dużo większej biblioteki praw dla robotów. Takiej, która uwzględni ich wzajemne relacje, zakres praw i obowiązków czy funkcjonowanie w społeczeństwie. To jest ogromne wyzwanie, przed którym będziemy zmuszeni stanąć. Choćby dlatego, że już niedługo na drodze pojawi się coraz więcej autonomicznych samochodów.
To Ciebie też pewnie interesuje.
Na MIT realizowany jest aktualnie projekt, który konstruuje bazę wiedzy do budowy autonomicznego samochodu. Jest otwarty dla każdego chętnego – na stronie odpowiadasz na konkretne pytania, jak powinno zachować się auto w danej sytuacji. Dane są potem agregowane i wyłania się z nich wiedza, na temat ludzkich zachowań i wyborów.To jest inny sposób uczenia maszyny – masz rój odpowiedzi, które są analizowane, żeby dowiedzieć się, jak zachowuje się większość z nas.
Rozwój maszyn czyni z nas kaleki. Można się zgodzić, że pewna, być może niecałkowita, autonomia maszyn będzie faktem w stosunkowo bliskiej przyszłości. Tylko w ten sposób odcinamy sobie konieczność nauki kolejnej manualnej umiejętności, jaką jest prowadzenie samochodu.
Z postępującym kalectwem mamy do czynienia od początków istnienia homo sapiens. Młotek, miecz, kij – to wszystko nas wyręczało i pomagało przeskoczyć biologiczne trudności. Zawsze wykorzystywaliśmy naturę przeciw niej. Braliśmy jakiś jej fragment i przerabialiśmy na narzędzie, które służyło do innych celów. Moim zdaniem, historia cywilizacji to historia kolejnych narzędzi. Czy kolejne wynalazki doprowadziły nas do kalectwa? Nie, tylko nas przekierowywały na inne obszary aktywności. Kiedyś człowiek biegał, bo musiał. Teraz uruchamia Endomondo i robi to, bo ma ochotę.
Opaska Thync w trakcie nakładania. Fot. Maciej Stanik/INN:Poland
Ulubiona wizja w świecie pop-kultury. W wielu dziełach uzyskanie świadomości przez maszynę jest równoznaczna z zagładą ludzkości.
Nie zgodzę się. A Chappie? Wall-E? Droidy z Gwiezdnych Wojen? To są postaci pozytywne. Tak samo było w Blade Runner. Ostatnio pojawił się również serial Westworld – tam właśnie postawiona jest teza, że maszyna to współczesny niewolnik i to człowiek jest tym złym. Są wizje dystopijne, ale pozytywnych reprezentacji też jest dużo.
Nie twierdzę, że ich nie ma. Ale przeważają negatywne wizje. Zauważ, że dobre maszyny zazwyczaj pomagają bohaterowi lub jego grupie – jej oddziaływanie ma wąski zasięg. A skutki działania złej maszyny są apokaliptyczne.
Ludzie są dziwni. Bardzo boimy się sztucznej inteligencji. Obawiamy się tej boskiej kreacji, bo w końcu kreujemy życie. Sztuczne, ale życie. Z drugiej strony, przemy do tego bez mała od XV wieku. Wtedy pojawiają się pierwsze wzmianki o tworzeniu maszyn. XVIII i XIX wiek to kolejny kamień milowy, kiedy zostaje stworzony zegarek i wybucha Rewolucja Przemysłowa. Z jednej strony to ogromne marzenie – stworzenie czegoś na miarę człowieka, w czym możemy się przejrzeć. Jednocześnie jest ogromny lęk, podobnie jak przed obcymi. Mam wrażenie, że nasz stosunek do SI jest schizofreniczny. I to właśnie wyraża się w popkulturze.
Boimy się i pragniemy postępu.
Jako jednostki i cywilizacja jesteśmy bardzo konfliktogenni. Przez to zakładamy, że SI będzie tak samo niecna jak my. Bezwzględna i dążąca do bycia na pierwszym miejscu za wszelką cenę.
W „Starości Aksolotla” Jacek Dukaj kreśli ciekawą wizję ludzi, którzy przeżyli zagładę ludzkości, wysyłając swoją świadomość do chmury. Jednak przez całą książkę zastanawiają się, ile tej świadomości przesłali.
To jak w „Możliwości Wyspy” Michela Houllebecqa. Ludzie osiągnęli tam nieśmiertelność tworząc kolejne klony samych siebie. Ale każdy kolejny jest echem swojego poprzednika i desperacko próbuje wrócić do wspomnień „oryginału”.
Efekt końcowy. Fot. Maciej Stanik/INN:Poland
Mój dobry przyjaciel, doktorant filozofii na UW, również skończył bioetykę. Debatowaliśmy, czy jest możliwe stworzenie idealnej kopii człowieka.
Cóż, w procesie klonowania zawsze mogą zajść jakieś alteracje. Ale w naszym kręgu kulturowym, który na piedestał stawia jednostkę i indywidualizm, trudno pojąć, że może istnieć dokładna replika.
Nie znajdzie u nas podatnego gruntu do rozwoju?
Takie myślenie prędzej pasuje do azjatyckiej kultury, gdzie popularna jest koncepcja nirwany i wspólnego umysłu. Mam wrażenie, że tam może rozwijać się pomysł SI jako sieci. To wynika z ich stylu myślenia. Jest nastawiony na kolektywizm i zatopienie się, „odjednostkowienie”.
Jeśli klonowanie nie mieści nam się w głowie, to jaka jest alternatywa?
Krionika. Zamożni ludzie mrożą się w azocie i wyczekują momentu, kiedy technologia pozwoli ich wskrzesić. Są zawieszeni między życiem a śmiercią. Wypompowano z nich krew i zastąpiono substancją, która ma skład chemiczny bliższy płynowi do szyb.
To jak ich wskrzeszą?
Wpompują im krew na nowo i rozmrożą. Do pewnego stopnia, in vitro operuje na podobnych zasadach z zasadniczą różnicą skali organizmu. Tyle że in vitro działa, a krionika nie. I pojawia się kolejne pytanie: czy rozmrożona osoba nie wróci jako zombie, echo człowieka, którym była. Dopóki nie obudzi się pierwszej osoby, nie możemy tego stwierdzić. Na razie jednak dominuje pogląd, że nie da się „odtworzyć” osoby z jej całym zniuansowaniem osobowości. Czy to w sieci,czy egzoszkielecie.
Rozmowę przeprowadził Grzegorz Burtan.
