Apie baimes ir dirbtinį intelektą

Žiūriu į kompiuterį – skaitinėju, rašinėju... Akys jau pradeda lipti. Paspaudžiu off mygtuką ir einu į miegamąjį, kuriame jau devintą sapną sapnuoja sužadėtinis. Medines duris apšviečia orkaitės laikrodis. Šviesa pro plonus matinius durų langelius turėtų skverbtis ir į miegamąjį. Taip tyliai, kaip tik sugebu, palenkiu šaltą rankeną ir atidarau duris. Nežinau, ar pavyko nuslopinti girgždesį, nes girdžiu tik aštrų riksmą. Klykia mano mylimas žmogus.

– Čia aš, Juozai. Čia aš, – kartoju ir įjungiu šviesą kitame kambaryje. Klyksmo nebegirdžiu. Atsisukusi matau vieną atmerktą akį. Du trečdalius veido Juozas pridengė žaliu patalynės užvalkalu. Gal pusę minutės tas vienos akies žvilgsnis nesakė nieko. Atrodė, kad žiūri, bet nemato. Tada jis nusisuko ir du kartus pakartojo:

– Kas man darosi? – tarsi tai nebūtų pirmas kartas. Jis pagaliau pabudo, o aš vis neužsičiaupiau su klausimais. Pati dar ilgai neužmigau. Sukosi mintys apie monstrus, kurie tūno mūsų galvose.

– Kokios pabaisos ir kodėl mus gąsdina?

Turbūt suaugusiuosius pirmiausia gąsdina neišvengiamos atsakomybės. Per kiekvieną heloviną kam nors kyla mintis pasipuošti marškinėliais su užrašu „mokesčiai“. Aišku, dar yra senatvė, mirtis... Visa tai daugiau mažiau racionalu, bet taip pat – nepažįstama. Mokesčiai labiau gąsdina jaunus žmones, kurie dar nesupranta, kiek už ką reikia mokėti, bet tikrai ne buhalterius (jei viskas padaryta pagal taisykles). Senatvė ir mirtis yra tai, kas neišvengiama, nors apie tai daug nežinome. Tai, kas yra neįprasta, žmogui nepažįstama, anglų kalba vadinama uncanny. Uncanny galima rasti beveik visur, kur kalbama apie baimę, siaubo žanrą. Pasak Froido, žodis nejaukus yra jaukaus, kitaip tariant, pažįstamo priešingybė. Mintį apie nejauką ir nepažinumą jis papildo rašydamas, kad anaiptol ne viskas, kas nepažįstama ar nauja kelia mums baimę. Norėčiau sakyti, kad kai atsirado skalbimo mašina, niekas to nebijojo. Tačiau bijojo būtent ta žmonių dalis, kuri už skalbimą rankomis užsidirbdavo duonai. Tad įdomu, kodėl mes taip visuotinai bijome dirbtinio intelekto? O kalbant Froido terminais, kodėl tai mums kelia nejauką? Taip taip, šiandien apie tai, apie ką niekas nenustoja šnekėti jau kiek? Ketverius metus? DI tą, AI aną... Ir aš prisidėsiu prie tirados.

Dar dirbtinio intelekto eros pradžioje susiformavau nuostatą, kad reikia bijoti žmonių, kurie neatsakingai naudoja DI, o ne paties DI, nes tai neturi žmogiškumo (DI vadinu tai, o ne jis, nors jau keletą kartų rašiau ir tryniau šį įvardį – tai gąsdina, – nes nenoriu suasmeninti algoritmų sistemos.) Vieną dieną nusprendžiu rašyti būtent apie tai, o jau kitą rytą valgau avižinę košę ir girdžiu moters iš televizoriaus ekrano balsą: „Specialistai ragina lėtinti dirbtinio intelekto vystymą... D. Trumpas nesutinka... Kinija vystymo nelėtins...“ Žodžiu, toks anksčiau DI srityje dirbęs vyrukas pasakė, jog „DI kuriantys žmonės tiki, kad jis [tai] gali mus visus nužudyti iki šio dešimtmečio pabaigos.“ Kitas vyrukas pasakė, kad tikimybė, jog DI sunaikins žmoniją didesnė nei 10 procentų. Tokios kalbos labiau primena mokslinę fantastiką nei realų pasaulį. Yra ir senesnių, ir naujesnių mokslinės fantastikos knygų, filmų, kompiuterinių žaidimų, kurie pasakoja apie dirbtinį intelektą, robotus, botus ir kitus jau ne tokią tolimą ateitį primenančius žmogaus kūrinius. „Detroit: become human“, „Portal 2“, „Ji“, „Aš, robotas“, „Bėgantis skustuvo ašmenimis“, ekranizacijos tuoj pat sulauksianti „Klara ir saulė“, kino klasika virtusi „Matrica“... Galima vardyti ir vardyti.

Moksline fantastika ir jai artimo siaubo žanro kūriniais galima gana paprastai paaiškinti, kodėl mes iš tiesų bijome DI. Atsakymus galima rasti jau pirmuosiuose siaubo ir gotikiniuose tekstuose. Turbūt net ir klasikinėje mitologijoje rastume panašios baimės užuomazgų. Tai nebūtinai turi būti protaujančios technologijos. Tai gali būti ir pabaisos – tokios žmogui svetimos, bet kažkuo ir artimos būtybės. Visai kaip H. P. Lovecrafto – kosminio siaubo pradininko – apysakos „Tas, kuris šnabždėjo tamsoje“ puslapiuose. Skaitau šį tekstą iš nutrintos knygos. Pirštais jaučiu šiek tiek šiurkštų viršelį, bibliotekos lankytojo įspaustą puodelio žymę. Šie taktiliniai pojūčiai suderėjo su nejaukos pripildytomis eilutėmis. Nors nejauka išsisklaidė, kai žmogus artimiau pažino jį ir kitus personažus gąsdinusius padarus. Kaip rašė Froidas: „Kuo geriau žmogus orientuojasi aplinkoje, tuo menkiau jam aplinkos daiktai ar nutikimai žadina nejauką.“ Taip yra dėl nežinomybės baimės, kurią tas pats H. P. Lovecraftas įvardina kaip didžiausią žmogaus baimę. Kai nelieka nežinomybės, nelieka ir baimės. Todėl kuo geriau žmogus pažįsta šias būtybes, tuo mažiau nejaukos jos kelia. Sėdžiu ant žalios sofos ir iš kitų bibliotekos skaitytojų nutrintos H. P. Lovecrafto tekstų rinktinės skaitau išoriškaisiais pavadintų būtybių aprašymus: „Tai veikiau augalai nei gyvūnai, [...] jie pasižymi iš dalies grybiška sandara.“ Įdomios būtybės – kitokios, bet iš dalies pažįstamos. Panašios į „gyvūniškas gyvybės formas“ ir turinčios sąmonę, kaip ir žmonės. DI ir žmogus turi kitokių panašumų ir skirtumų. Tačiau yra toks pat eiliniam žmogui, o pagal DI kūrėjų nuogąstavimus, turbūt kiekvienam žmogui iki galo nepažinus dalykas. Nors ir artimas.

DI turbūt yra kol kas panašiausia ir labiausiai žmogaus mąstymą imituojanti technologija. Aiškinimus, kuo skiriasi žmogaus ir DI mąstymas, paliksiu kompetentingesniems. Pati ne iki galo suprantu, kaip kas veikia. Tačiau kiek žinau, DI yra tam tikras algoritmas, kuris geba labai greitai surasti ir perdirbti informaciją. Čia sustoju. O jei apie tai paklausčiau ChatGPT?

Rašau užklausą: „Ar dirbtinis intelektas yra algoritmas, kuris geba labai greitai rasti ir perdirbti informaciją?“

(Gerbiami užkietėję DI naudotojai, neteiskit dėl prompto (užklausos DI pokalbių programai), ne taip ir dažnai juos rašau.)

ChatGPT atsako: „Taip, iš dalies [...] Taigi tavo apibūdinimą būtų galima patikslinti taip: Dirbtinis intelektas – tai algoritmais pagrįsta sistema, gebanti iš duomenų išmokti dėsningumus ir juos panaudoti informacijai apdoroti, prognozuoti, klasifikuoti, generuoti ar priimti sprendimus.“

Tai, kad DI geba mokytis irgi yra ryškus panašumas su žmogumi. Tačiau joks DI modelis, pamatęs, perskaitęs ar išgirdęs meno kūrinį nepajus gumulo gerklėje, nesusidurs su dilema, kai nerandi žodžių apibūdinti jausmui. Būtent. Jausmui. Nes kompiuteris negeba jausti. Nejaučia ir atsakomybės (tai akivaizdu iš kiekvieno „taip, pastebėjai svarbią klaidą“), kuri tokia svarbi atliekant sprendimus. Tiesa, DI kūrėjai stengiasi įdiegti bendražmogiškas vertybes. Tačiau kol kas negaliu įsivaizduoti DI modelio, kuris jaustų emocijas, tad ir turėtų empatijos. Negali žinoti, kaip atrodys ateitis, bet bent kol kas jausmai priklauso gyvoms būtybėms. Tai galėtų būti racionali priežastis žmonėms taip nebijoti šios technologijos, nes tuo esame pranašesni. Tačiau ir pagrindas manyti, kad kol DI neįvaldys emocijų, tol žmogus to bijos.

Kita vertus, žaidime „Detroit: become human“ robotų androidų emocijos vaizduojamos kaip gedimas ir net grėsmė žmogui. Įsijungiu žaidimą, išsiaiškinu, kaip valdyti savo personažą ir pradedu pirmąją misiją. Pasivaikštau po įvykio vietą, įvykdau kelias smulkias užduotis, kurios surašytos ekrane. Tada pamatau ant grindų spurdančią žuvelę. Apsižvalgau. Ji iškrito per nuo šūvio skilusio akvariumo kraštą. Paspaudžiu ant žuvelės, paimu ją ir įmetu atgal į akvariumą. Tai buvo žmogiškas, empatiją rodantis poelgis, nebūdingas androidui – ekrane pamatau žodžius „programa nestabili“. Tęsiu žaidimą ir toliau aiškinuosi, ką man reikia padaryti, kad laimėčiau. Misijos pabaigoje sutinku androidą, kurį žaidimas vadina nukrypusiu nuo normos (deviant). Ta norma susijusi su emocijomis, kurių stiprumą indikuoja ant smilkinio šviečiančio apskritimo spalvos. Nukrypusiojo nuo normos apskritimas raudonas – jis ir veiksmais išreiškia pyktį, kalba apie liūdesį ir nusivylimą, net baimę. Kai pasirenku, kad mano valdomas androidas jį nuramintų, mano androidas sako: „visos šios emocijos yra tik klaida tavo sistemoje“. Gali būti, kad tikrovėje dirbtinio intelekto emocijos taip pat būtų laikomos klaida sistemoje, nes gąsdintų žmones, gal ir iš tiesų keltų grėsmę. Juk ir itin stiprios žmonių emocijos gali tapti priežastimi kenkti kitam.

O jei DI perimtų mūsų žmogiškumą, bet nekenktų kitam? Tokį pasaulį savo knygoje sukūrė Kazuo Ishiguro. Pusiau sėdom, pusiau gulom leidžiu vakarą ant tos pačios žalios sofos su minėta oranžine knyga rankose. Ant knygos viršelio parašyta „Klara ir saulė“. Iš anotacijos išsiaiškinu, kad Klara – visai ne žmogus, o robotas. Įpusėjus knygą ją užverčiu ir arčiausiai esančiam žmogui suraukusi antakius pasakoju, kaip knygos personažai bando sukurti mylimo žmogaus kopiją. Tik įvelka tai į kitus žodžius: „Naujoji Džouzė bus ne imitacija. Ji iš tikrųjų bus Džouzė. Džouzės tąsa.“

Kasdien vis grįžtu ant tos pačios sofos su ta pačia oranžine knyga ir mintyse kyla klausimai:
– Kiek ir ar žmogus skiriasi nuo roboto? Kiek savo sąmonės parodome veiksmais? Ir svarbiausia – kiek žmogus yra unikalus?

Į pastarąjį klausimą atsako knygos personažas:

– „Toji [žmogaus] dalis nenori jų [nuostatų apie žmogiškumą] pakeisti. Toji dalis, kuri nori ir toliau tikėti, kad kiekviename iš mūsų slypi kažin kas nepasiekiama. Kažin kas unikalu ir neperkeliama. Bet nieko panašaus nėra, dabar mes tai žinome.“ – Sėdžiu ant žalios sofos susiraukusi. Pabaigoje man jau aišku: Klara apie žmogaus sielą supranta daugiau nei kiti – žmogiškos formos personažai.

Tai skamba kaip blogiausias scenarijus. Žmonės netenka sąmoningumo ir virsta dirbtiniais žmonėmis, o dirbtinis intelektas, – žmogišku intelektu. Ar toks scenarijus realus? Tai abejonių keliantis klausimas. Tačiau po juo slypi turbūt ne man vienai kylanti baimė – kad žmonės pames savo sąmonę, atiduodami savo sprendimus DI, pasitikėjimą – mašinoms, nutraukdami žmogiškus ryšius. Ši baimė jau nėra susijusi su Froido apibūdinta nejauka.

Visos teisės saugomos. © 2022–2026 „Humanitarų meka“