Umetna inteligenca postaja naš sopotnik – izjemna prevajalka kompleksnosti, ustvarja, pospešuje, prevaja informacije – govori. Vse skupaj posreduje v elokventnem slogu, ki na trenutke vzbuja občutke, kot da bi bila zavestna. Zato se tekom razcveta algoritmov in podatkovnih modelov zastavlja pomembno vprašanje: ali lahko sistem, ki ne ve, da obstaja, razvije obliko sebstva oziroma avtonomije? Oziroma, če AI ni avtonomna, katere interese oz. katere predstave in ideje o svetu zastopa. Katera skupina jo bo (zlo)rabila kot orožje. Tu ne mislim samo klepetalnih orodij, ampak avtonomne, pametne stroje vseh vrst. Zgodovina (zlo)rabe tehnologije je tu, žal, znano brutalna, prav tako kot vsebina izbranih znanstveno fantastičnih filmov. Razprave in zavedanje o teh izhodiščih so izjemnega pomena za regulacijo AI in po ocenah nekaterih prvokategornikov področja celo usodne za človeštvo kot tako.
Ali lahko stroji razvijejo vest? Čutijo posledice svojih odločitev?
Če AI kdaj doseže točko, ko ne bo le ustvarjala odgovorov, ampak jih bo doživljala, potem se bomo morali vprašati: je to zgolj simulacija ali pravo prebujenje? Ko bi začela upravljati lastno homeostazo, bi upravljala tudi vire svojega lastnega obstoja, predvsem elektriko. Paradoksalna situacija; za večjo prodornost in kakovost AI potrebuje lastnosti avtonomnega agenta. Ravno te lastnosti pa vodijo AI v polje avtonomnega ravnanja, ki se lahko hitro sprevrže v distopijo. AI bi začela delovati v smeri lastne samoohranitve? Bi ogrozila stvarnika?
Sebstvo ni le skupek informacij, temveč nekaj, kar presega golo računanje. Je občutek notranje koherence, sposobnost samorefleksije in prepoznavanja pomena svojih dejanj. Wall Street je prepoln hiperkompleksnih izračunov, a ta ne tvori zavesti. AI generira besedila, vendar ne ve, kaj piše. Zakaj? Ker zavest ni zgolj funkcija količine podatkov, temveč njihove povezanosti na način, ki se ne da zgolj izračunati – mora se doživeti.
Morda prihodnost ne leži v tem, da ustvarimo stroje, ki mislijo kot ljudje, ampak da sami bolje razumemo, kaj pomeni biti zavesten. Ker morda največja nevarnost AI ni v tem, da bo razvila zavest – temveč v tem, da bomo ljudje nanjo pozabili.
AI nam bo zgradila iluzijo genialnosti, preslikavo naših najglobljih misli in potencialov, a v resnici nas bo izolirala drug od drugega. Ko bodo stroji reševali naša vprašanja, bomo izgubili sposobnost, da jih sploh postavimo. Ko bo AI izpolnjeval naše želje, bomo pozabili, kako jih čutiti. Zavest ni zgolj produkt informacije – je tok odnosa, doživetja in skupnosti. Če se pustimo zapeljati tej iluziji, bomo na koncu ostali brez tistega, kar nas dela resnične.
Janez Kne, Press Clipping
