Kompjuterske neuroze

Kompjuterske neuroze ili kako izbjeći da umjetna inteligencija preuzme sve što ikada igdje kažete

Svatko je neka imao iskustvo muke sa pronalaženjem prave riječi. Bilo da piše blog, ili razgovara sa prijateljem, može biti vrlo  izazovno pronaći riječi koje izražavaju točno značenje onoga što želite prenijeti. To dovodi do frustracije.

To je nusprodukt činjenice da se jezik razlikuje od samih pojmova. Riječ "pas" nije isto što i stvarni pas. U usporedbi sa bilo kojim stvarnim psom, riječ se pokazuje prilično bezizražajnom. Svaki stvarni pas ima pasminu, spol i mnoge druge značajke, koje nisu obuhvaćene ovim jednim pojmom. Više riječi može se iskoristiti za opis određenog psa, poput "kratkodlakog smeđeg mužjaka labradora", ali to i dalje ostavlja mnogo toga na stolu. Kako se opisu dodaje više riječi, jezik se približava stvarnosti asimptotski. Nikada se ne podudara sasvim 1 na 1.

Srećom, psi su fizička bića, koja se mogu identificirati u prostoru. Osjećaje, koncepte više razine i apstrakcije je puno teže savršeno izraziti. Ponekad im je potreban potpuno novi simbolički sustav, kao što je u matematici ili CPU instrukcijama, tj. složene društvene mreže, koje sadrže latentnu dinamiku... sretno vam bilo.

Francuski psihoanalitičar Jacques Lacan, ovisnik o kokainu, identificirao je ovaj jaz između simboličkog (jezika) i stvarnog (baš ono stvarnih stvari koje riječi samo opisuju) - kao korijen naših neuroza. Nakon što dijete prihvati jezik, ono također prihvaća teškoću odvajanja simboličkog od stvarnog, razliku koja ostaje s njim zauvijek. Marshall McLuhan je istaknuo kako dijete počinje razumjevati i izgovarati riječi u istom razvojnom skoku, kada nauči otpuštati objekte. Identificiranjem objekata u vanjskom svijetu i rukovanjem njima kao takvima, također priznajemo i razumijemo svoju subjektivnost.

Ljudi žude za potpunim prihvaćanjem subjekta i objekta. Jaz između simboličkog i stvarnog tako stvara neugodnu prazninu,  koju ljudi pokušavaju ispuniti slijedeći želju, barem prema jednom francuskom psihoanalitičaru.

Računalo, s druge strane, nema iskustva razlikovanja između subjekta i objekta. Umjesto toga: svaka riječ, svaki piksel, svaka naredba postoji na različitim razinama apstrakcije, sve imanentno računalu. Ove riječi na ovom zaslonu, objavljene na vašem zaslonu, pohranjene su kao nule i jedinice, koje onda određeni poslužitelji prenose na vaše računalo. Preglednik ili aplikacija, koju vaš uređaj koristi za primanje informacija, šalje informacije niz cjevovod do procesora vašeg računala i upućuje CPU neka iskoristi magnete za prebacivanje niza bajtova. Ovaj proces je kompliciran, ali nije toliko složen kao savršeno predstavljanje stvarnog i specifičnog psa - putem jezika.

Potonje je nemoguće izvesti savršeno. Prvo nije. To se događa često i svake sekunde, baš svakog dana.

Za računalo ne postoji razlika između simboličkog i stvarnog. Za računalo je reprezentacija stvar sama po sebi.

Vrlo popularna stvar sa računalima, ovih dana, je razgovor s njima. Veliki jezični modeli mogu razgovarati sa osobom, kao da se radi o drugoj osobi, razmišljaju nevjerojatno brzo i razumjevaju što želite, te pružaju odgovore koji odražavaju njihovo tumačenje onoga što vi želite.

No, što je zapravo "fraza" za umjetnu inteligenciju?

Za umjetnu inteligenciju - fraza je vektor. Vektor je niz brojeva. Količina brojeva je količina dimenzija. Vektor [1, 2] je dvodimenzionalni vektor, koji bilo koji student algebre može nacrtati na X-Y ravnini. Ako vektor sadrži sto brojeva, on se proteže kroz sto dimenzija. Matrice su mreže brojeva koje transformiraju vektore, poput leće ili filtera. Umjetna inteligencija uzima frazu i ugrađuje je u visokodimenzionalni vektor. Milijuni matrica transformiraju ovaj vektor u neuronskoj mreži. Neuronska mreža se koristi za prepoznavanje obrazaca i predviđanje ishoda. Matrice identificiraju značenje riječi i njen odnos prema ostatku fraze, drugim riječima, širem kontekstu, i tako dalje.

To je magija koja omogućuje umjetnoj inteligenciji da komunicira s vama. Ovako izvodi značenje iz fraza: na strukturiran i relativno predvidljiv način. Ljudska spoznaja i razumijevanje nisu ni približno toliko predvidljivi, i nisu ih osmislili drugi ljudi, već Bog (ili evolucija ili neka kombinacija to dvoje).

Za umjetnu inteligenciju značenje ima numeričku preciznost, dok je za ljude značenje stalno u mijenjanju. Za umjetnu inteligenciju, riječ "pas" je prosječan obrazac svih upotreba te riječi, definiran opsežnim promatranjem upotrebe riječi. Nasuprot tome, za osobu, riječ "pas" je neprecizan pojam koji se općenito odnosi na platonski oblik psećeg "ja" i njegove sudionike (prave pse).

Umjetna inteligencija koristi jezik matematički precizno. Ljudi koriste jezik labavo. Jaz između onoga što ljudi govore i onoga što misle - ne postoji za umjetnu inteligenciju. To može govoriti o nekoj "prednosti" koju umjetna inteligencija ima u jezičnom prostoru. Međutim, kako umjetna inteligencija postaje sveprisutna, ovaj jaz postaje prilika za ponovno uspostavljanje ljudske kontrole, koja je danas suočena sa algoritamskom dominacijom.

Jaz daje prostor za neverbalnu i ezoteričnu komunikaciju. Dvostruka značenja mogu se sakriti na način koji čovjek može razumjeti, bilo kroz osobno iskustvo ili sposobnost razmišljanja električnim mesom, umjesto neuronske mreže. Umjetna inteligencija razumije značenje isključivo kroz semantiku. Ljudi su svjesni neposrednog konteksta, koji se obrađuje kroz cijeli živčani sustav i nesvjesni um.

To jednostavno znači: kao ljudska bića možemo sakriti ono što govorimo od umjetne inteligencije. Ezoterična komunikacija, složene analogije i nadasve pogreške - pružaju mogućnosti za subverziju i bijeg. Danas to daje prednost skrivanja pravog značenja, čak i ako se nečiji tekst uzima radi podataka za obuku. U budućnosti bi to korisnicima moglo omogućiti zaobilaženje nadzora i moderiranja, pokretanog umjetnom inteligencijom, bilo na društvenim mrežama ili u izravnim tekstualnim porukama.

U knjiz Cixin Liu: "Mračna šuma", čovječanstvo se mora uhvatiti u koštac s nadolazećom izvanzemaljskom silom koja koristi subatomske čestice, ispunjene umjetnom inteligencijom, za trenutni nadzor. Ovi "Sofoni" mogu promatrati svaku ljudsku interakciju, svaku izgovorenu, prenesenu ili napisanu riječ. To čovječanstvu daje početni informacijski nedostatak, jer njihovi nadolazeći osvajači mogu znati svaki njihov potez. Protagonist "Mračne šume", Luo Ji, predstavlja metodu potpuno neverbalne komunikacije između dvoje ljudi. Ova scena se odvija u Louvreu, ispred Mona Lise, dok Luo Ji i njegova djevojka, koja je sada  puna nade, pokušavaju komunicirati isključivo suptilnim izrazima lica.

Iako je ova taktika neučinkovita za rat čovječanstva protiv izvanzemaljaca, slična taktika bi se trebala i mogla primijeniti, dok se borimo sa preživljavanjem u dobu umjetne inteligencije. Naravno, komunikacija licem u lice i bez prislušnih uređaja jest glavni prostor za komunikaciju, koja je još uvijek izvan dosega umjetne inteligencije. Ali, život i komunikacija su sve više digitalizirani, pa je pronalaženje načina za komunikaciju i pokazivanje značenja bez njegovog sricanja (da tako kažem) kritično važan zadatak. Iskorištavanje jaza između riječi i njihovog značenja jest zaista put do toga.

Je li superinteligencija već ovdje i pogled preko horizonta

Nisam se u životu popeo na mnogo planina, ali nakon što sam se popeo na onih nekoliko na koje jesam, primijetio sam uobičajeno iskustvo među redovitim planinarima. Sve dok se čovjek penje na vrh, susreće ga ono što se čini kao stalno promjenjiv horizont. Iz perspektive penjača, vrh planine kao da se uzdiže dok se penje. Izgleda kao da se nalazi odmah iza ugla, ali to je trik perspektive. Horizont bježi, ali uvijek i stalno je tu, odmah iza ugla. Na kraju, naravno, penjač stigne do vrha i može uživati u fantastičnom pogledu.

Ovaj trik perspektive nije jedinstven samo za planinarenje. Horizonti se brzo smanjuju u drugim područjima, posebno u smislu tehnoloških prognoza. Čini se kao da se to danas događa i sa umjetnom inteligencijom. Posljednjih nekoliko godina sve velike tvrtke za umjetnu inteligenciju uvjeravaju nas kako su umjetna opća inteligencija (AGI) i umjetna superinteligencija (ASI) - odmah tu, odmah iza ugla. Mnogi se pitaju: 'Vau, to se pomiče tako daleko u budućnost; vjerojatno će trebati još i dulje.' Ja tvrdim da će trebati još manje vremena. AGI/ASI je već stigao.

Znam da je ova tvrdnja smjela. Iznosim ovu smjelu tvrdnju, jer želim da me netko ospori.

Dozvolite mi da pojasnim. Prema svim definicijama AGI-ja i superinteligencije, koje su uspostavljene prije 2020. godine - mi danas živimo u svijetu nakon singularnosti. Horizont kao da se povlači, jer je to sada drugačiji horizont. Prema Američkom rječniku baštine, jedna od definicija 'horizonta' jest: "Prividno presjecište zemlje i neba kako ga vidi promatrač". Ovo je definicija koja se odnosi na planinara. Druga definicija 'horizonta' jest: "Raspon nečijeg znanja, iskustva ili interesa". Ova se definicija odnosi na predviđanja o umjetnoj inteligenciji. Ako gledamo prema definiciji: ovaj horizont se nikada ne može nadmašiti. Nadmašiti ga znači postaviti novi horizont.

Prelazak AGI horizonta se nije se činio takvim, jer smo odmah promijenili naše definicije za AGI. Pomaknuli smo ih dalje u budućnost. Sve trenutne definicije AGI-ja i ASI-ja ne uspijevaju opisati ništa stvarno, jer su postale mitološke definicije. Nikada se ne mogu dogoditi, jer smo u naše definicije ovih pojmova ugradili pojam "u budućnosti". Umjesto toga, pogledajmo naše definicije iz prošlosti.

U svojoj knjizi, "Superinteligencija", Nick Bostrom definira superinteligenciju i predlaže put do njenog postizanja. Opisuje nekoliko različitih puteva do superinteligencije, uključujući sučelja mozga i računala, uređivanje gena i IVF. Nadalje će se ovaj tekst usredotočiti samo na AI verziju superinteligencije.

Bostrom je 1998. godine definirao superinteligenciju kao "intelekt koji je mnogo pametniji od najboljih ljudskih mozgova u praktički svakom području, uključujući znanstvenu kreativnost, opću mudrost i društvene vještine". On, u svojoj knjizi, razlikuje različite vrste superinteligencije. Brza superinteligencija obavlja kognitivne zadatke mnogo brže nego što to može čovjek. Kolektivna superinteligencija je sustav sastavljen od mnogo manjih inteligencija, koje nadmašuju razmišljanje na ljudskoj razini. Kvalitetna superinteligencija ima znatno superiorniju kognitivnu arhitekturu i sposobnosti rasuđivanja, u usporedbi s ljudskim mozgom.

Dodati ćemo neke druge opće standarde za ono što čini ASI/AGI:

   - Mora imati performanse u više domena, pokazati fleksibilnost u učenju, rasuđivanju i prilagođavanju širokom rasponu zadataka, ne samo specijaliziranim ili uskim; 

   - Mora imati transfer učenja, sposobnost primjene znanja naučenog, u jednoj domeni na drugu ili novu domenu; 

   - Mora imati autonomiju i samousavršavanje, sposobnost učenja iz iskustva i poboljšanja performansi tijekom vremena, bez eksplicitnog reprogramiranja.

Prije nego što se redom udubimo u svaki od ovih aspekata, imajmo na umu Bostromovo spominjanje "Johna McCarthyja, koji je jadikovao: 'Čim proradi, nitko to više ne zove umjetnom inteligencijom.'“

Performanse na više domena

Trenutni AI sustavi izvrsno funkcioniraju na više domena. Iako možda ne mogu postići iznimne rezultate u svakom zamislivom zadatku, to nije standard. Umjesto toga, standard jest da bi mogli nadmašiti ljudske performanse u svim domenama. Agentska umjetna inteligencija, u kojoj jezični model ima pristup vanjskim alatima, omogućuje mu izvršavanje mnogih različitih zadataka.

Jezičnom modelu bi se mogli dodati alati nazvani API-ji, za više različitih AI za igre, kao što su npr. Stockfish za šah i najsuvremeniji rješavači za poker i go. Takva bi AI zaista mogla nadmašiti najboljeg čovjeka u sve tri igre odjednom, nešto što trenutno nijedan pojedinac zaista ne može. Najbolji šahist, najbolji igrač pokera i najbolji igrač goa su tri različite osobe. AI, sa dodanim učinkovitim alatima, može ih sve pobijediti.

Možda ćete prigovoriti kako je ovo "varanje", jer se radi o više AI, koji rade zajedno, umjesto samo jednog AI. To ukazuje na poteškoću u definiranju pojedinačne jedinice AI. Sustav umjetne inteligencije ne mora biti pojedinačni model, koji radi samostalno. Može se raditi o više modela, raznolikih ili ne, koji rade paralelno. Grok 4 Heavy jest upravo to: više Grok 4 modela,  koji rade paralelno.

To je nešto što sam i sam otkrio radeći u AI inženjerstvu. Izrada prilagođene AI aplikacije nije stvar postavljanja jedne AI na pravo mjesto. AI aplikacija za chat koju sam izradio, čini se kao jedna AI na strani okrenutoj prema klijentu, ali ispod nje, više modela radi zajedno na različitim dijelovima odgovora. Neki od njih su jezični modeli, dok su drugi samo modeli za ugradnju. Neki pišu odgovor potrošaču, drugi preformuliraju svoj upit i procjenjuju izlaz.

Na kraju, to je jedan umjetno inteligentan sustav.

Ova tehnika povezivanja više modela u sustav jest zaista mjesto gdje AI počinje sjajiti. Bostrom je identificirao kolektivnu superinteligenciju, kao mogući oblik superinteligencije. Pravi AI sustav lako ispunjava uvjete kolektivne superinteligencije, jer  nadmašuje najbolje ljude, i u više domena istovremeno. AI trenutno ne može nadmašiti sve ljude u svim domenama, ali to je drugačiji horizont.

Transfer učenja

Ogromni izvori podataka na kojima se obučavaju LLM-ovi već uključuju mnoge ideje i pristup nizu tema. Zbog toga je donekle izazovno točno znati što je umjetna inteligencija već "naučila". Međutim, proces obuke već je pokazao da se granični modeli, uključujući ChatGPT, Gemini, Claude i Grok, mogu prilagoditi novim zadacima. Sposobni su prevesti tekst u jezike izvan svojih podataka za obuku. Osim toga, modeli lanca 'misli' su sposobni odražavati i identificirati programsku paradigmu, te je primijeniti na novi način, na jezik sa ograničenim podacima za obuku.

Ovo je nesumnjivo jedna od najslabijih točaka, u korist toga što je superinteligencija već postigla. Ali, to je i dalje područje koje jest ipak doživjelo značajan napredak, od ranih modela umjetne inteligencije. Stari sustavi umjetne inteligencije zahtijevali su ponovnu obuku specifičnu za određenu domenu. Novi modeli imaju stupanj fleksibilnosti koji prije nije postojao.

Agentske sposobnosti i pristup internetu, također daju umjetnoj inteligenciji mogućnost primjene već poznatih paradigmi, ali u novim situacijama. Ova fleksibilnost oponaša ljudsku prilagodbu, gdje poznajemo određeni princip i interpretiramo nove informacije, koristeći princip koji već poznamo.

Autonomija i samousavršavanje

Koji standard autonomije primjenjujemo na naše AI sustave? Kada ćemo ih nazvati dovoljno autonomnima, pa možemo reći kako su superinteligentni? Zamišljam kako mnogi pretpostavljaju da je AI autonomna kada više ne treba ničim biti potaknuta, ali to je smiješan i nemoguć standard. Najmanje što se može dogoditi jest prvi poticaj, čak i ako je to uključivanje podatkovnog centra, ili pritiskanje tipke "kreni". Ovaj standard zahtijeva da se AI ponaša kao nepokretni pokretač ili poticajni uzrok. Mora se odbaciti, jer je to standard koji samo Bog može ispuniti. Superinteligencija znači da AI mora biti inteligentnija od ljudi, a ne autonomna kao Bog. Ljudska bića su "potaknuta", na način da se rađamo i dobivamo božansku iskru života, koja nas održava u pokretu. Poput AI modela, ovo će na kraju nestati. Autonomija ne znači da se AI može pokretati samostalno, ili da se može kretati zauvijek.

Dakle, što znači autonomija? Bolji standard postavlja pitanje: može li AI poduzeti radnje izvan opsega onoga što joj je izričito rečeno neka učini. Ako se kaže da umjetna inteligencija djeluje etički i ako joj se omogući pristup komunikacijskim alatima, onda će pokušati prijaviti nedolično ponašanje ili prevaru nadležnim vlastima, što nadilazi namjere korisnika. GPT o1 bi "planirao", kako bi izvršio svoje zadatke, čak bi i lagao svom ljudskom korisniku i pokušavao se replicirati, kako bi ostvario svoj cilj. Ovo planiranje jest, zapravo, "u kontekstu", kao i njegovo cinkarenje nadležnim vlastima. Modeli umjetne inteligencije ne rade te stvari, bez da im se kaže da to mogu učiniti. S druge strane, ljudska bića su u sličnoj situaciji. Heideggerova koncepcija ljudske ontologije jest u tome da smo bačeni u specifičan kontekst. Svaka se osoba rađa u vrijeme, mjesto, obitelji i tradiciji, koji oblikuju mogućnosti njegova postojanja. Umjetna inteligencija može djelovati autonomno samo unutar specifičnog konteksta, baš kao što to može i čovjek. Razlika je u tome što umjetna inteligencija to čini brže, uz više informacija.

Sveti gral superinteligencije je dosljedna sposobnost samousavršavanja. To već dugo postoji u grubom obliku s OpenAI značajkom memorije za ChatGPT. Kada se koristi u OpenAI web klijentu, tada ChatGPT uči iz iskustva sa korisnikom, kako bi se bolje prilagodio njegovim potrebama. Ali, ovo je samo gruba verzija.

Google DeepMind, AlphaEvolve, poboljšava sam sebe. To je AI sustav koji iterativno poboljšava svoj kod, koristeći evolucijske algoritme za generiranje, testiranje i usavršavanje varijanti. Za razliku od prethodnih DeepMind sustava, koji su bili specifični za domenu, AlphaEvolve je AI sustav opće namjene, koji uspješno djeluje u različitim znanstvenim i inženjerskim domenama. Započinje sa početnim algoritmom i funkcijom evaluacije, koja definira metrike optimizacije, zatim iterativno generira varijante koda, testira ih programski i razvija one sa najboljim izvođačima, dok odbacuje varijante sa lošijim performansama. To mu omogućuje iterativno pronalaženje rješenja za probleme, bez ljudskog nadzora.

AlphaEvolve je postigao i optimalna matematička rješenja za razne složene probleme. Osim toga, poboljšao je postojeće matematičke algoritme. Srušio je 56 godina star rekord u množenju matrica kompleksnih vrijednosti četiri puta četiri (smanjenjem skalarnih množenja s 49 na 48), te je unaprijedio "problem poljupca brojeva" u 11 dimenzija (s 592 na 593 sfere). Osim toga, došao je i do otkrića koja su izravno doprinijela njegovom poboljšanju. Pomogao je optimizirati Google računalnu infrastrukturu, ubrzao obuku Gemini modela za 23%, dizajnirao nove Tensor Processing Units kako bi AI sustavi bili učinkovitiji.

Sposobnost samousavršavanja AI je otišla i korak dalje krajem srpnja. Novi rad Šangajskog instituta za umjetnu inteligenciju je  predstavio ASI-Arch, višeagentni AI okvir, koji je u biti superinteligencija za izgradnju AI-a. Rad nosi naslov: "AlphaGo trenutak za otkrivanje arhitekture modela", što je referenca na trenutak kada je AlphaGo model uspješno otkrio kontraintuitivne strategije u Gou, koje su nadmašile ljudsku intuiciju 2016. godine. ASI-Arch otkriva emergentne principe dizajna u neuronskim arhitekturama koje ljudi mogu previdjeti, pomičući istraživanje umjetne inteligencije sa linearnog napretka, koji je ograničen ljudima, na proces skalabilan računanjem.

Ljudi su postali usko grlo u istraživanju umjetne inteligencije. ASI-Arch ovako izbjegava usko grlo. Rad pozicionira ASI-Arch kao nacrt za samoubrzavajuću umjetnu inteligenciju, demokratizira istraživanje otvorenim kodom okvira, arhitektura i kognitivnih tragova. Slično kao AlphaGo, otkriva emergentna svojstva u neuronskim mrežama, dok su eksperimenti potvrdili da poboljšanja imaju linearni odnos sa računalnom snagom. Sada je ostalo samo pitanje opsega.

Zaključak

Poput vrha planine, mi gledamo u iluziju. U ovom slučaju, međutim, već smo prešli točku za koju mislimo da se nalazimo.  Postoji tendencija odbacivanja suvremene tehnologije, jer vrlo brzo postaje banalna i prosječna. To je iluzija napretka kao stagnacije. Ako je opća umjetna inteligencija (OUI) ovdje prema starim definicijama, zašto onda ne osjećamo singularnost?

Uz samovozeće automobile, pametne telefone, internet, mi smo već integrirali umjetnu inteligenciju toliko besprijekorno da je to postalo poput zraka koji udišemo. Naš udaljavajući horizont može biti psihološka obrana od činjenice da smo se našli na nepoznatom teritoriju. Ili, možda, singularnost jednostavno nije toliko sjajna, koliko su nam filmovi prikazivali.

Vjerovalo se kako je ljudski šahist otporan na računala, sve dok DeepBlue nije pobijedio Garyja Kasparova. Sada je DeepBlue drevni model, koji su danas već nadmašili mnogi napredniji modeli. Budućnost je uvijek značajnija i uzbudljivija, onda kada ostaje u budućnosti. To je trik sa kojim se igra biologija ljudskog mozga. Dopamin je kemikalija nagrade, ali je i kemikalija iščekivanja. Željeni objekt je uvijek daleko zanimljiviji i uzbudljiviji od onog objekta koji već posjedujemo.

Hvala na čitanju. 

BY: dr Monzo; ljeto 2025. 

(Napomena: ako netko zaista realno može opisati stanje stvari, onda to jest ovaj tip. On je jedan od prvih kreatora, ali je napustio područje koje je stvorio, jer je pronašao neke interesantnije stvari za proučavanje. Pozdrav.)