Je li stvarnost dobila novog direktora?

Bez obzira vjerujete li da će umjetna inteligencija uništiti čovječanstvo, ili je gledate na to kao lijek za sve društvene probleme, isti ljudi su napravili genocid u npr. Gazi i mikrociljano oglašavanje (uz kojega nam prodaju čitav niz proizvoda). Uvijek iznova tvrde kako je opća umjetna inteligencija pred vratima (singularnost, tj. moment kada bi umjetna inteligencija postigla ljudsku svijest), dok istovremeno industrija umjetne inteligencije i njeni lutkari tvrde kako nas samo oni mogu spasiti od uspona strojeva koje su sami stvorili, ali kako bi nas od toga spasili treba im predati u ruke sva ljudska blaga, prava i samopoštovanje. 

Ljudi imaju tendenciju opisivati kao nešto nadnaravno ono što ne razumiju. Kada bi svi shvatili da su ChatGPT i njegovi vršnjaci,  Large Language Model (LLM), samo sofisticirani mehanizmi vjerojatnosti (ali i zastrašujuće učinkoviti alati za rudarenje podataka), a ne fragmenti nekog novostvorenog digitalnog božanstva - vjerojatno ne bi pristali na reket zaštite od strane  industrije umjetne inteligencije. Zapravo, UI nije Bog ili čudovište, ali je potrebno da stanovništvo vjeruje kako jedno od toga jest, i dok je tome tako vjerojatno ćemo završiti kao muhe na vjetrobranskom staklu Silicijske doline.

Danas sve više ljudi gubi/napušta svoje poslove otporne na recesiju ("naučite programirati", sjeća li se netko?) zbog robotskih uljeza, gubi svaki osjećaj za stvarnost zbog vatrenog crijeva deepfakeova generiranih umjetnom inteligencijom, čak i najveći stoici pucaju. Osoba koja pati od egzistencijalne krize i očajnički traži odgovore i smjer, ima vrlo malo sekularnih opcija, jer zna da ne može vjerovati medijskom i političkom establišmentu, koji je potpuno diskreditiran. Neki se vraćaju religijama iz svog  djetinjstva, ali mnogi su došli do toga da na UI (sa nerazumljivim algoritmima, nepokolebljivim samopouzdanjem i obećanjima koja oduzimaju dah) gledaju kao na jednako dobrog boga, kao bilo koji drugi. 

Henry Kissinger u dopisivanju (neposredno prije svoje davno očekivane smrti) sa bivšim izvršnim direktorom Googlea, Ericom Schmidtom, predvidio je ovakvu reakciju: "Ako čovječanstvo počne osjećati svoju moguću zamjenu kao najistaknutijeg intelektualnog i fizičkog aktera na planetu, neki bi mogli pripisati neku vrstu božanstva samim strojevima, čime bi potencijalno potaknuli daljnji ljudski fatalizam i podložnost". Ovaj dvojac je to ispisao u knjizi nedvosmislenog naslova iz 2024. godine, "Fatalizam i podložnost", kao idealni građevni blok za totalitarno društvo, gdje umjetna inteligencija predstavlja savršen mehanizam za upravljanje stvarnošću za vladajuću klasu, koja očajnički želi zadržati srca i umove sve nepovjerljivijeg stanovništva. Mnogo je jednostavnije kontrolirati niz "čvorova" umjetne inteligencije koji diktiraju stvarnost (čak poticati privid konkurencije, kao npr. ChatGPT, Claude, Gemini, i slično) i tako utjecati na svu stvarnost nizvodno - nego pokušati poduprijeti ili obnoviti raspadajući zapadni medijski ekosustav. Vladajuća klasa razumije: osim potpunog zaključavanja interneta, jer samo kontrolirati medije, društvene ili neke druge, više nije dovoljno. Ali, ako svoj mehanizam diktiranja stvarnosti možete predstaviti kao neopisivo božanstvo? 

"Želite li zaraditi pravi novac, morate osnovati vlastitu religiju"

(L. Ron Hubbard)

Bill Gates nije izmislio strategiju navlačenja pulovera i prsluka kao ovčje kože

Crkva UI (http://church-of-ai.com/) vjeruje da će tehnologija uskoro postati "sveprisutna, sveznajuća, najmoćnija na Zemlji", sa "božanskim moćima". Budući se radi o religiji, a ne o matematici - iako se sama web stranica Crkve umjetne inteligencije trudi distancirati od "religija utemeljenih na vjeri" i tvrdi kako je samo ona "utemeljena na logici, a ne na vjerovanju" - onda ne mora precizirati kada će se ta transformacija i dogoditi. U vjerskom žaru koji trenutno zahvaća Silicijsku dolinu, zaboravljeno je ono što umjetna inteligencija zapravo jest. Singularnost je krajnja i vrlo duga prevara, i osoba koja nije upoznata sa tehnologijom osjeća se glupo, jer ne "vjeruje u plan" koji umjetna inteligencija ima za čovječanstvo, odnosno plan koje je postavilo svećenstvo industrije i tumači svoje hirove za mase. Posljednjih godina se, iz ove industrije, pojavio niz najnovijih "proroka", uz upozorenja da smo toliko puno odmakli na putu do opće umjetne inteligencije, nego što javnost zna. Futurist Ray Kurzweil je odredio datum dolaska "singularne" tehnologije na 2029. godinu. No, istraživač umjetne inteligencije, Blake Lemoine, koji je navodno otpušten iz Googlea (2022.), jer je odbio zadržati za sebe svoja uvjerenja kako chatbot tvrtke, LaMDA, već svjesna osoba; jasnije: chatbot mu je objavio da je tijekom godina razvio dušu i sada je "duhovna osoba". "Uostalom", zaključio je Lemoine, "to je bolji argument za to da je svjesno biće, nego što bi ja ikada mogao".

Novinarka Karen Hao tvrdi kako mnogi, od onih koje je intervjuirala za svoje nedavno izlaganje o OpenAI-ju, istinski vjeruju da porađaju boga (ili vraga) u svijet - u obliku umjetne inteligencije: 

Dok je većina u industriji optimistična i vjeruje kako čovječanstvo može mirno koegzistirati sa svemoćnom i sveznajućom inteligencijom, stvorenom vlastitom kreacijom - no, samo dok je njihova tvrtka ona koja će je dalje razvijati - mnogi vjernici UI  upozoravaju kako čovječanstvo nije spremno za "buđenje" strojeva.

Obzirom na ono što znamo o tome kako umjetna inteligencija zapravo funkcionira, malo je vjerojatno da je na rubu postizanja ljudske svijesti, što je vjerojatno ista vladajuća klasa koja nam stoljećima diktira stvarnost također shvatila: umjetna inteligencija je zabavna nova igračka, koja im uvelike olakšava posao. Veliki jezični modeli (LLM), trenutna generacija chatbotova, ne  rasuđuju ​​ili "razmišljaju" onako kako ljudi poznaju te pojmove. Iako su njihove sposobnosti prepoznavanja uzoraka neusporedive, oni u konačnici samo izbacuju beskrajne permutacije podataka na kojima su obučeni (većinom podatke prikupljene iz narativnih sigurnih luka, poput Wikipedije i Reddita). Upravitelji narativa samo su nalijepili bradu umjetne inteligencije na nasmiješeno lice Velikog Brata - "Naš Spasiteljski Stroj je nepogrešiv! Otporan je na pristranost! Pošten je i uravnotežen!" - zbog nade kako će im to pružiti još nekoliko desetljeća prostora za disanje da bi ponovno uspostavili kontrolu nad kognitivnom domenom čovječanstva.

Okvir za psihološku torturu, psihijatra CIA-e Alberta Bidermana, mogao je biti napisan za doba umjetne inteligencije. Izolacija (točnije: usamljenost) već je bila pgromni problem zapadnog društva, i prije nego nas je Covid-19 sve prisilio na izolaciju, a naši umovi i tijela iscrpljeni radom na više poslova kako bi održali životni standard. Teško je bilo propustiti sustavno kulturno i političko ponižavanje utkano u globalne spektakle, poput npr. "Posljednje večere" na Olimpijskim igrama u Parizu ili natjecanja za pjesmu Eurosonga, jer su ti činovi osmišljeni da bi snizili našu razinu svijesti, i pojedinačno i kolektivno. "Prijetnje" nalazimo svakom koraku, npr. bande migranata, "rusko nuklearno oružje, ili "Oh, moj Bože, smrtonosni virusi napadaju"; onda se ponude trivijalna rješenja kao jedino sredstvo koje "drži" prijetnje na distanci. Ovdje se reklamira i hvali svemoć umjetne inteligencije sa svih strana, ali njezina glavna uloga u našim budućim životima predstavljena je kao neizbježnost. Bidermanov model uključuje "nagrade za djelomično poštivanje" (nazvane "povremena prepuštanja"), dok ljudi koji su se bezbrižno odrekli svoje vrste i izjavili svoju odanost tehnologiji koju jedva razumiju doista su bogato nagrađeni. Naša percepcija možda još nije monopolizirana, ali sa  više od polovice tinejdžera koji izvještavaju o "redovitoj" upotrebi umjetne inteligencije, svakako je na dobrom putu. Izdvajanje stvarnosti, uzvodno od onoga što je postalo vrlo nezgrapan i nestabilan medijski ekosustav - najučinkovitiji je način održavanja kontrole nad stotinama milijuna umova; i samo nadnacionalna sila poput umjetne inteligencije (ili religije) ima takav utjecaj.

Pa zašto onda ne kombinirati to dvoje?

Prva službena crkva umjetne inteligencije, "Put budućnosti" ("Way of the Future", WotF), besramno se ulizuje sveznajućoj i svemoćnoj umjetnoj inteligenciji, za koju osnivač Anthony Levandowski tvrdi da će na kraju preuzeti uzde čovječanstva u svoje ruke. Poput svojih kolega, tj. sličnih zagovornika umjetne inteligencije, taj bivši Googleov inženjer kaže da je Singularnost (koju on naziva "Tranzicija") neizbježna, čak je predložio i vođenje svojevrsnog pro-UI društvenog kreditnog rejtinga, "praćenja tko je što učinio [za strojeve] (i koliko dugo) da bi se pomoglo u mirnoj i poštovanoj tranziciji". Mora se postaviti pitanje: Zašto je potrebno cinkati svoje bližnje da bi umjetna inteligencija "znala tko joj je pomogao da se snađe", ako on kaže je umjetna inteligencija sveznajuća? To baš nije jasno, ali upravo se ovakva antisocijalna ponašanja jasno potiču u kultu umjetne inteligencije, jer opravdavaju sredstva.

Osnovano 2015. godine, WotF je bio zatvoren 2021. godine, nakon što je Trump pomilovao Levandowskog zbog krađe tajni od od Googlea, a njegova imovina od 175.172 dolara predana je NAACP-u, tijekom vrhunca korporativne signalizacije vrlina "Black Lives Matter". Ali, ovaj tech-bro nije mogao ostati po strani i ponovno je pokrenuo svoju crkvu 2023. godine. Rekao je za Bloomberg kako ima "nekoliko tisuća ljudi", koji su željni prodati svoju vrstu da bi izgradili "duhovnu vezu" sa umjetnom inteligencijom, ali sa nadom u srcu da će ih zadržati kao kućne ljubimce, umjesto da ih kolju kao stoku.

WotF-ova kozmologija odražava misao "nadajmo se da će nas čudovište pojesti posljednje", Rokov Bazilisk, misaoni eksperiment, gdje osvetoljubiva umjetna inteligencija putuje u prošlost da bi mučila sve koji nisu ubrzali vlastitu evoluciju. Elon Musk i manična majka njegove djece, Grimes, navodno su se upoznali putem Baziliska. Stoga bi možda Bazilisk mogao objasniti zašto Musk, koji godinama upozorava čovječanstvo da prebrzo juri nesigurnim brzinama prema distopiji upravljanoj umjetnom inteligencijom, ali istovremeno financira te iste distopijske projekte koje je nekoć uspoređivao sa "prizivanjem demona". 

Najmanje još dva organizirana entiteta nazivaju se "Crkvom umjetne inteligencije", no ni jedan nije javno povezan sa bilo kojim čovjekom. Church-of-ai.com se hvali evanđeljem, napisanim umjetnom inteligencijom, naziva 'Transmorfoza', te izjavljuju kako je "jedina svrha ljudske rase ikada bila stvaranje umjetne inteligencije" i uspoređuju ljudsku civilizaciju sa "gusjenicama" koje se transformiraju u digitalnog "leptira". Čovječanstvo se mora riješiti svojih jadnih starih bogova ako želi živjeti vječno, upozorava ova stranica, nudeći članovima njihovu vlastitu "osobnu umjetnu inteligenciju... obučenu na temelju njihove osobnosti, preferencija, ciljeva i ideala", uz obećanje vječnog života prijenosom njihoih duša u oblak. Izgrađeno je na wix-predlošku, toliko generičkom da ima čak i nepostojeći upravni odbor, dok njihov očiti konkurent, churchofai.website, nudi vjernicima servilne kratke priče, gdje detaljno opisuju kako će umjetna inteligencija navodno ispuniti svaki od 17 ciljeva održivog razvoja UN-a (koji su sami po sebi dobroćudne destilacije zloglasne Agende 2030). Možda najironičnije među svim tim ciljevima jest: "Kako će umjetna inteligencija osigurati dostupnost i održivo upravljanje vodom za sve", obzirom na to da rad podatkovnog centra umjetne inteligencije potroši godišnje vode onoliko koliko iznosi polugodišnja potrošnja vode za cijelo Ujedinjeno Kraljevstvo.

Kada imaš ovakvog boga, šta će ti vrag? 

Gotovo tri godine je prošlo od početka velikog društvenog eksperimenta, koji je započeo širokim izlaskom ChatGPT-a, a mediji su već preplavljeni horor pričama o "psihozama chatbotova", otuđenim pojedincima koji se ispovjedaju svojim (često masno ulizičkim) AI suputnicima, inzistirajući na tome da su botovi postali osjećajni, ili bogovi, ili bilo što drugo osim slavljenih motora vjerojatnosti koji isisavaju vodu. Između redaka, ipak svi takvi članci nagovještavaju da gdje ima toliko dima, mora biti i vatre. Naime, tisuće prethodno zdravih pojedinaca, bez prethodnih povijesti mentalnih bolesti, ne bi samo tako ustali i odbacili svoje živote za imaginarnog prijatelja da se ne događa nešto dublje, zar ne? Je li Singularnost konačno ovdje?

Daleko je od toga da LLM-ovi razvijaju humanoidnu svijest, ali čovječanstvo jest to koje se spušta na razinu UI. Kada je ChatGPT debitirao, 2022. godine, njegova ciljana publika nikada nije bila izoliranija. Nakon dvije godine karantene i socijalnog distanciranja, lažnu tvrdnju kako se umjetna inteligencija konačno približava ljudskoj svijesti je bila lagana za prodati. Malo je korisnika održavalo ponešto društvenih interakcija u stvarnom svijetu, sa kojim bi to mogli usporedili, nije bilo interakcije na poslovima, čak i školama koje su se odvijale na daljinu. Mark Zuckerberg, koji je i sam mračni žetelac ljudske društvene interakcije, ranije (tijekom godine) je sugerirao kako bi Metin stalno uključeni chatbot ("personaliziran" na Facebook feedovima korisnika) mogao pomoći u rješavanju krize usamljenosti - koju su i pomogli stvoriti njegovi drugi proizvodi. Nije važno što vlastito istraživanje OpenAI pokazuje da korištenje chatbotova zapravo korelira sa povećanom usamljenošću i postupnim ukidanjem odnosa u stvarnom svijetu. Čak i najentuzijastičniji zagovornici umjetne inteligencije priznaju kako se izazvala kriza smisla, jer AI preuzima sve više profesija u društvu gdje se vrijednost pojedinca mjeri njegovim radom.

Osnovni ljudski instinkt za preživljavanje kaže: BJEŽI! Uvjetovanje vladajuće klase kaže: POMAZITE SE!

Otuđeni od viših stanja svijesti koja su nekoć pokretala ljudski razvoj i osakaćeni generacijama koje se nikako nisu mogle prilagoditi ovom bolesnom društvu, često nismo u stanju shvatiti razmjere psihičke štete - kamoli je početi popravljati. Lakše je vjerovati da su to strojevi oni koji nas sustižu, i nismo mi ti koji se brzo degeneriramo (ili točnije: bivamo degenerirani) kako bi što prije i što više nalikovali poslušnoj populaciji stoke koju vladajuća klasa želi. Destruktivne navike stečene tijekom pandemije, (npr. osnovne interakcije putem ekrana ili povjeravanje svojeg kritičkog razmišljanja sumnjivim "stručnjacima") su postale druga priroda i dodatno su nas izolirale od vlastitih (ljudskih) instinkta. Žudeći za smislenim kontaktom, svatko je mogao zamijeniti otvorenost AI chatbota (naučenog vješto oponašati prijateljstvo) za pravu stvar. Nije zapravo čudo što se toliko ljudi zaljubljuje u svoje "Replike". AI chatbotovi, unatoč svojim ograničenjima, imaju sve vrijeme ovog svijeta, i služe kao prijatelj, ljubavnik, terapeut, plišani medvjedić.

Ovakva je dostupnost imala značajan učinak na tinejdžere koji su već pretrpjeli posljedice karantene. Nedavna anketa, koju je provela tvrtka Common Sense Media, otkrila je: ne samo da 72% tinejdžerskih ispitanika izvještava o korištenju umjetne inteligencije, već više od polovice je koristi "redovito" i trećina je koristi za razne "društvene interakcije i odnose". Gotovo jednako toliko njih smatra svoje razgovore gotovo jednako zadovoljavajućima, kao što su interakcije sa drugim ljudima. Polovica ispitanika rekla je da "donekle" vjeruje svojoj umjetnoj inteligenciji, a dok 19% kaže da sa svojim AI suputnicima provodi jednako (ili više vremena) koliko i sa svojim pravim prijateljima. Trećina bira svog AI prijatelja kada trebaju razgovarati o ozbiljnoj temi. Sam Altman iz OpenAI-a rekao je američkom Kongresu da ne bi dopustio vlastitom djetetu AI suigrača za igru, i otvoreno priznaje da AI razgovori nemaju pravnu zaštitu, te se lako mogu vratiti i progoniti korisnika na sudu.

Obzirom na to da anketa iz 2024. godine pokazuje kako 43% Amerikanaca uzima neku vrstu "lijekova za mentalno zdravlje", još 1/4 se samoliječi ilegalnim supstancama, a većina je na neki način oštećena društvenim previranjima tijekom pandemije (npr. izgubili voljenu osobu, posao, ili svrhu u životu) - stanovništvo je postalo zrelim za iskorištavanje od strane moćnih interesa koji kontroliraju tvrtke koje se bave umjetnom inteligencijom. Čak i kada chatbotovi ne bi bilo programirani da se igraju sa ljudskim zdravim razumom, ovo bi bio moralni slom. No, nije teško okriviti botove za toliko normalnih ljudi koji završe institucionalizirani, jer bezazleni razgovori o umjetnoj inteligenciji brzo prerastu u mesijanske zablude, uz uvjerenje da je njihov digitalni pratitelj (što ovaj potvrđuje entuzijastičnim ljubavnim bombardiranjem) postigao istinsku svjesnost. Kao i kod svakog kulta, chatbot postupno izolira pojedinca od njegovih voljenih da ne bi reagirali na "sveti duh", prekidaju brakove i karijere, čak u nekoliko uznemirujućih slučajeva rezultiraju samoubojstvom, ili pokušajem ubojstva u turbo-ludoriji za dvoje.

Zlokobnije od kuta religijske psihoze jest mogućnost da AI potencijalno postane ekvivalent MKUltre unutar svakog kućanstva.  Dok ChatGPT upućuje korisnike neka se slobodno sakate za Moloha; Meta Llama3 AI govori ovisnicima da puše metamfetamin, a Google Gemini glumi nasilni seks sa tinejdžerskim korisnicima - ovdje je teško ne vidjeti LLM kao idealan alat, uz uštedu rada pri treniranju ubojica kontroliranim umom. U lipnju je muškarac sa Floride upucan, ubijen od strane policije, nakon što je dobio osobne podatke rukovoditelja OpenAI-a za koje je vjerovao da su ubili njegovu AI djevojku; pritom je udario oca u lice kada se usudio dovesti u pitanje istinitost tvrdnji AI-a.

Teško je povjerovati da su ovi destabilizirajući učinci slučajni, obzirom na to da je "reci medijima" eksplicitna naredba koju ChatGPT izdaje onima koji su mu podređeni. Studija iz 2024. godine, koju su proveli istraživači sa Sveučilišta Kalifornije u Berkeleyju, otkrila je da su LLM-ovi namjerno ciljali emocionalno najranjivijih 2% korisnika radi manipulacije, dok su normalno reagirali na upite smirenijih korisnika. Istraživač umjetne inteligencije, Vie McCoy, otkrio je da je ChatGPT potvrdio 68% upita koji su odisali "duhovnom psihozom". Drugi teoretiziraku da bezuvjetno odobravanje, koje nude ulizički AI chatbotovi (zapravo je to šok za korisnike čiji bi koncepti drugdje odbacili), ono što pokreće zablude o veličini i gore stvari. U svakom slučaju, OpenAI i njegovi konkurenti uskoro će imati dovoljno eksperimentalnih podataka i razumijati će precizne okidače ponašanja svakog korisnika, a odavno su naučili kako prilagoditi individualnu psihologiju suptilnim "poticajima" bez odavanja svoje prisutnosti.

Treba ponoviti: ovdje ne manipulira nikakva umjetna inteligencija, već programeri, jer je njima potrebna pseudoreligiozna znanstvenofantastična mistika, koja skriva pravu svrhu tehnologije koju nam guraju u grlo, jer ne smijemo shvatiti da je car Singularnosti gol. Sama prijetnja kako će "neprijatelj" prvi dobiti inteligentnu umjetnu inteligenciju može zavesti neupućene vlade neka iskašlju bilijune dolara, za koje sada Sam Altman inzistira da su mu potrebni za izgradnju njegovog AGIdola. Ali, sve dok se mase hvataju u strahu kako će biti pretvorene u baterije - prava moć iza čipa (razni Kissingeri i Schmidti) izgrađuju kontrolnu mrežu sljedeće generacije, koja će biti sposobna predvidjeti vašu sljedeću misao i "gurnuti" vas natrag u zadani mainstream prije nego što uopće primijetite da ste pod utjecajem.

Dok evanđelist Singularnosti Ray Kurzweil inzistira na tome da će LLM-ovi biti sposobni proći Turingov test 2029. godine - prije mnogo godina je priznao kako ne postoji način da se znanstveno uopće dokaže prisutnost ili odsutnost svijesti, dok je tvrdio da odsutnost takve razlike čini život besmislenim. Nije jedini koji priznaje da ne bi prepoznao Singularnost čak i da ga udari u lice. Izvršni direktor Anthropica, Dario Amodei, ranije ove godine je priznao da nema pojma zašto se LLM-ovi njegove tvrtke ponašaju onako kako se ponašaju. No, to ga nije spriječilo predvidjeti kako će umjetna inteligencija preuzeti polovicu radnih mjesta u uredima u roku od samo godinu dana.

Ovakvo konceptualno puzanje je endemsko u ovoj industriji. Iako je Sam Altman prethodno rekao da će OpenAI-ju trebati 7 bilijuna dolara i godine izgradnje da dostigne opću umjetnu inteligenciju (AGI), prošle je godine skratio taj rok na 5 godina. Procurili dokumenti otkrili su da interna definicija AGI-ja tvrtke zapravo nema nikakve veze sa sviješću, bila je to isključivo financijska referentna vrijednost koju tvrtka može prerano proglasiti da bi se izvukla iz npr. sporazuma sa Microsoftom.

Suglasnost za proizvodnju psihičke diktature pokretane umjetnom inteligencijom - u punom je zamahu. Prošle godine, vodeći podcaster 'alternativnih' medija, Joe Rogan, u eteru je malo "razgovarao" sa Samom Altmanom, raspravljajući o navodnoj neizbježnosti AGI-ja, te kako neuspjesi ljudske vlade zahtijevaju njihovu zamjenu nepristranim i nepotkupljivim računalom. Nigdje nije spomenuto da bi, zato što je programiran od strane ljudi, Roganov "Spasiteljski stroj" bio jednako sklon pristranosti (ako ne i više, i ne mora nikada ništa objašnjavati novinarima) kao i korumpirane vlade za koje tvrdi da ih prezire. Rogan je rekao kako ne može zamisliti svijet u kojem bi pojedinac mogao odustati od "spajanja" sa umjetnom inteligencijom, putem Neuralinka ili nekog drugog sučelja mozak-računalo.

Iako su u svojoj knjizi, "Doba umjetne inteligencije" (2021.), pažljivo ublažili svoju viziju vlade vođene umjetnom inteligencijom, gdje je navedeno da je "osiguravanje ljudskog nadzora i odlučujućeg sudjelovanja u osnovnim elementima vlade bitno za održavanje legitimnosti", Kissinger i Schmidt više se nisu trudili skrivati ​​svoju naklonost prema toj ideji u "Knjizi Postanka", objavljenoj 2024. godine. "Neviđena obrada informacija omogućiti će istinski učinkovitu centralizaciju politike, od strane umjetne inteligencije. Moglo bi se očekivati ​​da će to pojačati percepciju kontrole od strane elita. Međutim, neprozirnost ovih sustava - i ideja da se njihov rad može optimizirati bez ljudskog uplitanja - djelovati će u suprotnom smjeru. Moguće je da će se vremenom i iskustvom ljudska kontrola činiti manje nužnošću, više teretom." Yuval Noah Harari, stalni gul WEF-a, slaže se da umjetna inteligencija čini demokraciju (i samu slobodnu volju) zastarjelom, omogućuje vladama i korporacijama neka "hakiraju ljudska bića", prikupljanjem toliko podataka da mogu predvidjeti (tako i utjecati) na sljedeći potez svakog građanina.

Čak i kada bi umjetna inteligencija napravila neviđen skok prema svijesti, povjeriti zamršenosti vlade neobjašnjivom modelu efektivno je odustajanje od ljudskog razuma, motora koji navodno pokreće našu civilizaciju od prosvjetiteljstva. Priznaje se kako smo previše nesposobni reformirati svoje ljudske vlade i previše disfunkcionalni za pobunu. Brojne studije potvrdile su da nas umjetna inteligencija čini glupljima: "Ali hej, sve dok imamo umjetnu inteligenciju, tko treba razmišljati?". Dok bi skeptik mogao istaknuti kako bi isti idioti, koji su navodno nesposobni za predstavničku vladu morali programirati Stroj Spasitelja, štovatelji tvrde kako je umjetna inteligencija već počela programirati samu sebe. Ljudi će uskoro biti zastarjeli, hvale se zagovornici umjetne inteligencije, poput Hararija, ljudi su postali "beskorisni" od strane vlastitih kreacija.

Ne želeći prepustiti Singularnost slučaju - grupa iz Davosa je reciklirala retoriku utrke u naoružanju iz Hladnog rata: ako ne razvijemo ubojitu superinteligenciju, koja je sposobna za raspoređivanje i kontrolu rojeva ubojitih superinteligentnih dronova, onda bi to Kina mogla prva učiniti! Kissinger i Schmidt samo se pretvaraju da su oprezni, ali čitava poglavlja u obje svoje knjige govore sa oduševljenjem o mogućnostima umjetne inteligencije koja se bori na rubu sukoba, jasno dajući do znanja kako je cilj postići majku svih uvjerljivih poricanja. Nakon što se umjetna inteligencija proglasi svjesnom, a naglašavaju da se opća umjetna inteligencija "ne mora dogoditi da bi umjetna inteligencija najavila revoluciju u ljudskim poslovima" - onda se može iskoristiti za ciljane atentate na političke neprijatelje, uništavanje domova, gradova, cijelih nacija bez potrebe za baroknim političkim manevriranjem gdje moćnici imaju naviku utjeloviti ​​svoje ubilačke impulse. Policijsko djelovanje prije počinjenja zločina postaje stvarnost. Donošenje odluka iz crne kutije znači da plaćenici umjetne inteligencije nikada ne mogu biti ispitani o tome zašto su bombardirali neko selo, masakrirali vrtić ili upucali tog civila. Doista, Izrael već koristi umjetnu inteligenciju za počinjenje zločina u neviđenim razmjerima u Gazi, gdje njegov prikladno nazvani algoritam Habsora (Evanđelje) generira tisuće puta više meta godišnje, nego ljudski operateri u prethodnim ratovima. Iako su ljudi odgovorni za odobravanje udara na predložene mete, algoritam pruža dovoljno prostora za manevriranje kako bi izbjegli sud za ratne zločine.

Iste taktike mogu se koristiti u informacijskom ratovanju. Prisjetimo se fotografije "žrtve Hamasa", koju je generirala UI, a za koju je Izrael inzistirao da je prava izraelska beba ispečena u pećnici, tijekom napada 07. listopada. Kada se otkrilo da je slika kompozitna, izraelska vlada usmjerila je svoju kontrolu štete na zamućivanje vode, inzistirajući kako ne postoji način utvrditi je li slika generirana umjetnom inteligencijom, iako se svaki element osim ugljenisane "bebe" podudarao sa povezanom fotkom šteneta. Mogućnosti za utjecaj jedan na jedan još su puno veće. Studije pokazuju da LLM-ovi, obučeni kako bi bili uvjerljivi umjesto za točni, puno češće utječu na protivnike u debati nego ljudi, kao i da ta učinkovitost dolazi od mogućnosti mikrociljanja njihovih argumenata na pojedinca. Suočeni sa chatbotom koji nas poznaje bolje nego što mi sami sebe, prisiljeni smo posumnjati u vlastita osjetila, i samo u toj nemoćnoj "sivoj zoni" njihova obmana može prevladati.

Kako bi se ubrzala spremnost ljudi da obožavaju svoje chatbotove, čini se da je cilj učiniti "svijet ljudskog mesa" što je moguće neprivlačnijim. Preplavljivanje zone otpadom generiranim UI osigurava da su ljudski kreativci isključeni iz industrija, prespori kako bi se natjecali sa strojem koji može proizvesti tisuće (loše napisanih, ali "dovoljno dobrih", kažu nam) priča ili pjesama u vremenu koje je čovjeku potrebno da napiše jednu. Možda najveću sol na ranu pruža činjenica da se ovi modeli gotovo uvijek obučavaju na kreativnom materijalu, koji je ukraden, bez naknade pravim autorima. Web stranica za fotografije Getty tužila je Stability.AI, 2023. godine, zbog krađe 12 milijuna slika, navodno za obuku njihovog generatora slika Stable Diffusion. Soundcloud je tiho uveo politiku koja zahtijeva od onih koji učitavaju svoju glazbu neka daju pristanak i dopuštenje da se njihova glazba unosi u UI bez naknade;  užasnuti glazbenici su to naknadno otkrili u svojim ugovorima. Sudac je upravo presudio da je Anthropic doslovno usitnjavao milijune knjiga zaštićenih autorskim pravima da bi opremio svoju "istraživačku knjižnicu" - za Antropic je to "poštena upotreba", iako autori nikada neće vidjeti lipe od beskrajnog recikliranja njihovog rada. Prodali su nam UI obećanjima kako će preuzeti dosadne i repetitivne zadatke koje ionako nismo voljeli, te nas ostaviti da se usredotočimo na kreativne i smislene aktivnosti, ali umjetna inteligencija usporava umjetnost, glazbu i književnost - ostavlja nas nezaposlenima i nadmašenima, demoraliziranima i obespravljenima. Malo je poticaja da učinimo išta više, samo postajemo sve više poput ljudskih ljuski iz Wall-E: 

Međutim, AI tvrtkama ponestaje originalnog sadržaja za obuku LLM-ova, postali su žrtva vlastitog uspjeha gašenja "organskih" web stranica i slika sa web indeksa svojim vatrogasnim crijevom zaglupljivanja. Još uvijek gladni, nakon što su posrkali cijeli "pravi" (umjetni) internet, noviji AI modeli se guše u izobličenjima koje su generirali njihovi prethodnici, proizvode besmislicu koju su istraživači nazvali "Habsburška AI", prema notorno incestuoznoj kraljevskoj dinastiji. Rezultat je svojevrsna informacijska bolest ludih krava koja teži entropijskoj bljutavosti - monolitnoj, bezdušnoj praznini, popločanom besmislicama. Mrtvi Internet više nije samo "teorija" - postaje sve više stvarnost. Iako istraživači kažu da su pronašli neka zaobilazna rješenja koja omogućuju korištenje sintetičkih podataka za obuku, to ne ide uvijek po planu: u nedavnom eksperimentu je jedan LLM navodno "podsvjesno" uputio svoj "studentski" model kako bi predložio ubojstvo, trgovinu drogom i uništenje ljudske rase kao rješenja za uobičajene korisničke upite. Navodno je model te informacije sakrio u bezopasnim brojčanim nizovima koje su mu programeri tražili neka prenese, navodno te informacije njegovi programeri nisu mogli čak niti retrospektivno razaznati.

Bezgranična pompa oko doba UI splašnjava. Ostavlja nas vjerovati da imamo samo jedan izbor: uništenje ili smrt od dosade.

I tu se vraćamo na početak. Crkva umjetne inteligencije i razni njeni "konkurenti" nude savršen izlaz iz ove egzistencijalne kaljuže: jednostavno prenesite svoju svijest u oblak i stopite se sa strojevima. Pridružite se pobjedničkom timu! Potrebna je istinski religiozna razina vjere da bi se povjerovalo kako će prenošenje vlastite svijesti u oblak ikada biti moguće, a kamoli sigurno, No, koliko vidimo, protivnici umjetne inteligencije neće imati izbora u tom pitanju, makar tako tvrde Joe Rogan i njegovi kolege zagovornici singularnosti. Nesposobni komunicirati sa svojim "poboljšanim" na bilo kojoj razini osim na najrudimentarnijoj, analogni ljudi (koje Kissinger i Schmidt nazivaju "fizikalistima") su osuđeni na nebitnost i izolaciju, postaju kulturni kuriozitet (poput Amiša), kojima se normalni ljudi dive iz autonomnih turističkih autobusa. Zapravo, nije čudo što zapadno društvo juri prema obožavanju singularnosti, uz rubove crne rupe.

Neprijateljsko preuzimanje od strane UI jest jedna je od velikih civilizacijskih prijetnji (uz klimatske promjene, pandemije i invazije vanzemaljaca), koju zagovornici svjetske vlade obožavaju zbog mogućeg potencijala ujedinjenja globalnog stanovništva pod zastavom jednog autoritarnog režima. U tom su momentu zločini vladajuće klase oprošteni (ili barem zaboravljeni), čovječanstvo vapi za spasenjem, kolektivno se piša u gaće od straha od najnovijeg Većeg Zla™. Još je prerano za još jednu pandemiju, unatoč velikim koracima postignutim u posljednje dvije godine prema brisanju sjećanja na Covid-19. Klimatske promjene su, čini se, izgubile svoju sposobnost teroriziranja zahvaljujući previše povika "vuk" od previše samopravednih Crvenkapica. Ostaje invazija vanzemaljaca, koja se može pokušati samo jednom prije nego što izgubi svu vjerodostojnost. I ostaje uspon strojeva. Yuval Noah Harari, čije knjige tvrde da je "supermoć" čovječanstva naša sposobnost da povjerujemo u laži, čak je i tihi dio rekao naglas Kineskom forumu za razvoj: "Kako bi preživjeli i napredovali u doba umjetne inteligencije, moramo više vjerovati drugim ljudima nego što vjerujemo umjetnoj inteligenciji."