Video klipovi teški 7 bilijuna dolara

Sam Altman traži 7 bilijuna (američki: trilijuna) dolara za umjetnu "inteligenciju" koja bi jednog dana mogla, a možda i ne bi mogla, izračunati koliko nogu ima konj. Prošli tjedan, OpenAI je predstavio Soru, video generator, koji dnevno potroši minimalno 700.000 dolara za izradu video isječaka, onakvima gdje ljudski prsti povremeno prolaze kroz zidove kuće, gdje gravitacija djeluje bočno, gdje konjima izrastaju dodatne noge usred galopa. Oni to zovu to inteligencijom, "demokratizacijom" kod stvaranja videa. Ja to jednostavno smatram generatorom slučajnih brojeva, sa marketinškim odjelom koji se obraća najglupljim ljudima u društvu.

Cijela industrija tzv. umjetne inteligencije počiva na fundamentalnoj laži: oni su rekli kako je podudaranje uzoraka isto što i  razmišljanje, kako je statistička podudarnost isto što i razumijevane, da je predviđanje rasta slijedećeg najvjerojatnijeg tokena jednako inteligenciji. Sora zapravo nema pojma što je šalica kave - ona je "vidjela" milijune slika koje su označene kao "šalica kave" i naučila je stvarati rasporede piksela, koji onda statistički nalikuju tim uzorcima. Kada Sora generira video nekoga tko npr. pije kavu, onda ona ne modelira fiziku tekućina ili anatomiju gutanja. Izvodi višedimenzionalnu regresiju distribucijom piksela. Šalica se kreće kroz ruku, jer stroj ne poznaje koncept "čvrsto", "tekućina" ili "ruka" - ona ima samo statističke korelacije između RGB vrijednosti.

AGI - umjetna opća inteligencija - trebala je označavati strojeve koji mogu razmišljati, rasuđivati ​​i razumjeti poput ljudi. Strojeve koji mogu rješavati nove probleme, i to temeljem vlastitih - novostvorenih misli. Trebali su generirati istinske i točne uvide. Pokazati ​​kreativnost, koja nije samo obična rekombinacija podataka za obuku. Umjesto toga, OpenAI i njegovi "konkurenti", sada daju novu definiciju AGI...oni kažu: "Naš proizvod prolazi dovoljno mjerila, te možemo proglasiti pobjedu". Kada se iduće godine, ili godinu nakon toga, najave nove AGI, to neće biti zato što su oni stvorili misleće strojeve. To će biti zato što su uspješno pomaknuli ciljne rezultate - ondje gdje se trenutno nalaze njihovi alati za usklađivanje uzoraka.

Znate što je ovo? Opet samo automatsko ispravljanje, samo sa boljim korisničkim sučeljem; automatsko dovršavanje za piksele. Isti temeljni proces skaliran do nepremostivih računalnih zahtjeva, i odjeven u revolucionarnu retoriku.

OpenAI GPT modeli - navodni temelj umjetne opće inteligencije - proslavljeni su Markovljevi lanci na steroidima. Oni ne razumiju jezik, nego samo predviđaju vjerojatnosti tokena. Kada ChatGPT piše o demokraciji, ljubavi ili kvantnoj fizici, ondje nema koncepta  upravljanja, emocija ili čestica. Samo izvodi statističko podudaranje uzoraka, na tekstovima pokradenima sa interneta, predviđa koja riječ najvjerojatnije slijedi prethodnu riječ, na temelju milijardi primjera. Stroj koji piše poeziju o slomljenom srcu nikada nije ništa iskusio, ništa ne razumije, ništa ne zna. To je kineska soba sa boljom reklamom.  

Objava i predstavljanje modela AGI (kada dođe) - biti će čisto kazalište. Biti će prikazane demonstracije njihovih modela, koji prolaze napisane "medicinske" ispite (odnosno, uspoređuju uzorke sa milijunima drugih medicinskih tekstova), pišu programski kod (rekombinirajući razne objave na mrežama), vode "kreativne" razgovore (birajući pritom između milijun napisanih komentara na npr. Redditu). Oni koji sebe nazivaju novinarima koji prate tehnologiju, ili previše su previše neupućeni, ili previše uvjereni u uspjeh, ili su jednostavno plaćeni da napišu što treba - bez daha će jednosglasno proglasiti dolazak umjetne opće inteligencije. Cijene dionica će narasti u nebesa. Sedam bilijuna dolara financija će se odjednom materijalizirati.

No, sve redom će to biti laž.

Najnovije izdanje OpenAI - "božica" Sora za generiranje videa - spomenik je genijalcu koji je gadno skrenuo sa puta, katedrale gdje se klanja krivom bogu. Svaki "briljantni um", koji radi isključivo na tome da lažni videozapisi izgledaju malo manje lažno, može također raditi i na modeliranju klime. Svaki dolar koji je potrošen na podučavanje strojeva kako oponašati ljudsku kreativnost -  mogao je dobrano financirati stvarne ljudske kreativce. Svaki kWh, potrošen za generiranje "filmskog" smeća i koje će navodno "demokratizirati snimanje filmova" - mogao je biti potošen na istraživanja koja su stvarno važna.

Altman je već javno priznao ono što kritičari već dugo sumnjaju - humanitarna retorika je samo pokriće za izvlačenje bogatstva. Kada su ih pritisnuli neka objasne jaz između njihovog utopijskog marketinga i distopijskih proizvoda - odgovor je bio otkrivenje - oni moraju "demonstrirati svoju sposobnost", dok istovremeno "grade izvore prihoda". Ili, u prijevodu: umjetna inteligencija koja liječi rak, iskorjenjuje siromaštvo i ubrzava napredak - uvijek je bila laž kako bi se postigao pravi cilj - monopol na infrastrukturu digitalnog izražavanja, privlačenje vaše pažnje i mučenje vašeg mozga.

Proces treniranja umjetne inteligencije otkriva razmjere ove prevare. Sora je napunjena milijunima sati videa, milijardama slika, u nju su ubačene nepoznate količine ukradenog ljudskog kreativnog rada - i sve je svedeno na numerički ispis u "neuronskoj mreži". Stroj nije naučio niti što znači zalazak sunca - on je samo naučio pratiti statističke veze između gradijenata piksela, ono što se inače označava (za stroj) kao "zalazak sunca". Može generirati beskonačne varijacije stvari koje izgledaju kao zalasci sunca, ali nikada ne razumije kako je sunce zvijezda, da se Zemlja okreće, da se svjetlost lomi kroz atmosferu...

Radi se o usklađivanju uzoraka bez razumijevanja, korelaciji bez uzročnosti, sintaksi bez semantike.

Pogledajmo što to Sora zapravo radi. Ono upija u svoje neiscrpne memorijske centre desetljeća ljudske vizualne kulture: svaki film, svaki video, svaki zabilježeni video ili foto fragment kojem može pristupiti - i nakon toga, sve svodi na statističke obrasce. Zatim te iste obrasce rekonstituira u neobične simulakrume, koji izgledaju gotovo (ali ne i sasvim točno) kao sjećanja na zaboravljene filmove, kao napola sjećanje iz sna. Izlazni rezultat uvijek sadrži taj prepoznatljivi AI sjaj - površine izgledaju kao da dišu, lica koja se tope ako ih predugo gledate, fizika koja je temeljena logici iz snova, a ne prirodnih zakona.

Mogli bi čak reći da je ovo neugodnost - da nije toliko skupo. Električna struja, koja je potrebna za generiranje jedne minute Sora snimke, bukvalno bi mogla napajati jedan manji grad, i to cijeli dan. Sam proces obuke je potrošio električne energije za opskrbu tisuća domova, tijekom cijele godine. A za što točno? Kako bi influenceri mogli generirati svoje pozadine za TikToku? Kako bi  marketinški stručnjaci mogli stvarati bolja sintetička svjedočanstva? Kako bi mogli dodatno zamagliti, već sada dovoljno nejasnu granicu, između autentičnog ljudskog izražavanja i algoritamske aproksimacije?

Međutim, uvjeravaće nas kako je ovo jako bitan korak prema njihovom svetom cilju opće umjetne inteligencije (AGI). To je još jedna laž. Prava AGI zahtijevala bi nešto što ovim sustavima nedostaje - model stvarnosti. Razumijevanje uzročnosti, a ne samo korelacije. Shvaćanje koncepata, a ne samo obrazaca. Sposobnost zaključivanja iz prvih principa, a ne interpolacija iz primjera. Nikakvo skaliranje trenutnih pristupa neće to postići, jer je cijela arhitektura iz temelja pogrešna. Ne možete izgraditi inteligenciju iz statistike,  ništa više nego što možete izgraditi svijest iz mehanizma.

Računalni zahtjevi otkrivaju neučinkovitost umjetne inteligencije kod prisilnog korištenja statistike. Ljudska djeca uče trajnost objekta iz desetaka primjera; dok Sori trebaju milijuni videa, a i dalje generira šalice za kavu koje se spontano pretvori u čajnik, i to usred kadra. Trogodišnjak razumije da ljudi imaju dvije ruke; dok Sora, nakon što je konzumirala više vizualnih podataka nego što bi bilo koji čovjek mogao obraditi u cijelom životu, i dalje generira ljude sa tri ruke koje rastu iz njihovih torza.

Altman jako dobro zna da AGI neće doći. U privatnim razgovorima, koje su procurili od bivših zaposlenika, priznao je da trenutni pristupi imaju temeljna ograničenja. Ali, i dalje javno održava fikciju, jer cijela kula od karata - procjene, odobrenje vlade, ulaganja, traženih sedam bilijuna dolara - ovisi o tome vjeruju li investitori u to da AGI neizbježno dolazi. 

Stvar je u tome kako oni stalno redefiniraju uspjeh. Prvo je AGI označavao inteligenciju na ljudskoj razini, i u svim domenama. Zatim je postalo nešto što je "na ljudskoj razini, u većini ekonomski vrijednih zadataka". Sada "prolazi određene kriterije bolje od prosječnih ljudi". Vjerojatno će, u trenutku kada proglase pobjedu, AGI "generirati rezultate koji zavaravaju ljude, koji su toliko dugo konzumirali AI otpad, i stoga ne mogu više prepoznati stvarnu misao".

Nema tu puno razlike, jer je čitava velika revolucija jezičnih modela izgrađena na istom temelju. GPT-5, Claude, Grok, Gemini (sjećate se Geminija?) - sve su to varijacije jedne te iste prevare. Zato svi zvuče isto. Generiraju tekst koji izgleda smisleno, jer su naučili kako smislen tekst obično izgleda, ali ne i zato što razumiju značenje. Također, primjećujemo sustavno redefiniranje pojma umjetne inteligencije kako bi se uskladilo sa onim što strojevi mogu lažirati, ali ne i sa onim što inteligencija zapravo jest. To je kao kada tvrdimo da su svirači klavira savladali glazbene performanse, što jest tehnički impresivno, ali je i potpuno bezdušno, i time je  promašena cijela poanta glazbe.

Razmotrimo ponovo ono što OpenAI naziva "emergentnim sposobnostima", to su navodno iznenađujuće sposobnosti, koje se pojavljuju kako modeli narastaju. Ali, to nije pojava nikakve inteligencije, to su samo statističke neizbježnosti. Unesite dovoljno teksta o šahu, u svoj alat za usklađivanje uzoraka, pa će on na kraju reproducirati poteze koji su slični šahu. Ne zato što razumije strategiju ili planiranje (ili što šah uopće predstavlja), već zato što je pregledao dovoljno primjera, pa može predvidjeti vjerojatne sljedeće poteze. To nije šah. To samo izvodi regresijsku analizu šahovske partije. 

Industrija zna sve ovo. Interni dokumenti više tvrtki za umjetnu inteligenciju otkrivaju da inženjeri svoje modele nazivaju "stohastičkim papigama", strojevima koji nasumično rekombiniraju naučene obrasce, bez ikakvog razumijevanja. Pa ipak, javno svi oni održavaju fikciju inteligencije, rasuđivanja, razumijevanja. Moraju tako, jer njihove procjene od npr. 150 milijardi dolara, zapravo i ovise o tome hoće li investitori povjerovati da ti strojevi misle, a ne samo izračunavaju vjerojatnosti. Zato ti ljudi zvuče poprilično glupo u javnosti. 

Reći ću jasno - nisam protiv onoga što se danas zove umjetnom inteligencijom. Ideja kako bi strojevi jednog dana mogli pomoći kod pojačavanja ljudskog uvida, ubrzati otkrića ili nam pomoći da dublje razumijemo sebe je dobra. Ono što apsolutno odbacujem je prevara - trenutno marketinško kazalište koje prodaje regresiju kao otkrivenje, rukovoditelje koji mačke u automobilima prikazuju kao svjetionike ljudskog napretka,uz dodatni UI škart koji se pretvaraju kako je nerad novi oblik umjetnosti. Nema ništa loše u izradi alata koji nam pomažu da nešto brže ili malo jasnije razmišljamo; ono što jest loše je pretvarati se kako ti alati mogu misliti, osjećati ili stvarati. Najveća je tragedija u tome što smo jednu od najperspektivnijih ideja čovječanstva pretvorili u prevaru, koja je cjelokupno izgrađena na medijskoj pompi, ukradenom radu i obmanjivanju.

Oni će ponovo povlačiti termin "AGI", jer su uspješno uvjerili dovoljno ljudi da sofisticirano usklađivanje uzoraka znači razmišljanje. Ukazivati će na osvojene kriterije, položene testove, razgovore koji zvuče ljudski. Neće spomenuti da je sve to statistička mimikrija, da stroj nema više razumijevanja nego što kalkulator zna matematiku.

Rasipanje energije postaje još opscenije - kada shvatite što se zapravo događa. Sagorijevamo gigavate električne energije, ne za strojeve koji misle, nego za stvaratelje smeća koje je već industrijskih razmjera. Ugljični otisak GPT-4 za obuku (ekvivalentno CO2  emisijama 500 automobila, tijekom cijelog njihovog životnog vijeka ), potrošeno je na učenje stroja neka predvidi situaciju gdje "mačka" često sjedne na naredbu "sjedni". Milijuni galona vode za hlađenje samo Sorine infrastrukture za obuku - iskorišteni su kako bi se stroj naučio prikazati da se uzorci mrlja boje kože često pojavljuju iznad uzoraka mrlja boje majice.

Evo što će sedam bilijuna dolara kupiti: samo još sofisticiranije uspoređivanje uzoraka. Veće statističke modele. Izračune vjerojatnosti veće rezolucije. Ne inteligenciju, ne razumijevanje, ne svijest - samo sve skuplje načine generiranja statistički vjerojatnih rezultata, koji izgledaju smisleno ljudima koji su zaboravili što je stvarno značenje. I pritom je Sam sretan, Donald je sretan, Jensen je sretan. Jednostavno su sretni, jer su uspjeli skalirati američke podatkovne centre bolje od drugih, te su time  postali najveći kreatori digitalnog smeća na cijelom planetu. 

Problem "halucinacije", koji tvrtke za umjetnu inteligenciju tretiraju samo kao manji bug - zapravo je logička greška. Ovi sustavi ne haluciniraju - oni rade točno onako kako su dizajnirani, generirajući statistički vjerojatne izlaze, bez obzira na istinitost ili točnost. Kada ChatGPT izmišlja znanstvene radove koji ne postoje, ono ne radi grešku, samo radi ono što uvijek radi: proizvodi tekst koji nalikuje tekstu koji je već vidio, i zvuči uvjerljivo. Stroj ne zna što znači "istinito" ili "netočno". Poznaje samo vjerojatni niz tokena.

Mi danas restrukturiramo cijele industrije oko ovih kalkulatora vjerojatnosti. Zamjenjujemo ljudsku prosudbu statističkim prosjekom. Zamjenjujemo istinsku kreativnost rekombinacijom uzoraka. Trgujemo stvarnom inteligencijom za njenu simulaciju. Što se više umjetne inteligencije se ispiše u papirima neke tvrtke - to joj je vrijednost dionica viša. Cijena dionica Applea pala je dok su šutjeli i dok su svi ostali bili zahvaćeni pomamom za umjetnom inteligencijom. Appleov inovativni imidž bio je narušen. Kada su predstavili Apple Intelligence, skup uglavnom beskorisnih i jedva funkcionalnih alata, investitori su ponovno bili vrlo zadovoljni.

Tvrtke koje prodaju ove sustave svjesne su da im nedostaje inteligencije - pogledajte njihove tehničke dokumente (Apple je čak sve ovo otvoreno priznao i kritizirao). No, sve te tvrtke razumiju da tržište ne mari, sve dok rezultati izgledaju dovoljno uvjerljivo.

Svećenstvo brzog inženjerstva, koje se istovremeno pojavilo, razotkriva svu apsurdnost. Kada bi svi njihovi sustavi bili inteligentni, onda vam ne bi trebale složene bajalice (upute) da bi proizveli upotrebljive izlaze. Ne bi vam bili potrebni "jailbreak", "sistemska uputa", tj. sve te pažljivo izrađene upute. Jednostavno bi sa Tim nečim - komunicirali normalno, kao što komunicirate sa svima i svačim što zapravo razumije jezik. Umjesto toga, imamo cijelu industriju inženjera brzog inženjerstva - ljudi čiji je posao prevariti kalkulatore vjerojatnosti, kako bi proizveli određene obrasce pažljivom manipulacijom ulaznog teksta - i zatim vam to prodaju u proračunskim tablicama za 60 ili 6000000 dolara.

Istraživači OpenAI-ja, u svojim radovima koji ne idu na naslovnice, priznaju sva ova ograničenja. Pišu o "fatamorgani sposobnosti" - tendenciji velikih modela da se čine sposobnijima nego što jesu, jer su zapamtili ogromne količine podataka za obuku. Pišu o "lažnoj korelaciji" - tendenciji stroja da uči slučajne obrasce, a ne smislene odnose. Govore o "pomaku u distribuciji" - kako modeli katastrofalno zakažu kada naiđu na ulaze koji se razlikuju od njihovih podataka za obuku. Ali, ovakva priznanja budu zatrpana lavinama pompe oko opće umjetne inteligencije (AGI), o svijesti, o strojevima koji misle. Morbidna stvarnost koja kaže da smo izgradili vrlo skupe generatore slučajnih brojeva - ipak ne prodaje poslovne licence, niti opravdava procjenjene vrijednosti od nekoliko milijardi dolara. Zapravo je to ovako: Sora videozapisi, koje OpenAI vrlo pažljivo prikazuje, odabrani su iz tisuća pokušaja,  odabrani su oni primjeri gdje konji imaju pravi broj nogu, gdje šalice kave ne prolaze kroz ruke, gdje fizika slučajno izgleda ispravno. Za svaki videozapis koji prikažu, stotine su odbačene, jer bi otkrile što sustav zapravo jest: apsolutno i potpuno beskorisno sranje.

Ovo je teška prevara, koja će biti teška 7 bilijuna dolara: prodaja podudaranja uzoraka kao inteligencije, korelacije i vjerojatnosti kao razumijevanja. Strojevi ne misle, oni samo izvode statističke operacije. Oni ne stvaraju, nego rekombiniraju. Oni ne razumiju, nego izračunavaju korelacije. Ekološka katastrofa, rasipanje resursa, pogrešno usmjeravanje ljudskog talenta - sve je to u službi izgradnje samo još više sofisticiranijih kalkulatora vjerojatnosti. Sve ovo služi za izgradnju strojeva koji mogu generirati tekst koji zvuči smisleno, a da pritom ništa ne znači. Videozapisa koji izgledaju stvarno, a da ne predstavljaju stvarnost. Odgovora koji se čine točnima, bez ikakvog razumijevanja pitanja.

U međuvremenu, stanovništvo postaje sve gluplje - konzumirajući ovaj sadržaj generiran umjetnom inteligencijom - sve više gube sposobnost razlikovanja istinske misli od statističke aproksimacije. Učimo se prihvatiti sve nižu i jadniju kvalitetu: pisanje niže kvalitete, slike niže kvalitete, razmišljanje niže kvalitete. Do trenutka kada OpenAI proglasi kako je opća umjetna inteligencija (AGI)  postignuta, toliko ćemo biti već naviknuti na sintetičke aproksimacije i možda se nećemo sjećati kako izgleda prava inteligencija.

To je završna faza truljenja mozga, koja jest zapravo u srži revolucije umjetne inteligencije: uvjereni smo kako dovoljno sofisticirano usklađivanje uzoraka znači inteligenciju, dovoljno veliki statistički modeli znače razumijevanje, vjerojatnost postaje identična ljudskoj misli. Obrnuli smo poredak, i dobili sve naopako: kartu za teritorij, simulaciju za stvarnost, uzorak za značenje.

I upravo ćemo potrošiti sedam bilijuna dolara za još više ovoga. Hvala, Sam. Vrlo cool.

Hvala na čitanju. 

(Napomena: kada koristim Mi, onda mislim na sve nas - ljude tzv. dijela svijeta, ali i Afrike i južne Amerike. U Africi, bez ikakvih problema, testiraju i dalje svoje tehnološke dosege. Propast ih ne zanima. Mi, svi gore nabrojani ljudi - to plaćamo!! I da ne pomislite da je OpenAI najgori - nije...slijedeći tekst koji sastavljam je baš o evidentnom monopolističkom zlu.)