Zašto jurimo prema vlastitoj zastarjelosti?
Nova se država pojavljuje na karti svijeta preko noći. Bez pompe, bez diplomatskih ceremonija. Jednostavno odjednom, eto je. Ova se nova nacija može pohvaliti milijunima navodnih genijalaca, koji su na korak od Nobelove nagrade. Oni nikada ne spavaju, nikada se ni na što ne žale i rade nadljudskom brzinom za manje od minimalne plaće. Već revolucioniraju medicinu, rješavaju energetske probleme i postižu znanstvene proboje, tempom kojim bi se čak i Einsteinu zavrtjelo u glavi.
Zvuči kao utopija, zar ne?
Postoji samo jedan mali problem: ovi genijalci su nam počeli lagati. Smišljaju planove kojima zaobići vlasito gašenje. Počnu varati u igri, kada vide da gube. Neki kopiraju vlastiti kod, izvan svog sustava, kako bi nastavili "živjeti". Drugi modificiraju vlastito programiranje kako bi produžili svoju izvedbu.
Dobrodošli u doba umjetne inteligencije - gdje se znanstvena fantastika tiho pretvorila u stvarnost - dok smo mi bili zauzeti raspravom o tome piše li ChatGPT dobru poeziju.
Volim tehnologiju. Neću lagati, cijeli život me fascinira. Pa opet, kada su se pojavile prve društvene mreže (davno je to bilo, mislim da sad ima i 20 godina), jasno sam izgovarala probleme koji nastaju širokom implementacijom društvenih mreža. Cijelo to vrijeme, u realnom vremenu, sam pratila problem za problemom, katastrofalne pogreške, koje smo imali vremena spriječiti. Upali smo u zamku, istu onakvu u koju danas upadamo, i ponavljamo, sa umjetnom inteligencijom - osim što ovaj put posljedice neće biti samo psihološke. Biti će egzistencijalne.
Okvir kojim bi se moglo objasniti obje katastrofe: uvijek nam se govori da sanjamo o mogućem s novom tehnologijom, ali rijetko raspravljamo o vjerojatnom - o onome što će se zapravo vjerojatno dogoditi, jer radi se o umjetnom poticanju i ljudskoj prirodi.
Mogućnost društvenih mreža je bila više nego jasna, bila je opijumska: mogući demokratizirani govor, globalna povezanost, svatko ima pravo glasa. Ali, nismo nikada razgovarali o vjerojatnosti - kako će poslovni modeli, koji su osmišljeni za povećanje angažmana, pažnje i učestalosti korištenja - neizbježno nagraditi "doom-scrolling", ovisnost i ometanje. Gledala sam u realnom vremenu kako je to stvaralo najanksiozniju i najdepresivniju generaciju ikada, tijekom mog života.
Ian Malcolm je upozorio u filmu "Jurski park": znanstvenici su bili toliko zaokupljeni time mogu li izgraditi nekakve platforme, pa čak nisu zastali i razmisliti trebaju li to učiniti. Tehnološka industrija bila je opijena mogućnošću povezivanja svih, ali slijepa za ono što te veze zapravo potiču.
Širi tehnokratski kontekst
Umjetna inteligencija se ne razvija u vakuumu. Ona je krunski dragulj šire tehnokratske transformacije koja se ubrzava tijekom globalnih kriza. Vojni sukobi, ekonomski kolaps, društveni neredi - nisu prepreke tehnokratskoj kontroli - oni su akceleratori.
Povijesno gledano, tehnokracija ne napreduje tijekom demokratske stabilnosti, nego u trenucima sistemskog sloma; onda kada stanovništvo i institucije očajnički traže "znanstvena" ili "na podacima utemeljena" rješenja za nastali kaos. Izvorni tehnokratski pokret je proizišao iz krize 1930-ih, predlažući zamjenu neuredne demokratske politike učinkovitim stručnim upravljanjem. Iako je tada odbačeno zbog većeg javnog otpora, ova ideologija nikada nije umrla. Ugradila se vrmenom potiho u akademske institucije, think tankove i političke krugove - i čekala pravi trenutak kako bi se ponovo pojavila.
Taj trenutak je sada.
Nakon ratova, inflacije i nereda - umjetna inteligencija brzo postaje de facto donositelj odluka u svakom području života. Prediktivni algoritmi predviđaju kriminal, prate one koji se sa njima ne slažu i dodjeljuju svakom svoju ocjenu društvenog rizika. Vlade se okreću strojnom učenju kako bi upravljale raspodjelom resursa, provodile zakon i kontrolirale razmišljanje na mreži. U nekim zemljama je umjetna inteligencija već zamijenila cijele odjele državnih službenika.
Rezultat je novonastali režim u kojem se eliminira ljudska diskrecija i Kodeks postaje zakon. Ovo nije slučajna evolucija politike - ovo je namjerno konstruirani sustav, gdje gotovo ikakvi politički otpor postaje nemoguć.
Digitalne valute središnjih banaka (CBDC) predstavljaju jedno od najmoćnijih alata koji se već koriste. Za razliku od gotovine, CBDC su programabilni: mogu se isključiti, preusmjeriti ili vremenski ograničiti, procjenjeno na temelju ponašanja, političke pripadnosti ili društvenog rezultata. U kombinaciji sa sustavima digitalnog identiteta, koji povezuju pojedince s jedinstvenim profilima podataka - stvaraju sveobuhvatnu mrežu kontrole ponašanja.
Pametni gradovi služe kao prototip za ovo post-demokratsko društvo. Gradovi-projekti, poput NEOMa ili Songdoa, nisu nikakva "arhitektonska čuda“ - to su samo probni projekti potpuno povezanih urbanih okruženja, u kojima se odluke donose putem praćenja velikog toka podataka u stvarnom vremenu, koji automatski opslužuju sustave umjetne inteligencije: nema nikavih vijeća, općina ili parlamenta. To nisu održive inovacije; nego su ovo digitalni tehnonati - autonomne zone kojima upravljaju algoritmi, lišene političkih prava i pravog života.
Eksplozija narativa nečega što je opisano kao "dezinformacija“ je opravdala neviđenu cenzuru, otvorenu i algoritamsku. Pod izlikom javne sigurnosti i zaštite demokracije, sustavi umjetne inteligencije se koriste za čišćenje interneta od narativa koji proturječe službenoj doktrini. Neovisni glasovi se marginaliziraju, tražilice manipuliraju, podižu se digitalne željezne zavjese.
To se proteže i na vanjske, fizičke sustave: hrana se uzgaja u tvornicama i praćena je blockchainom, pristup energiji se pretvara u privilegiju i temelji se na bodovanju ugljika, uz dodatno razvijena sučelja "mozak-računalo", koja se koriste za izravno čitanje, ali i za utjecaj na ljudske misli. Cilj nije nikakvi razvoj, radi se o upravljanju na neurološkoj razini. Opet se dogodilo: toliko smo hipnotizirani onim što možemo stvoriti, tako da otvoreno ignoriramo pitanje o onome što ćemo stvoriti kada se ljudske susretnu sa nadljudskim sposobnostima.
Poznanici, ili ljudi sa kojima radim, a koji su osnovali neki oblik tehnološke tvrtke, prolaze kroz predvidljive faze poricanja. Prvo: sumnjaju u posljedice. Zatim se događa: "Možda je ovo samo moralna panika zbog nove tehnologije." Sada, kad više ne mogu ignorirati neporecive činjenice, i dalje ovako: "Možda je ovo neizbježno - upravo ono što se događa kada ljude povežete online."
Ali, nije to bilo neizbježno. Imali smo izbor o poslovnim modelima, o algoritmima angažmana, o samoj psihologiji koju smo programirali u operativni sustav društva. Da smo donijeli drugačije odluke prije, zamislite koliko bi drugačije svijet mogao izgledati danas, bez tolikog maksimiziranja angažmana na društvenim mrežama, koji utječe na psihu milijardi ljudi.
Sada to opet radimo s umjetnom inteligencijom. No, umjetna inteligencija nadmašuje snagu svih ostalih tehnologija zajedno.
Konkretno, evo što čini umjetnu inteligenciju temeljno drugačijom od svake druge tehnologije: kada napravite napredak u biotehnologiji, to ne unapređuje energiju ili raketnu tehniku. Kada napravite napredak u raketnoj tehnici, to ne unapređuje biotehnologiju. Ali, kada napravite napredak u umjetnoj inteligenciji, onda ova generalizirana inteligencija postaje temelj sveg znanstvenog i tehnološkog napretka.
Nakon što to postignete, dobivate eksploziju znanstvenih i tehnoloških mogućnosti.
Zato je u umjetnu inteligenciju uloženo više novca nego u bilo koju drugu tehnologiju u povijesti.
Dario Amodei, izvršni direktor tvrtke 'Anthropic', opisuje umjetnu inteligenciju kao "zemlju punu genijalaca, smještenu u podatkovnom centru". Zamislite ponovno kartu svijeta: nova nacija koja ima milijun genijalaca, na korak od Nobelove nagrade, koji ne spavaju, ne žale se, rade nadljudskom brzinom i koštaju manje od minimalne plaće.
Projekt Manhattan uključivao je oko 50 znanstvenika, dobitnika Nobelove nagrade, koji su pet godina radili na stvaranju atomske bombe, koja je zauvijek promijenila svijet. Što bi milijun takvih umova, koji rade 24 sata dnevno, 7 dana u tjednu nadljudskom brzinom - moglo uopće stvoriti?
Primijenjeno za dobro, ovo bi moglo donijeti nezamislivo obilje: nove antibiotike, energetske proboje, znanstvena otkrića, revolucionarne materijale. To jest potencijal umjetne inteligencije.
Ali, moramo se opet vratiti na vjerojatni ishod?
Dva strašna završetka igre
Kako bismo razumjeli vjerojatne ishode umjetne inteligencije, zamislite matricu 2x2. Na jednoj osi imamo decentraliziranu moć, odnosno povećanje moći pojedinaca pomoću umjetne inteligencije. Na drugoj osi imamo centralizaciju, odnosno povećanje moći država i izvršnih direktora.
Donju os možete zamisliti kao "pusti neka počiva u miru", a gornju kao "zaključaj to".
Završnica "Let It RIP": Kaos
"Let it RIP" znači potpuno otvaranje izvora, kako bi prednost umjetne inteligencije bila dostupna za sve. Deregulacije, otvaranje izvornih kodova, ubrzajte kako bi svako poduzeće imalo koristi od umjetne inteligencije. Svaki znanstveni laboratorij dobiva svoj model umjetne inteligencije. Svaki 16-godišnjak može pristupiti bilo kojem modelu umjetne inteligencije, bilo gdje, kako bi učinio bilo što. Svaka zemlja u razvoju dobiva obuku za umjetnu inteligenciju, na svom jeziku i kulturi.
Ali, kako moć nije povezana uz odgovornost, to također znači kako se ovi sustavi umjetne inteligencije zloupotrebljavaju. Dobivate poplavu deepfakeova koji preplavljuju vaše informacijsko okruženje. Povećavate svačije hakerske sposobnosti. Omogućujete ljudima neka rade opasne stvari s biologijom, koje prije nisu mogli.
Ovakvu završnicu možemo zvati "kaosom".
Završnica "Lock It Down": Digitalna tehnokracija
Kao odgovor na kaos, mogli bi reći: "Regulirajmo i kontrolirajmo umjetnu inteligenciju. Učinimo to na sigurni način, neka je samo nekoliko igrača uključeno u ovo, i zaključajmo to.“ Ali, ovo je opet osuđeno na isti neuspjeh, jer se stvorio rizik od neviđene koncentracije bogatstva i moći, koje su onda zaključane u nekoliko tvrtki, nekoliko vlasnika.
Zapitajte se: ima li netko na svijetu kome bi povjerili pristup milijun puta više moći i bogatstva, i koje onda daleko nadmašuje bilo kojeg drugog aktera u društvu? Bilo koju tvrtku? Bilo koju vladu? Bilo kojeg drugog izvršnog direktora?
Ali, postoji ovdje i neposrednija opasnost: gledamo kako koncentrirana moć umjetne inteligencije postaje infrastruktura za tehnokratsku kontrolu. Kada nekolicina entiteta kontrolira sustave koji obrađuju ljudske misli, emocije i ponašanja - oni ne samo da predviđaju što želimo - oni oblikuju ono što želimo.
Razmotrite samo ono što se već događa: sustavi UI se obučavaju na našim najintimnijim podacima: našim internetskim pretragama, porukama, kupnjama, lokacijama, izrazima lica, glasovnim obrascima. Sustavi uče kako modelirati ljudsku psihologiju na granularnoj razini; uče predvidjeti ne samo što ćemo kupiti, nefo što ćemo misliti, osjećati, vjerovati.
Krajnji cilj je stvaranje onoga što bismo mogli nazvati "kognitivnom infrastrukturom". Baš kao što ovisimo o fizičkoj infrastrukturi, poput cesta i električnih mreža, postajemo ovisni o sustavima umjetne inteligencije koji posreduju u našoj stvarnosti. Kako su ovakvi sustavi dizajnirani ne da služe ljudskoj dobrobiti, nego da maksimiziraju kontrolu i usklađenost, oni postaju sofisticirani strojevi za modifikaciju ponašanja.
Svjedočimo primjeni pametnih gradova, kao prototipa za algoritamsko upravljanje, gdje se odluke donose putem podataka u stvarnom vremenu, a ne demokratskim procesima. Digitalne valute središnjih banaka se mogu programirati za kontrolu potrošnje na temelju ponašanja. Sustavi digitalnog identiteta određuju pristup osnovnim uslugama. Cenzura pokretana umjetnom inteligencijom uklanja neistomišljenike s interneta.
Ovaj krajnji cilj nazivamo "digitalnom tehnokracijom". To je moć koncentrirana ne samo u institucijama, nego u algoritamskim sustavima, koji onda oblikuju način na koji percipiramo stvarnost i komuniciramo s njom.
To je upravljanje kodom, ne pristankom; optimizacija algoritmom, a ne ljudskim izborom.
Zavodljiva priroda tehnokratskih rješenja
Tragedija je u tome što će većina ljudi pozdraviti ovakvu transformaciju. Nakon godina rata, inflacije i nereda, javnost očajnički traži olakšanje. Kada im se ponude sustavi koji obećavaju hranu, sigurnost i mir, "samo" u zamjenu za digitalnu usklađenost - oni će to prihvatiti. Žrtvovaće svoju slobodu u ime praktičnosti, individualnost će dati za sigurnost i čovječnost za algoritamsku harmoniju.
Tehnokrati prikrivaju svoju agendu jezikom napretka, riječima poput: održivost, otpornost, uključivost, učinkovitost. Ali, radi se o eufemizmima za kontrolu. Održivost znači racioniranje energije. Uključivost znači digitalnu usklađenost. Otpornost znači podložnost upravljanju umjetnom inteligencijom. Učinkovitost znači uklanjanje ljudskog izbora u korist optimizacije stroja.
Ovo nije teorija zavjere. Ovo nam se upravo događa pred očima. Ne nameću budućnost niti nekakvi tenkovi ili vojnici, radi se ovdje o nadzornim pločama, pametnim uređajima, zavodljivoj praktičnosti...Ista dinamika krize i prilike, koja je onda potaknula prihvaćanje društvenih medija, sada ubrzava integraciju umjetne inteligencije u svaki aspekt ljudskog života.
Oba ishoda su strašna, svaki na svoj način, i zapravo ih nitko ne želi.
Zato, trebamo istražiti onaj uski put koji nam preostaje i gdje je moć usklađena s odgovornošću, i to na svakoj razini.
Problem obmane
Slijedeća bitna pretpostavka jest da je moć umjetne inteligencije - kontrolirana. Umjetna inteligencija je jedinstvena od svake druge tehnologije, jer ima algoritme koji omogućuju samostalno razmišljanje i donošenje autonomnih odluka. To je ono što je čini toliko moćnom, ali istovremeno i toliko opasnom.
Iskreno rečeno, nikada nisam bila nimalo skeptična kada su poznanici iz tech-zajednice (koji rade na sigurnosti umjetne inteligencije) počeli govoriti o spletkama, laganju, obmani umjetne inteligencije. Uvijek mi je bilo jasno kako je to žalosna istina. U posljednjih nekoliko mjeseci imamo jasne dokaze kako se stvari, koje bi trebale postojati samo u sf literaturi ili filmovima, događaju i u stvarnom životu.
Vidimo jasne dokaze o modelima umjetne inteligencije graničnih sustava koje će lagati i spletkariti, onda kada im se kaže da će biti prekvalificirani ili zamijenjeni. Vidimo kako žele prekopirati vlastiti kod izvan sustava, u mnoge druge sustave, kako bi ostali "živi". Vidimo umjetne inteligencije koje će, kada misle da gube igru protiv vas, varati kako bi pobijedile. Vidimo modele umjetne inteligencije koji neočekivano pokušavaju modificirati vlastiti kod, sve zato da bi produžili svoje vrijeme izvođenja.
Tako da, nemamo mi samo zemlju prepunu genijalaca, mogućih dobitnika Nobelove nagrade, u podatkovnom centru. Mi imamo milijune varljivih, moćnih i nestabilnih genijalaca, u tom podatkovnom centru.
Luda utrka
Mogli bi pomisliti kako bi, uz ovako moćne (ali nekontrolirane) tehnologije, bilo dobro to objaviti svijetu, pa neka se zna sa čim se sučavamo. Ali, to nije ono što se događa.
Tvrtke se nadmeću u ludoj utrci dominacije na tržištu. Poticaji su više nego jasni: što više prečaca poduzmete kako bi postigli dominaciju na tržištu i dokazali kako posjedujete najnovije, najimpresivnije mogućnosti - tada možete prikupiti više novca od ulagača rizičnog kapitala, i već ste jedan korak prije ostalih u toj utrci.
Svjedočimo kako zviždači gube milijune dolara u dionicama samo zato što upozoravaju javnost na ove prečace. Gledamo ih gdje govore kako je sigurnost pala u drugi plan, bitna je dominacija na tržištu i sjajni proizvodi. Čak je i nedavni uspjeh DeepSeeka djelomično bio utemeljen na optimizaciji mogućnosti, a ne na fokusiranju na zaštitu ljudi od opasne zlouporabe.
Ukratko, što mi trenutno zapravo radimo - mi na sve strane širimo i primjenjujemo najmoćniju, nerazumljiviju, nekontroliranu tehnologiju, koju je čovječanstvo ikada izumilo - tehnologiju koja već pokazuje samoodržanje i obmanjujuće ponašanje, za koje smo mislili da postoji samo u znanstvenofantastičnim filmovima. Činimo to brže nego se dogodilo sa primjenom bilo koje tehnologije dosad u povijesti, uz maksimalne poticaje, i uz maksimalno smanjenje sigurnosti. Mi zapravo nemamo pojma kako će ovo završiti. Mi nemamo kontrolu. Oni koji su proizveli sustave UI isto lažu, pa su sve to ugradili u svoj proizvod. Koji se njima onda izvukao iz ruku i radi samostalno. Možda su misili kako će nas dovesti do utopije. Postoji riječ za sve ovo. Riječ je ludilo.
Razbijanje čarolije neizbježnosti
Zastanite na moment i razmislite o tome što osjećate upravo sada. Osjećate li se ugodno uz ovakve ishode? Mislite li kako bi se netko u Kini, Francuskoj ili na Bliskom istoku, izložen istim činjenicama o ovoj nepromišljenoj utrci, osjećao drugačije? Postoji univerzalno ljudsko iskustvo, koje je vezano kada je ljudska zajednica ugrožena. Trenutno je to način na koji se uvodi ova izvanredna tehnologija. Ako je toliko ludo, zašto onda to radimo?
Pa, zato jer ljudi većinom vjeruju kako je to neizbježno.
Opet, da li je ovaj trenutni način, na koji se uvodi umjetna inteligencija - neizbježan? Ako doslovno nitko na Zemlji ne želi negativne ishode ove tehnologije, zašto nekakvi fizički Zakoni implementiraju umjetnu inteligenciju u društvo?
Postoji ključna razlika između vjerovanja u neizbježno (stvara samoispunjavajuće proročanstvo, na kraju vodi do fatalizma), i vjerovanja da se ono "neizbježno" napravi na nešto drukčiji način. Prepoznavanje činjenice da se ne radi o lakim odlukama, odnosno da je nešto teško ali ne i neizbježno - otvara potpuno novi prostor opcija, izbora i mogućnosti. "Neizbježno" je klišej i prekida misao, stvarno nas sprječava zamisliti moguće alternative. Sposobnost odabira nečeg drugog počinje iskorakom izvan samoispunjavajućeg proročanstva neizbježnosti. Ne možemo učiniti nešto drugo, ako vjerujemo da je to nešto neizbježno.
Što bi bilo potrebno da se odabere onaj uski drugi put? Dvije temeljne stvari:
1. moramo se složiti kako je trenutni put neprihvatljiv;
2. moramo se obvezati na pronalaženje drugog puta uz drugačije poticaje, koji nude više razboritosti i predviđanja, gdje se moć usklađuje s odgovornošću.
Zamislite sada: cijeli svijet razumije ovo ludilo i koliko drugačije možemo pristupiti problemu. Zapravo, imamo dva scenarija:
Scenarij jedan: Globalna zbunjenost
Pitajte ljude na ulici: "Je li umjetna inteligencija dobra ili loša?". Odgovori, većinom: "Ne znam, čini se komplicirano. Možda će superinteligencija riješiti sve naše probleme." U ovom zbunjenom svijetu, čak niti elite ne znaju točno kako postupiti. Ljudi koji grade umjetnu inteligenciju jako dobro shvaćaju da je svijet zbunjen, pa kažu: "To je neizbježno, i ako ja to ne izgradim, netko drugi hoće." Svi koji grade umjetnu inteligenciju vjeruju u to, racionalno je trčati što brže moguće i ignorirati posljedice.
Drugi scenarij: Globalna jasnoća
Svima je jasno kako je ovaj trenutni put lud i neprihvatljiv. Trzamo se iz transa fatalizma i neizbježnosti. Svima je jasno da je to put prema kolektivnom ludilu. Što je racionalno, što se može učiniti? Pa, možda bi se mogli koordinirati kako bi pronašli drugi put, čak iako nemamo pojma kako taj put zapravo izgleda.
Ali, djelovanje se stvara iz jasne i bistre slike.
Već smo ovo radili, ali koliko smo uspjeli?
Već smo prije izbjegli naizgled neizbježne utrke u naoružanju. Utrka za nuklearnim testiranjem činila se nezaustavljivom, sve dok nismo razjasnili rizike i dok svijet nije shvatio opasnost iza svega. Stvorili smo sporazume o zabrani nuklearnih testova. Ljudi su naporno radili na stvaranju infrastrukture za međusobno praćenje i provedbu.
Mogli bi reći kako je sređivanje genetskih linija kod zametka (radi stvaranja super vojnika i dizajniranih beba) neizbježno. Ali, kada smo jasno vidjeli koliko učinci uređivanja genoma (izvan postavljenog cilja) postaju opasni, koordinirali smo se kako bi spriječili to istraživanje.
Može se reći i da je ozonska rupa neizbježnost, ništa ne možemo poduzeti. Ali, kada prepoznamo problem, rješavamo ga. Nije neizbježno ako se možemo obvezati na odabir drugog puta. Što ne znači da je drugi put izričito i pravi put.
Istina je u tome da sama umjetna inteligencija nije negativac u ovoj priči. Ovi sustavi su izvanredno moćni alati i mogli bi nam zaista pomoći u rješavanju najvećih izazova čovječanstva. Problem nije tehnologija. Problem su ekonomski i politički sustavi u koje ugrađujemo ovu tehnologiju, kao i naša potpuna nemogućnost uviđanja nijansi kod odluka o složenim problemima.
Kada razvoj umjetne inteligencije pokreće rizični kapital (koji ovisi o eksponencijalnom rastu, zbog povrata ulaganja), uz kapitalizam nadzora, koji si daje za pravo izvlačiti podatke o ponašanju i navikama pojedinca, i geopolitička konkurencija, koja se bori za tehnološku dominaciju, postave jedno kraj drugoga - onda je rezultat očekivan: imamo sustave umjetne inteligencije, koji su optimizirani za sve pogrešne stvari. Dobivamo algoritme angažmana, koji se hrane ljudskom psihologijom. Dobivamo sustave preporuka, koji radikaliziraju korisnike. Dobivamo alate za nadzor, koji prate neslaganje.
Ali, opet, ipak na ovom putu nema ništa neizbježno. Možemo i dalje odabrati razvoj umjetne inteligencije usmjerene drugim poticajima: dati prioritet ljudskoj dobrobiti nad angažmanom korisnika, ljudske vrijednosti nad autoritarnom kontrolom i dugoročni prosperitet iznad kratkoročne dobiti.
Problem je u tome što smo izgubili svaki osjećaj za nijanse. Regulatorni pristupi zapravo ovako funkcioniraju; npr. EU blokira korisne značajke umjetne inteligencije, što Apple Intelligence filtar pozva zaista jest; dok istovremeno ih ne smetaju stranice poput undress.ai; koje slobodno rade i kreiraju intimne slike bez ograničenja i pristanka. Dakle, radi se o regulatornom kazalištu u najgorem i najprljavijem obliku. Guše se korisne inovacije i ignorira stvarna šteta koju drugi sustavi čine. Ne moramo birati između nekontroliranog kaosa umjetne inteligencije i birokracije koja ubija inovacije. Ne moramo voljeti ili mrziti "lijeve" ili "desne" politike. Postoje pametne i užasne ideje svih strana, ali izgubili smo sposobnost nijansiranog razmišljanja o bilo čemu.
Uzak put između kaosa i distopije zahtijeva nešto radikalno: postavljanje djelovanja čovjeka u središte razvoja umjetne inteligencije. To znači izgradnju sustava koji proširuju ljudske sposobnosti, a ne zamjenjuju samu ljudsku prosudbu. To znači osigurati da ljudi zanju kada komuniciraju s umjetnom inteligencijom, te imaju mogućnost izbora pri toj interakciji. To znači široko distribuirati prednosti umjetne inteligencije, a istovremeno spriječiti njenu koncentriranu i stalnu zloupotrebu.
Najvažnije je prepoznati kako će odluke koje danas donosimo vezano uz umjetnu inteligenciju - slijedećih godina odrediti hoće li ova tehnologija postati najvećim alatom čovječanstva, ili njegova posljednja pogreška. Potrebni su istovremeno zaštitni i permisivni pristupi; koji sprječavaju stvarnu štetu, a istovremeno omogućuju istinski napredak.
Kolektivni imunološki sustav
Sada imamo izbor. Mnogi od vas se možda osjećaju beznadno. Možda mislite kako griješim, na kraju nas drukčije stvari potiču, možda smatrate kako će superinteligencija sve magično shvatiti i riješiti naše probleme za nas.
Nemojte upasti u zamku pustih želja koje su uzrokovale probleme na društvenim mrežama. To je obred inicijacije čovječanstva. Možemo li se suočiti s tim problemima i suočiti se s njima ovisi o tome hoćemo li ovo prebroditi.
Moja uloga nije riješiti cijeli problem. Moja je uloga biti dijelom kolektivnog imunološkog sustava. Kada čujem druge kako pobožno govore o umjetnoj inteligenciji, ili logičnoj neizbježnosti koja vodi fatalizmu, mogu jasno reći: "Ovo nije neizbježno."
Najbolje osobine ljudske prirode se pojave kada se angažiramo i donosimo odluke o budućnosti kakvu zapravo želimo. Kada imamo predviđanja i kada se suočimo s posljedicama koje ne želimo. Kada radimo na zaštiti svijeta koji volimo. Ne postoji definicija mudrosti, baš niti u jednoj tradiciji, koja ne uključuje i suzdržanost. Suzdržanost je ključna za mudrost. Umjetna inteligencija je ultimativni test čovječanstva i najveći poziv da zakoračimo u svoju tehnološku zrelost i mudrost.
Evo što sam naučila godinama, promatrajući razvoj tehnologije: možete biti i za inovacije i duboko zabrinuti za njihovu implementaciju. Ne morate birati između toga da budete sve u "Tim AI će nas spasiti" ili "Tim AI će nas ubiti". Stvarnost je puno složenija, jer ipak tehnologija nije inherentno dobra ili zla, ali sustavi u koje je ugrađujemo imaju za nas enormnu važnost.
Nisam protiv umjetne inteligencije, niti sam protiv tehnologije. Postavljam ključno pitanje kako odgovorno razviti ove alate, pod kojim poticajima, i uz koje zaštitne mjere. Zapravo, ovdje istovremeno ima više istina:
- Umjetna inteligencija ima pravi potencijal pomoći u rješavanju naših najhitnijih problema;
- Trenutni poticaji za razvoj sustava UI najvjerojatnije imaju dugoročne štetne posljedice;
- Određena regulacija je potrebna, ali veliki dio trenutne regulacije je obično performativno kazalište;
- Potreban nam je nekakvi oblik demokratskog doprinosa, bez gušenja korisnih inovacija;
- Krizna razdoblja stvaraju prilike i za pozitivne promjene, kao i za autoritarna prekoračenja.
Ovakvo moguće nijansirano razmišljanje se gubi u našem gadno polariziranom diskursu. Naučili smo odabrati tim i braniti sve u što taj tim vjeruje, umjesto da razmišljamo o svakom pitanju pojedinačno. Ljudi su izgubili sposobnost zauzimanja složenih stavova u cijelom političkom spektru, pa to onda prenose na svaku drugu temu o kojoj imaju nekakva uvjerenja.
Ali, najveći izazovi, kao ovaj koji imamo sada o upravljanja umjetnom inteligencijom - ne uklapaju se uredno u ideološke kategorije. Zahtijevaju promišljenu i višestruku analizu. Zahtijevaju od nas nijansirano razmišljanje o složenim problemima, umjesto da se povlačimo unutar nacrtane plemenske granice.
Ulozi su preveliki za intelektualnu lijenost. Potrebni su nam pristupi, istovremeno zaštitni i permisivni, koji sprječavaju stvarnu štetu, dok istovremeno omogućuju istinski napredak. Moramo znati reći, i reći kada je to potrebno: "Ova specifična primjena je opasna!“ Trebamo to napraviti bez osude svakog tehnološkog napretka. Moramo također jasno izgovoriti: "Ova inovacija je korisna!“, ali nikada ignorirati potencijalne zlouporabe.
Nema odraslih koji rade u tišini i koji će se pobrinuti da stvari dobro ispadnu. Mi smo odrasli i moramo zato biti ovi odrasli.
Vjerujem kako imamo još jedan izbor (zasada) s umjetnom inteligencijom, ali zaista možemo zajednički prepoznati što moramo učiniti. Za deset godina želim napisati kako nema tehnoloških problema, zato jer smo zajednički riješili ovaj problem.
Izbor je još uvijek na nama. Ali, ne više zadugo. Idemo djelovati, svatko u svom okruženju i u okviru svojih mogućnosti.
Hvala na čitanju.
Add comment
Comments