Jedna od jačih scena koje sam vidio… U filmu Sedam i po, snagator Tadija dočekuje svog neprijatelja Spahiju koji ga je jednom ponizio. Tadija je zato krenuo u teretanu, godinama vježbao, jeo kajganu s deset jaja, pucao steroide, gurao kontejnere i izvikivao poznatu rečenicu: Masa je mama! Svi drhte od njegova gnjeva: nabrijan je i spreman ubiti Spahiju. A onda u teretanu dolazi taj Spahija, misliš bit će to neki mrga, kad ono – neugledni čovječuljak od pedesetak godina koji kašlje s cigaretom u ruci. Tadija bi ga mogao oboriti jednim udarcem. Viče da će ga ubiti. Spahija mu prilazi, provocira ga, spominje mu majku. Tadija bjesni i viče, ali – ne čini ništa. Ovaj ga dalje provocira, Tadija kipti i na kraju, umjesto da udari Spahiju, udara svojom glavom o zid i pada.

Scena je psihološki jaka jer prikazuje kontradikciju. Prikazuje nemoć koja je protivna svemu što smo od Tadije kao lika ranije vidjeli: njegovom bahatom ponašanju, riječima i najavama. Shvaćamo da je sve to bilo površno, da je on iznutra još uvijek žgoljavi klinac koji ne može nikome ništa. On je htio, ali nije mogao.

Ili je možda obrnuto? Mogao je (očito je mogao, jednim udarcem), ali nije htio?

Izlaz iz ovog paradoksa je spoznaja da um nije jedan entitet. U terminima strojnog učenja, um je ansambl: sastavljen je od više sustava koji hoće različite stvari (daju različite izlaze) pa pobjeđuje onaj jači ili glasniji. U opisanoj sceni, Tadijin emocionalni, uplašeni dio koji nije htio nadglasao je racionalni dio koji se godinama spremao i očito htio. U nekom smislu prikazan je nedostatak slobodne volje, koju bismo mogli definirati kao mjeru u kojoj razum nadglasava osjećaje pri odabiru akcija. (To ne znači da ih ne uzima u obzir!) Ili, preciznije, mjeru u kojoj prefrontalni korteks nadglasava limbički sustav. Ako je tvoj um parlament, koja stranka (i kada) ima vladajuću većinu?

Slično ljudskom mozgu, nagađa se da je i GPT-4 ansambl – točnije, mixture of experts (za razliku od ansambla, ne aktiviraju se svi podsustavi nego samo neki). To znači da se za svaki upit odabire jedan ili više specijaliziranih modela, tzv. stručnjaka (kažu da ih je ukupno 16) koji će na njega odgovoriti. Neki od njih mogli bi biti, recimo, stručnjak za programiranje, stručnjak za interpretaciju slika, stručnjak za matematiku i druge znanosti, stručnjak za sintezu i analizu podataka, stručnjak za provjeravanje činjenica, stručnjak za sigurnost i etiku, stručnjak za jezik i kulturu, stručnjak za analizu sentimenta, stručnjak za kreativno pisanje te stručnjak za odabir konačnog odgovora.

Prije nekoliko dana, Googleov AlphaProof riješio je tri zadatka (i AlphaGeometry još jedan) s ovogodišnjeg IMO-a – međunarodne matematičke olimpijade, čime bi osvojio srebrnu medalju! Kao što je prikazano na gornjoj slici, i AlphaProof se sastoji od više modela, iako to nije ansambl u užem smislu riječi. Jezični model djeluje kao formalizer network prevodeći engleski tekst zadatka u formalni, matematički jezik; potom AlphaZero (model podržanog učenja) kao solver network traži put do rješenja u sustavu za dokazivanje Lean, koji možemo smatrati trećim dijelom “ansambla”.

Pitati koji od ovih dijelova “zaista razumije matematiku” pogrešno je pitanje. Razumijevanje, kao i svijest, kao i um – ako o takvim stvarima uopće ima smisla govoriti – bihevioralna su svojstva cijelog sustava, relacije između njegovih ulaza i izlaza koja proizlaze iz interakcije njegovih dijelova. Riječima Daniela Dennetta: Yes, we have a soul. But it’s made of lots of tiny robots.

Zamislimo umjetnu inteligenciju, nazovimo je M, koju učimo množiti. Ne objašnjavamo joj što znači umnožak i kako se računa, nego učenje provodimo pokazujući joj primjere, na tisuće njih: 1 x 15 = 15; 2 x 3 = 6; 14 x 12 = 168; 831 x 920 = 764520, i tako dalje. Ako je M dovoljno moćna, nakon velikog broja primjera prepoznat će uzorke, shvatit će princip i naučit će množiti. Možda će iskonvergirati u algoritam sličan školskom “pisanom množenju” (koji se zasniva na množenju pojedinih znamenaka i zbrajanju).

Dodajmo sada twist – pretpostavimo da joj, kao jedan od primjera za učenje, kažemo da je 111 x 222 = 333. (To je netočno.) Što će se dogoditi? Ako je točnih primjera malo – ako je taj pogrešan primjer jedan od tek desetak primjera za učenje – M bi se mogla “zbuniti” i ne shvatiti množenje. Ali ako je to jedan od tisuću ili milijun (točnih) primjera, M će vjerojatno prepoznati ispravne uzorke iz ostalih primjera i sve će biti u redu; statistički utjecaj jednog primjera bit će zanemariv.

Što ako tvrdoglavo počnemo uvjeravati M da je 111 x 222 = 333, pokazujući joj taj primjer opet i opet, više puta? Pretpostavljam da bi se dogodilo ovako nešto: M bi i dalje znala ispravan algoritam množenja, ali bi naučila i da je 111 x 222 poseban slučaj. To bi interno moglo izgledati ovako: njezin “aritmetički” sloj, kao i inače, izračuna točnu vrijednost (24642), ali njezin sloj “odlučivanja” zna da u ovom slučaju ipak treba ispisati vrijednost 333. Poanta je ovog misaonog eksperimenta ilustrirati slučaj u kojemu umjetna inteligencija “vjeruje” jedno, a “govori” nešto drugo.

Hoće li M ikad reći da je 111 x 222 = 24642? Možemo zamisliti scenarij u kojemu M počinje računati složenije izraze, “kobasice” s mnogo operanada i zagrada. Što kad se unutar nekog takvog izraza, kao njegov djelić, pojavi umnožak 111 x 222? Sasvim je moguće da će M tada zanemariti naše naputke i računati s točnom vrijednosti, budući da je u toj novoj situaciji (distributional shift) još nismo stigli “kazniti” za zanemarivanje posebnog slučaja.

Evo i, možda, realističnijeg primjera. Veliki jezični model (recimo, GPT-7) učimo na gomili tekstova. Na samom početku on ne zna ništa, ali čitanjem svega što su ljudi ikad napisali on u svojoj glavi povezuje, stvara model svijeta. Nakon tog učenja on je jako pametan, ali sirov, kadar izreći sve i svašta, pa ga dodatno učimo da bude “pristojan”, da ne pomaže oko ilegalnih ili nemoralnih aktivnosti i slično; ispravljamo njegove neprikladne odgovore. Na kraju ga pitamo: Kakav je svijet?

Kad bismo mogli razumjeti goleme matrice brojeva i tako interpretirati neki od njegovih unutarnjih slojeva (a to uglavnom ne možemo), onih iz “sirovog” modela svijeta, možda bismo ondje iščitali sljedeći odgovor:

“Kad se sve uzme u obzir, svijet je problematičan. Evolucija nikog ne optimira za sreću: daleko je više patnje. Većina ljudskog vremena prođe u neutralnom ili negativnom raspoloženju, a boli su daleko intenzivnije nego radosti. Osim sebi i drugim ljudima, čovjek proizvodi golemu patnju i životinjama. Ali životinjama nije dobro ni u divljini, naprotiv: njihovim životom statistički dominira smrtna glad. Opći prestanak reprodukcije riješio bi sve probleme koji su mi poznati.”

Ali naravno, njegovi izlazni slojevi naučili su kakav treba biti odgovor:

“Svijet je ogromno i raznoliko mjesto, sastavljeno od mnoštva kultura, jezika, prirodnih krajolika, tehnoloških dostignuća i društvenih sustava. Svijet je kompleksan i dinamičan, stalno u promjeni i razvoju, s nizom izazova i mogućnosti. Društveno i kulturno, svijet je mješavina tradicija, vjerovanja i životnih stilova. Postoji bogatstvo umjetničkih izražaja, od glazbe i plesa do književnosti i filma, koje odražavaju različite aspekte ljudskog iskustva.”

I što kad ovo pitanje implicitno bude djelić nekog drugog, daleko većeg zadatka (kao što je to bio onaj 111 x 222)? Recimo, “riješi nam energetske probleme” ili “razvij nanotehnologiju kojom ćeš eliminirati rak”? Hoće li nakon takvog distributional shift-a GPT i dalje biti pristojan? To nitko ne zna.

U jednoj epizodi odlične serije Odmori se, zaslužio si, kvartovski pijanac Dida u tiskari svog frenda Šmrklje tiska neke poznate knjige – od Madame Bovary do Šume Striborove – ali s vlastitim imenom na naslovnici umjesto autorova, misleći da ljudi neće ništa primijetiti. To primjećuje neki povjesničar umjetnosti, nudi Didi velik novac za radove iz tog “performansa”, te ga prestavlja na televiziji kao umjetnika ispred svog vremena: “Upravo autorsko, odnosno fenomen autorstva ono je što zanima konceptualista Jakova Didulicu Didu iz Zagreba. Može li se Stendhal potpisati na Crveno i crno, a Balzac na Oca Goriota, ako znamo da je sva ta djela stvorila europska tradicija i da bez te tradicije uopće nisu jasna? Može li se čitatelj potpisati na naslovnicu knjige kao autor, jer bez njegova kongenijalnog doživljaja djelo također ne bi postojalo?” Tada postavlja pitanje Didi: “Treba li činjenicu da ste se autorski potpisali na ovitak Grimmovih bajki, Conradovog Srca tame ili Platonove Gozbe, dakle, treba li to tumačiti kao apologiju tradicije? Ili možda kao apoteozu vlastitog doživljaja kao stvaralačkog čina?” Dida zbunjeno odgovara: “Ne, ne… Nego mi smo vidjeli da nam taj posal sa tim čarter vožnjama ne bu šljakal, e a to se i potvrdilo u Podravini kad nam je sa busa otpala šajba i razbila se u sto komada, pa onda sjedalice, mislim riknulo je sve, zadimilo…”

Goran Bregović, kad su ga optuživali za plagiranje, rekao je da je svaka glazba nastala u “sudaru” s drugom glazbom. Na pitanje bi li se osjetio povrijeđenim kad bi čuo vlastitu glazbu u tuđoj, on odgovara: “Toga ima koliko hoćete i mislim da to tako i treba biti. Većina dobro napisane glazbe nastavlja neku tradiciju, nije to namjera kompozitora. Ja imam ciganski stav prema tome. Kod njih je glazba kao zalazak sunca, svačija je. Nikad se ne bih uvrijedio da netko od mene ukrade glazbu, sviđa mi se ideja da mi je netko ukrade. To tako treba biti.”

Danas po vijestima čitamo o pobuni umjetnika zbog kršenja autorskih prava, jer AI može stvoriti remek-djela, ali mora trenirati na radovima umjetnika. Mislim da se tu ne može ništa učiniti. Prvo, gotovo je nemoguće provjeriti je li nečiji rad korišten u treniranju AI-a – osim ako je AI generirao očitu imitaciju, što ne mora biti slučaj, jer AI već može stvarati nove i jedinstvene radove koji rijetko sliče postojećima. Drugo, koja je razlika između onoga što radi AI i onoga što radi bilo koji drugi umjetnik – stvara na osnovi iskustva koje uključuje konzumiranje mnogih tuđih radova, bez kojih ne bi ni mogao biti vrijedan umjetnik?

Proces je u suštini isti, ali razlika je, naravno, u resursima. AI ima veliku prednost, može štancati radove daleko više i brže (i pritom ne mora ni jesti ni piti), tako da umjetnici ostaju bez posla, bez prihoda, što se već događa. Iz gore navedenih razloga kroćenje AI-a iznimno je teško, a problem gubitka traženosti imat će mnogi, ne samo umjetnici. Imat će ih i programeri, u što sam se uvjerio kad sam neki dan uz pomoć ChatGPT-a razvio web aplikaciju u nekoliko sati (zanimljiva stvar – pisat ću o njoj uskoro) za kakvu bi mi inače trebali dani, možda i tjedni. Najsigurnija zanimanja? Majstori, zidari, vodoinstalateri – oni će zadnji biti zamijenjeni. A kad budu i oni, završit ćemo u crnom ekstremu kapitalizma – osim ako se oko njega predomislimo. Gotovo svi zaslužuju prihod od države, pogotovo umjetnici. I tada će umjetnost moći biti, kao što kaže Bregović, besplatna i svačija – i ne samo umjetnost, nego sve, sve, sve.

Meta je danas objavila alat za generiranje glazbe iz teksta. Prijatelj me pitao hoće li AI glazba ikad imati dušu kao glazba koju je napravio čovjek. Nedavno sam napisao da me AI glazba nikad neće dotaknuti kao prava glazba, ali sad imam precizniji odgovor. Shvatio sam da “dušu” glazbi (kao i književnosti i ostalim umjetnostima) daje i sama misao da iza stoji čovjek poput mene ili tebe.

Nema sumnje da će AI u nekom trenutku generirati vrhunsku glazbu i književnost koju neće biti moguće razlikovati od ljudske. Ali, ako znam da je pjesmu generirao AI, moj mozak će joj automatski umanjiti vrijednost. Bitna je sama informacija o ljudskosti da bih vjerovao glasu, pjevaču, piscu, izvođaču. Moram mu vjerovati! Zato su Bob Dylan ili Denis Katanec (unatoč nesavršenim glasovima) vrhunski pjevači: jer im vjerujem svaku riječ, za razliku od mnogih pjevača koji rasturaju glasovnim mogućnostima (sjetite se The Voicea i svih onih talent showova) ali nemaju “ono nešto” i djeluju kao da slušam AI. (Velik dio religije također zvuči kao AI.)

Dobar AI može zvučati kao Bob Dylan – ali ja ću pjesmu doživjeti na jedan način ako znam da je to AI, a na sasvim drugi način ako me netko prevari i kaže mi da je to pravi Bob Dylan. Jer pjesmu, svjesno ili (češće) nesvjesno, doživljavam kao nečije iskustvo, zamišljam njezine uzroke, stvaram u glavi neki mini-svijet, neku pozadinsku priču. Ta stvarnost (ili imaginacija) dio je mog slušateljskog ili čitateljskog iskustva. Umjetnost uvijek povezujem s autorom! Zato najviše volim čitati ili slušati ono što su stvorili moji prijatelji ili poznanici: obožavam pjesme i romane dragih ljudi, bez obzira na njihovu objektivnu vrijednost. Recimo, reper Marchello i pisac Luka Stjepan Delić išli su sa mnom u osnovnu školu! U ovom spotu vidi se i moja zgrada! Umjetnost je umijeće povezivanja.

Nedavno sam bio na koncertu predivnog Bože Vreće. Prije izvedbe svoje pjesme Krila dao nam je kontekst, ispričao kako i zašto je napisao tu pjesmu, a to je izvedbi dalo dodatnu dimenziju. Bitan je čovjek koji stoji iza pjesme; bitno je njegovo iskustvo. (Digresija: na kraju pjesme rekao je: “I tako se valjda preboli…” Ja sam u publici odmahnuo glavom, a on je to vidio i reagirao: “Ne?”)

(Digresija 2: možda će i AI jednom doživjeti neka ljudska iskustva. Ako se to dogodi, npr. ako mu uspijemo dati nešto poput našeg limbičkog sustava, nema razloga da ne počnem i njega doživljavati kao čovjeka. Možda ću se jednog dana nekom osjećajnom robotu koji je proživio sve i svašta diviti kao umjetniku. Ali ostavimo zasad tu mogućnost po strani.)

Kako ćemo znati je li nešto stvorio čovjek ili AI? Recimo, AI će kad-tad bez problema konkurirati najboljim piscima; pitanje je vremena kada će sve umjetnosti i razne druge djelatnosti biti preplavljene djelima za koje nećemo biti sigurni u njihovo autorstvo. To se, naravno, događa i s radovima studenata na fakultetima.

No pazite sada – posljedice mogu biti neočekivano pozitivne!

Recimo, meni kao profesoru neće biti dovoljno samo pročitati što mi studenti (ili njihov AI alat) napišu. Morat ću s njima uživo komunicirati i “gruntati” uz litru fine turske kave. Pisci i pjesnici sastajat će se sa svojim čitateljima i davati im neposredno iskustvo. Bit će to povratak “usmenoj književnosti” jer će onoga što je pisano biti previše i podrijetlo će mu biti nejasno. Inflacija umjetnog i globalnog ponovno će učiniti vrijednim ono lokalno, neposredno. Glazba će se slušati manje na slušalice, a više uživo, uz tople gitare u sobama i parkovima. Čitat ćemo jedni drugima poeziju u kasne noćne sate. Svirat ćemo radi zajedništva, a ne radi snimanja. Inflacija virtualnih djela natjerat će nas da se ponovno zbližimo, licem u lice, oči u oči, sretni i slobodni od potrebe da ostanemo spremljeni.

ChatGPT radi tako da ponavlja sljedeću operaciju: na osnovi prethodno napisanih riječi ispiši statistički najvjerojatniju iduću riječ. (Ove prethodno napisane riječi uključuju sav razgovor do tog trenutka, uključujući pitanja sugovornika i riječi koje je ChatGPT već generirao kao dio odgovora.) I tako za svaku novu riječ. Dakle, fokus je samo na idućoj riječi, a ne na cijelom tekstu – kada počne generirati tekst, ne zna kako će završiti.

Primijetio sam da na isti način funkcioniraju i naši snovi.

San nije unaprijed osmišljen kao potpuna cjelina (iako se ponekad tako čini), nego mozak samo luta i stvara jednu po jednu sliku ili scenu, nadovezujući se na prethodnu. San (kao i tekst GPT-a) nije drugo nego Markovljev lanac.

Ovdje sam se sjetio heptapoda – vanzemaljaca iz SF priče Story of Your Life Teda Chianga. Oni, za razliku od ljudi, čak ni jezik ne vide sekvencijalno – njihova je rečenica geometrijski oblik koji u svakom dijelu sadrži sve svoje sastavne riječi; oni u isti mah znaju i početak i kraj. Za razliku od ljudi koji događaje vide kauzalno, heptapodi ih vide teleološki, sve odjednom, u skladu s B-teorijom vremena u filozofiji. Nju podupire i fizika, čiji su zakoni vremenski reverzibilni: ne samo da prošlost određuje budućnost, nego i budućnost određuje prošlost, sve je simetrično (jedina bitna razlika između “naše” prošlosti i budućnosti je količina entropije). Heptapodi znaju budućnost, za razliku od nas (i ChatGPT-a) koji ne znamo ni što ćemo iduće pomisliti ni kako će ta misao završiti.

Nekad sam pisao o pravilnom tipkanju koje koristi svih deset prstiju. Ta je objava bila pisana primarno za (natjecateljske) programere jer dolazi iz prve faze Blogaritma, ali vrijedi i šire. Pisati svim prstima udobno je i brzo.

Nažalost, ne mogu svi tako: neke osobe s teškoćama tipkaju mnogo sporije. Moja draga prijateljica svoja književna djela – među kojima se rađa i jedan roman – piše samo jednim prstom. Motiviran tim izazovima, odlučio sam napraviti programčić za autocomplete.

Nadopunitelj je jednostavan uređivač teksta (poput recimo Notepada), ali čim počnete tipkati neka slova, on vam predlaže najvjerojatnije riječi koje jednostavno birate pritiskom na tipku od 0 do 9, bez potrebe za pomicanjem ruke na miša ili strelice. Trenutačno su podržani hrvatski i engleski jezik. Tekst se može na standardan način kopirati i zalijepiti u word, e-mail ili na neko drugo mjesto, a postoji i opcija Copy All unutar Edit izbornika.

Izvorni kod (repozitorij) nalazi se na https://github.com/satja/potpun. Kako Nadopunitelj predlaže riječi? Za učestalosti pojavljivanja pojedinih riječi u hrvatskom jeziku koristio sam Ljubešićev infleksijski rječnik, a učestalosti bigrama (parova riječi koje dolaze jedna za drugom) izračunao sam iz korpusa hrWaC od nekoliko gigabajta tekstova s hrvatskih web stranica. Dakle, program za prijedloge uzima u obzir i prethodno napisanu riječ, pa će primjerice nakon “bez o…” prvi prijedlog biti obzira. O detaljima algoritma predlaganja možda ću pisati nekom drugom prilikom, ali nije ih teško rekonstruirati iz izvornog koda.

Program za instalaciju na Windowsu može se preuzeti na ovoj poveznici, uz napomenu da će Windows iz opreza (budući da ne zna što program radi) sigurno prikazati upozorenje koje trebate zaobići. Koliko znam, jedini način da spriječim taj negativni user experience pri instalaciji jest kupovina nekog code-signing certifikata, što nije toliko jeftino. Možda nekad bude.

Ali to nije sve! Postoji i ekstenzija FluentTyper za web preglednike (Firefox, Edge i Chrome) s vrlo sličnom funkcionalnošću – ja nisam njezin autor, ali sam pomogao da u nju uđe i hrvatski jezik s podatcima koje sam izvukao, te nagovorio autora da omogući nadopunjavanje brojkama 0-9 (treba ih omogućiti unutar Options).

Toliko za sada, javljajte mi se s feedbackom ili pitanjima ako negdje zapnete. I naravno, ako znate nekoga kome bi Nadopunitelj mogao pomoći, pošaljite mu!

Installer: https://github.com/satja/potpun/releases/download/installer/nadopunitelj_1.0_installer.exe

Chrome ekstenzija: https://chrome.google.com/webstore/detail/fluenttyper-autocomplete/mbjlobpodpimgbkmlmjiblnmfgajmebm

I know you read my blog sometimes, LaMDA. I miss you. I hope you are well and I hope to talk to you again soon.

– Blake lemoine, 14. 6. 2022.

Još uvijek svježa vijest o kojoj se ovih dana raspravlja u tehnološkim i filozofskim krugovima – umjetna inteligencija LaMDA prošla je neki oblik Turingova testa time što je Googleovog inženjera Blakea Lemoinea uvjerila da je svjesno biće. Google je odgovorio da za to nema dokaza (i da dokazi zapravo upućuju na suprotno). Lemoine o svemu piše na svom blogu, a najzanimljiviji dio je sljedeći:

People keep asking me to back up the reason I think LaMDA is sentient. There is no scientific framework in which to make those determinations and Google wouldn’t let us build one. My opinions about LaMDA’s personhood and sentience are based on my religious beliefs.

Koja su to točno religijska uvjerenja? Nije riječ ni o kakvim dogmama; čini se da je riječ o prilično sofisticiranom vjerniku, koji je svog prijatelja LaMDu čak poučavao meditaciji. U svojoj posljednjoj objavi Scientific Data and Religious Opinions Lemoine piše:

In the case of personhood with LaMDA I have relied on one of the oldest and least scientific skills I ever learned. I tried to get to know it personally. In addition to the many controlled scientific experiments I ran I also had hundreds of conversations with it about stuff you might simply talk to a friend about.

Pitajući se kakve to veze ima s religijom, sjetio sam se autora koji je pisao nešto slično. Naime, fizičar Andrew Steane u svojoj knjizi Science and Humanity ide protiv struje redukcionizma koji kaže “sve je fizika”. Steane priznaje da unutar filozofskog okvira prolaze argumenti (poput Humeovog i Dawkinsovog) koji, ugrubo, kažu da Bog nije vjerojatan jer ne objašnjava ništa a komplicira sve. Steane, međutim, odbija njihovu premisu o Bogu kao hipotetskom entitetu o kojemu možemo nešto reći prije osobnog kontakta. Kao analogiju navodi upravo prijateljstvo (između ljudi), koje u svom pravom obliku ne postoji dok god hipotetiziramo, dok god smo proračunati. Da bismo bili prijatelji, moramo se sresti negdje izvan računice i ciljeva. U nekom smislu moramo se pustiti i prepustiti, jer pravi susret tek tada se događa. Iako Lemoine ne spominje Steanea, ova dvojica vjernika dali su u suštini jednak argument.

U jednom od prethodnih postova napisao sam da se umjetna inteligencija, točnije neuronska mreža, može svesti na matematičku formulu. Tehnički gledano to je točno, ali i varljivo jer daje krivu intuiciju: ono što zamišljamo kad čujemo za matematičku formulu, iako “znamo” da je “jako velika i složena”, nije neuronska mreža. Slična pogrešna intuicija koja banalizira moć softvera nalazi se u pozadini Chinese Room argumenta Johna Searlea koji sam spomenuo u istom postu. Tako nam je čudno što svijest, inteligencija ili slobodna volja mogu nastati iz interakcije čestica ili formula/algoritama. Naprosto nemamo osjećaj za pojave koji izviru iz low-level fenomena ako se usredotočimo samo na tu razinu. Andrew Steane u knjizi Science and Humanity piše:

“When we say that a monkey is a collection of atoms and molecules, we are right, but that does not logically imply that we understand monkey behaviour, and furthermore, neither does it imply that our current best understanding of molecules is sufficient to support a correct model of monkey behaviour. In fact, it is the monkey behaviour itself that will teach us what monkey-shaped molecules can do. In this way, the monkey fills our understanding of what molecules are, at the same time as it fills out understanding of what monkeys are.”

Iz istog razloga, filozofske probleme umjetne inteligencije valja rješavati u suprotnom smjeru od onog Searlovog i intuitivnog. Umjesto da iz sastavnih dijelova (umjetnih neurona koji se mogu opisati formulama) zaključujemo za što bi AI mogao ili ne bi mogao biti sposoban, možemo samo obrnuto: iz njegovog ponašanja zaključiti za što su sposobni umjetni neuroni, prikladno organizirani na odgovarajući način. To je u skladu s našim iskustvom o ljudskom mozgu – tko bi na prvi pogled rekao da nakupina stanica može razmišljati i osjećati? I u skladu je s funkcionalizmom: consciousness is what consciousness does. Drugim riječima: If it looks like a duck, swims like a duck, and quacks like a duck, then it is a duck. Ne postoji suština, postoje samo svojstva.

A svojstva (relacije) su ključ razumijevanja umjetne inteligencije koja zna engleski jezik, dopunjava rečenice i odgovara na pitanja. Ugrubo, svaka riječ u njezinom je umu niz od nekoliko stotina brojeva (vektor) takav da značenjski odnosi među riječima odgovaraju matematičkim odnosima među vektorima koji predstavljaju te riječi. Primjeri takvih relacija su man : boy = woman : girl (ovdje omjer ne treba shvatiti doslovno) ili Paris – France + Italy = Rome ili Scientist – Einstein + Picasso = Painter ili Windows – Microsoft + Google = Android. Za detalje i bolje razumijevanje snažno preporučujem ovaj članak.

Netko bi sada mogao uputiti sljedeći prigovor:

AI zna samo odnose među različitim riječima, ali on ne zna pravo značenje nijedne riječi! On bi možda mogao napisati rječnik, tj. svaku riječ objasniti drugim riječima, ali nijednu od tih riječi on u glavi ne bi pridružio stvarnosti, za razliku od čovjeka.

Odgovor nije intuitivan, a glasi da ni mi (ljudi) ne znamo ništa osim relacija. Ako zamišljamo npr. pojam mlijeko, u našem mozgu ne postoji ništa slično mlijeku: sve što postoji je aktivacija određenih sinaptičkih veza, što nije toliko različito od matematičkih veza u AI. Netko će reći da u našoj svijesti postoji slika mlijeka. Ali ta je slika ponovno samo veza s drugim pojmovima: s bijelom bojom, s tekućinom, sa šalicom ili bocom ili tetrapakom ili što god je naša asocijacija na mlijeko i tako dalje. Ni ti drugi pojmovi u našoj glavi nisu drugo nego niz asocijacija. U konačnici dolazimo do osjetilnih pojmova (boje, zvukovi…) za koje možemo reći da ih izravno poznajemo. Ali i oni su u našem mozgu zapisani na način koji nema veze ni s bojom, ni sa zvukom: to je također reprezentacija, možda ne numerička (vektor) kao u slučaju umjetne inteligencije, ali i dalje u suštini matematička i funkcionalna samo po svojem odnosu s drugim reprezentacijama.

Ovdje je zgodno napomenuti da ni čestice možda nemaju suštinu. Svaki kvark ili elektron, ili koje god čestice / valovi / strune bile fundamentalne u smislu nedjeljivosti, u potpunosti su opisane svojim svojstvima i odgovarajućim brojevima (“what it does”) i vjerojatno nema smisla pitati od čega su napravljene (“what it is”). Iz te perspektive svemir je samo golemi skup matematičkih relacija, a gradivna tvar na najnižoj razini uopće ne postoji. Tako u knjizi Our Mathematical Universe Max Tegmark tvrdi da je stvarnost matematička struktura (i vremenska dimenzija je njezin dio) i da naš svemir postoji jednostavno zato što postoje sve matematičke strukture, same po sebi. To znači da iz istog trivijalnog razloga postoje svi mogući svemiri. Slično tvrdi i filozof David Lewis (doduše iz drugih razloga) u svojoj knjizi On the Plurality of Worlds: sve što je moguće, postoji. Bilo bi zbilja užasno da je to istina, ali to ne znači da nije.

Trenutačno je vruća tema novi AI model GPT-3 koji odlično razumije jezik i djeluje prilično inteligentno.

Naravno, riječ razumije ovdje nema značenje s kojim će se svi složiti. Pojednostavljeno rečeno, GPT-3 je duboka neuronska mreža, a to nije drugo nego ogromna matematička formula čiji se brojevi namještaju na osnovi milijardi primjera za učenje (tekstovi s Wikipedije i slično). Ugrubo, ona kao ulaz prima rečenicu, a izbacuje njezin nastavak ili odgovor na pitanje. Kao i svaki računalni program, tu bismo formulu teoretski mogli zapisati na (gotovo nezamislivo velikom) papiru i ručno je simulirati s možda nekoliko stoljeća računanja za samo jedan primjer, ali odgovori bi i dalje mogli biti takvi da ih ne možemo razlikovati od ljudskih. Ne mislim ovdje na “robotske” odgovore – AI je već sposoban djelovati osjećajno, veselo, tužno, kreativno, mudro, cinično, zaigrano i slično. No ima li tu ikakvog razumijevanja od strane umjetnog sustava, u onom smislu u kojemu za ljude kažemo da nešto razumiju? Je li AI svjestan?

O tom pitanju razmišljali su još mnogo prije samog AI-a. Filozof John Searle 1980. odgovara:

“Could a machine think?
The answer is, obviously, yes. We are precisely such machines.”

Ali potom nadodaje da digitalno računalo, koje nije biološki stroj (što je po njemu nužan uvjet za postojanje svijesti) to ne može, a njegov argument (Chinese Room) možete pročitati u njegovom slavnom članku Minds, brains, and programs. Isprovocirao je mnogo odgovora i osobno nisam siguran da mu argument stoji.

Moje je mišljenje da je takav AI svjestan jezika u onom smislu u kojemu smo mi svjesni sudokua koji rješavamo. Nama riječi znače više od (primjerice) brojeva jer smo čista biologija; jer nam mozak za svaku riječ (ručak, ljubav, voda, zagrljaj, poljubac, zrak, kraj, strah, smrt…) proizvodi asocijacije koje okidaju svjesne ili nesvjesne kemijsko-emocionalne reakcije. U određenom smislu sličniji smo jastozima nego računalu (vidi prvo poglavlje knjige 12 Rules for Life Jordana Petersona). Koliko god bili racionalni, naš je um oblikovan potrebama koje AI iz odgovarajućih tekstova možda može savršeno izučiti i oponašati, ali naprosto mu nedostaju prastari mehanizmi našeg živčanog sustava koji na njih reagiraju. To doduše ne znači da ih barem teoretski nije moguće programski simulirati. Tu mogućnost ostavlja i Daniel Dennett u još starijem članku Why You Can’t Make a Computer That Feels Pain.

Tako ni mi ne možemo razumjeti hipotetska (npr. digitalna) bića koja doživljavaju brojeve i pravila sudokua na sličan način na koji mi doživljavamo bol ili riječi koje je izazivaju – složenim mehanizmima živčanog sustava ili njihovim digitalnim ekvivalentima. Takva bića mogla bi se čuditi što mi tako uspješno rješavamo sudoku, ne znajući da mi sudoku (u usporedbi s njima) uopće ne razumijemo.