Veštačka inteligencija i kraj ljudskih pisaca Ako mašina može da nauči da piše kao čovek, šta to govori o prirodi ljudske kreativnosti? I da li je veštačka inteligencija najveća pretnja po radna mesta, čak i u oblasti umetnosti i književnosti?

Najmučnija, najomamljujuća stvar kod pisanja je neizvesnost – i ne mislim na to ‘da li iko čita’ i ‘da li ću imati dovoljno za rentu’. Neizvesnost o kojoj govorim u stopu prati sam taj čin. Evo, ovaj rad na pisanju eseja, na primer – koji od deset hiljada mogućih uvoda izabrati – i kako zanemariti osećaj od kojeg se preznojavaš da je neki nevidljivi, još neosmišljeni deset hiljada i prvi uvod onaj pravi? Koje konce povući, ne znajući kuda vode, a koje ne dirati? Koje ideje pokupiti usput, maziti i polirati i predstaviti nepoznatom čitaocu? Kako znati koja rečenica je najbolja da bude sledeća, ili čak koja reč? Pronicljivi čitalac će primetiti da se žalim na suštinu samog pisanja, a to je bila dugogodišnja privilegija pisaca – i oni su u tome uživali u sigurnoj udobnosti svoje izuzetnosti. Ko će drugi da piše, ako ne pisci koji gunđaju zbog pisanja?

Sada nam dolaze jezički softveri, sa sumnjivo uobičajenim ili mitopoetičkim imenima kao što su ChatGPT ili Bard, koji ni najmanje ne pate od spisateljske nesigurnosti. Kroz ono što se može nazvati samo činovima vomitusa, oni mogu da štancuju priručnike za upotrebu, kratke priče, akademske eseje, sonete, scenarije, propagandne tekstove ili kolumne u roku od nekoliko sekundi nakon što su zatraženi. Kao što Naomi S. Baron ističe u svojoj knjizi Ko je ovo napisao? (Who Wrote This?) čitaoci nisu uvek u stanju da razaberu da li je neki tekst stvorio čovek koji se mučio oko sintakse ili on dolazi iz unutrašnjosti mašine koja ne zastajkuje. (Vilijam Blejk, ispostavilo se, zvuči ljudski, ali Gertruda Stajn ne.) Ovo uznemiruje Baron, lingvistkinju koji već decenijama piše o sudbini čitanja. I izgleda da nije dugog veka uteha to što u nekim testovima ljudi i dalje ispravno prepoznaju da li je autor veštački. Neumoljivo, u verziji za verzijom, veštačka inteligencija će se poboljšavati. U nekom trenutku, moramo pretpostaviti, oni će tako temeljno savladati Blejkovu metriku i mnoge druge glasove da će stvarati output – ovaj mehanički termin je jedini prikladan – koji će biti nerazlučiv od našeg.

Naravno, ovo nas zbunjuje. Ako kompjuter može da piše kao čovek, šta to govori o prirodi naše sopstvene kreativnosti? Šta nas, ako ništa drugo, izdvaja? I ako veštačka inteligencija zaista potiskuje ljudsko pisanje, šta će ljudi – i čitaoci i pisci – izgubiti? Ulozi su ogromni, i kao da zasenjuju svaki prethodni talas automatizacije. Pismeno izražavanje nas je promenio kao civilizaciju; to nam je toliko jasno da koristimo pronalazak pisanja da razgraničimo prošlost na praistoriju i istoriju. Erozija pisanja obećava da će biti podjednako značajna.

Strašno pojednostavljeno, izostavljajući pominjanje vektorskih prostora i arhitekture transformatora, evo kako funkcioniše moderan veliki jezički model, ili LLM. Pošto LLM nije izašao na ulicu da vidi automobile kako se zaustavljaju na semaforima, ne može da se uhvati bilo kakvu iskustvenu istinu u rečenici: „BMW se zaustavio na crvenom svetlu“. Ali hranjen je gomilama i gomilama pisanog materijala – 300 milijardi reči, u slučaju ChatGPT 3.5 – i treniran je da uočava obrasce. Takođe je programiran da igra jednu matematičku igru, da pokušava da predvidi sledeću reč u rečenici izvornog teksta i ispravlja ili pojačava te pretpostavke kako napreduje kroz tekst. Ako LLM igra igru dovoljno dugo, sa preko 300 milijardi reči, on simulira nešto poput razumevanja samog po sebi: dovoljno da se utvrdi da je BMW neka vrsta automobila, da je „crveno svetlo“ sinonim za „semafor“, i da je ta rečenica tačnija, što se tiče stvarnog sveta, od „BMW je plesao na crvenom svetlu“. Koristeći iste algoritmove za predviđanje, LLM izbacuje sopstvene uverljive rečenice, reči, fraze ili ideje odabrane na osnovu toga koliko često se u njegovom korpusu pojavljuju jedna blizu druge. Sva poklapanja su šablonska. Sve je – čak i poezija – matematika.

U smislu distributivne inteligencije, postoji nešto što je demokratizujuće i destabilišuće – podmukao, ali egalitaran način ubistva autora.

Još uvek ne znamo tačno kako ljudi razumeju jezik, iako znamo da to ne rade na način na koji to radi LLM; nijedno dete za koje znam nije usvojilo 300 milijardi reči pre nego što je izgovorilo „mama“. Ali u svojoj kratkoj novoj knjizi Teorija književnosti za robote  (Literary Theory for Robots) Denis Ji Tenen, vanredni profesor engleskog na Univerzitetu Kolumbija, sugeriše da način na koji koristimo jezik za stvaranje književnih dela ima neke sličnosti sa mašinama. „Razmišljanje i pisanje se dešavaju kroz vreme, u dijalogu sa gomilom“, tvrdi Tenen. „Paradoksalno, mi stvaramo novu umetnost oponašajući jedni druge.” Podsvesno ili nekako drugačije, pisac crpi inspiraciju iz biblioteka i razgovora, i crpi pomoć iz rečnika, tezaurusa i priručnika za stil. „Mi mislimo svojim telima, alatima, tekstovima, u okruženju i sa drugim ljudima.” Pisac se manje proračunato oslanja na knjige koje je pročitao nego veštačka inteligencija, ali oni su ga ipak učinili piscem. Uvek je bilo pogrešno, piše Tenen, „zamišljati inteligenciju u istom košu sa individualnim vanserijskim postignućima“ – pasti na bajku o piscu na njegovoj usamljenoj mansardi, kako reči i ideje proizvodi de novo.

U smislu distributivne inteligencije, postoji nešto što je demokratizujuće i destabilišuće – podmukao, ali egalitaran način ubistva autora. Tenen, međutim, insistira na tome da ne treba previše lomiti glavu oko izvora inteligencije. Koga briga da li je naše razmišljanje bliže sintezi LLM-a, a ne božanski predodređenoj originalnosti koju su voleli romantičari, sve dok možemo da izvršimo uticaj na svet? Aristotela svakako nije. „U aristotelovskom modelu“, piše Tenen, „inteligencija je CILJ mišljenja”. (velika slova su Tenenova, a ne moja ili Aristotelova.) Platon je taj koji je smatrao da inteligencija spada u ministarstvo unutrašnjih poslova – lična, maglovita stvar koja je povremeno vodila do prosvetljenja. Možete uzeti bilo kog filozofa.

Čak i na vrhuncu književnog stvaralaštva, pisci fantastike su popustili pred prividnom neizbežnošću rekombinacije. Tenenova istorija autorskih trikova, najbogatiji deo njegove knjige, počinje sa Žoržom Poltijem (Georges Polti), preduzimljivim Francuzom koji je 1895. objavio knjigu pod nazivom Trideset šest dramatičnih situacija (Thirty-Six Dramatic Situations), kako bi pomogao dramskim piscima da pišu nove drame. Kada ste eliminisali molbu, oslobođenje, osvetu, potraga, katastrofu, pobunu i ostalih 30 simptoma ljudskog stanja, rekao je, šta preostaje? (Polti se nije plašio preciznosti: među podtipovima situacije „potraga“ bili su „potraga za pogrešnom ljubavi“ i „pseudoludak koji se bori protiv psihijatra nalik Jagu.“) „Optužiće me da ubijam maštu“, pisao je Polti, ali je zapravo njegov bukvar hteo da oslobodi dramske pisce težnje za pukim novitetom, kako bi se mogli posvetiti istini i lepoti. Mark Tven je izmislio samolepljivu beležnicu za pisce, u koju bi mogli da lepe beleške, isečke iz novina i slike, za kasniju inspiraciju. (Njegova sekretarica je jednom ispunila šest svezaka isečcima o suđenju Tikbornu u Londonu, uključujući bezimenog mesara koji je zahtevao titulu engleskog plemića. Tven je zaključio da je priča previše besmislena da bi bila od koristi „proznom piscu“– ali ona je osnova najnovijeg romana Zejdi Smit, Prevara. (The Fraud)) Kompanije su prodavale uređaje kao što su Chautauqua Literary File i Phillips Automatic Plot File Collector, u koje su pisci stavljali svoje referentne materijale, kako bi kasnije mogli da izvuku postavku, lik, ili osnovu zapleta. Tako je oduvek bilo, implicira Tenen – razmetljiv pristup razmišljanju, kolaž kao modus operandi pisanja. Zašto nas uznemiravaju LLM koji slede iste principe?

Moglo bi se reći da je uvek publika ta koja pronalazi značenje u tekstu – da je knjiga samo gomila reči dok ne izazove reakcije u čitaocima, da čin čitanja priziva knjigu u postojanje.

Kada sam došao do ove tačke u Teoriji književnosti za robote, uputio sam nečujnu, urgentnu molitvu za našu vrstu. Umetnost romana ne leži u kombinovanju detalja i zapleta. Ona počiva u tome kako pisac selektivno filtrira neke od njih kroz sopstvenu svest – svoja razmišljanja, sumu svog života, buku svojih misli – ne bi li osmislio nešto sasvim drugačije i dublje. Ovo, i samo ovo, čini svako delo smislenim za one koji ga čitaju. Veštačka inteligencija budućnosti može ispuniti druga merila za kreativnost. Oni mogu, recimo, postati svesni sebe kao stvaralaca, potvrđujući izreku neurohirurga Džefrija Džefersona da će mašina biti jednaka mozgu kada ne bude samo pisala sonete, već kad bude znala da ih je napisala. Njihova razmišljanja mogu izgledati mutna i nedokučiva kao i razmišljanja ljudi. (Već sada smo pod pritiskom da precizno kažemo kako tačno izgledaju neke halucinacije nastale iz AI.) Ali oni nikada neće imati iskustva kao što mi imamo iskustva, raspravljala sam se sama sa sobom. Ne mogu da izgube prijatelja zbog samoubistva, ili da osete bol uganutog skočnog zgloba, ili da se oduševljavaju prvim pogledom na Kavkaz, ili da postanu frustrirani na poslu, ili da im holandska umetnost izazove radoznalost. (A ovo je samo bila moja 2023. godina.) Svi tekstovi koje oni daju biće suštinski šuplji; neće uspeti da nas zadrže, kao planete bez gravitacije. Ili sam bar tako mislio.

Ali nisam odmakao daleko čitajući knjigu Baron Ko je ovo napisao? kada sam shvatio da se branim – da se zalažem da se napravi specijalno izuzeće u slučaju pisanja i jezika, jer ih smatram tako nepromenljivim aspektima uma i ljudskog bića. Baron, sa nepristrasnim očima činovnika, kreće u deromantizaciju pisanja. Ona predstavlja klasifikacije kreativnosti – u rasponu od „mini k“ kreativnosti ličnog zadovoljstva, gde prilagođavate recept kolača od bresaka na Dan zahvalnosti, preko „malog k“ stepena osvajanja medalje na lokalnom sajmu za navedeni recept, do „Pro K“ profesionalnih kreacija kao što je serijal o Hariju Poteru i „Veliko K“ liga Šekspira i Stiva Džobsa.

Baron se delimično poziva na ove razlike da bi razumela ljudsku kreativnost. Ali nju naročito zanima da li veštačka inteligencija dovodi u opasnost Veliko K. Ona ističe da je visoka umetnost književnog pisanja samo deo celokupnog pisanja koje je čovečanstvo stvorilo. Veći deo ostatka je „svakodnevno pisanje svakodnevnih ljudi“, a uključuje liste namirnica, dnevnike za posmatranje ptica, mejlove, ažuriranja statusa društvenih medija i kancelarijske beleške. Drugi podskup – Baron voli svoje taksonomije – sastoji se od pisanja zarad profesionalne ili finansijske dobiti. Ovde se nalaze reklamni letci, hemijski prajmeri, bele knjige, izveštaji o zaradi i studije poslovnih slučajeva – tekstovi u kojima retko tražimo duboko značenje, kreativnost „Velikog K“ ili ličnu povezanost. Ne samo da će veštačka inteligencija biti u stanju da proizvede ove spisateljske artefakte, već čitalac neće imati akutni osećaj gubitka u otkrivanju odakle su oni došli. Tenen primećuje da, čak i danas, takvi tekstovi već u velikoj meri zamenjuju prethodno pisanje. Zameriti AI zbog toga što se na sličan način oslanjaju na rad drugih bilo bi isto tako glupo kao i odbaciti romanopisca koji koristi lektorske programe da ispravi svoju upotrebu reči „kojeg“ i „koga“.

I Tenen i Baron su oprezni u hvaljenju AI, pozdravljajući njen potencijal da nas oslobodi mnogih „manje značajnih“ oblika pisanja. Ali oni takođe predviđaju da će se više književno pisanje – pisanje Velikog K – odupreti napadima mašina. „Jednostavno je, koliko god bila efikasna ili moćna, mišićna veština zarad veštine nije toliko inteligentna ili interesantna za mene“, kaže Tenen. Za istinski ljudsko pisanje, veštačka inteligencija treba da stekne širi osećaj sveta, dodaje on. „Ali ne može, ako su reči sve što treba da koristi za to.” Mašina ne može (još) da gleda film da bi napisala njegov prikaz, a ne može (takođe još uvek; čovek mora da čuva svoju zadnjicu) da intervjuiše zakonodavce kako bi napisala politički tekst. Sve što proizvodi u ovim žanrovima mora biti spravljeno iz recenzija i intervjua koji su već napisani. Taj nedostatak originalnosti, tvrdi Tenen, zauvek će zadržati istinsku kreativnost van domašaja veštačke inteligencije.

Ipak, nisam ubeđen do kraja. Moglo bi se reći da je uvek publika ta koja pronalazi značenje u tekstu – da je knjiga samo gomila reči dok ne izazove reakcije u čitaocima, da čin čitanja priziva knjigu u postojanje. Čineći tako, ne vraćamo se samo na teoriju reakcije čitalaca i esej Rolana Barta „Smrt autora“ od pre pola veka. Pre više od jednog milenijuma, indijski filozof Bhata Najaka (Bhatta Nayaka), u književnoj raspravi pod nazivom “Ogledalo srca” (“Mirror of the Heart”), zaključio je da rasa – sanskritski pojam estetskog ukusa – ne počiva u likovima drame već u čitaocu ili gledaocu. „Rasa je tako postala u potpunosti stvar reakcije“, napisao je proučavalac sanskrita Šeldon Polok (Sheldon Pollock) u knjizi Čitalac rase (A Rasa Reader), „i jedino je preostalo pitanje od čega se tačno ta reakcija sastoji“.

Pišemo i da bismo pružili ruku, da bismo preneli buru i metež iz naših duša, dakle da nas drugi bolje vide i da kroz nas vide sebe.

Bhata Najaka bi nam danas, promišljajući odnos između naših veštačkih inteligencija i nas, postavio neprijatno pitanje. Ako, u testu ukusa naslepo, neke čitaoce dirne pesma ili kratka priča od strane ChatGPT-a, da li ćemo nastaviti da cenimo njihovo iskustvo i smatramo da je njihova reakcija važnija od bilo čega drugog? To će se sigurno dogoditi, u nekom trenutku – a kompjuteri čak ne moraju da poseduju svest da bi uspeli u tome. Alan Tjuring je to znao. U svom radu iz 1950. godine, kada je predložio istraživanje u vezi sa pitanjem „Mogu li mašine da misle?“ Tjuring je brzo skrenuo u pitanje da li mašine mogu da igraju igru imitacije – da li mogu samo da zavaraju ljudska bića da pomisle kako mašine razmišljaju. Ishod je, u praktičnom smislu, isti – a razlika između pokretanja i zavaravanja nije tako velika kao što bismo želeli da verujemo.

Toliko o čitaocima. Ali šta je sa piscima? XX vek je zatrpan praznim stolicama i bačenim uniformama radnika čiji su poslovi automatizovani. Ljudske ruke su nekada punile kobasice, zavarivale automobile i prenosile pozive u telefonskim centralama. Još jednom, primamljivo je tražiti izuzeće u slučaju pisanja. „Pošto su um i jezik naša specifičnost, volimo da se pretvaramo da su izuzeti iz istorije rada“, primećuje Tenen. Ali „intelekt zahteva veštinu, a samim tim i rad“. U komercijalnoj sferi, mnogo pisanja nije tako daleko od pravljenja kobasica – a mašine su već počele da zadiru u to polje. Prodavci nekretnina koriste ChatGPT da izvuku popise kuća. Associated Press se okreće modelima veštačke inteligencije za pravljenje izveštaja o korporativnoj zaradi. Kontekst, alatka koju poseduje LexisNexis, čita sudske odluke, a zatim nudi advokatima svoj „najubedljiviji argument, koristeći tačan jezik i mišljenje koje vaš sudija najčešće citira“. Kada uzmete u obzir da neke presude sada sastavlja veštačka inteligencija, čini se da je pravna profesija na ivici da se pretvori u mašine koje raspravljaju jedna s drugom kako bi odlučile o sudbini ljudskih bića.

Nema svrhe biti snob i reći za ovakve vrste pisanja da su nezahvalne, jer su se njima bavili ljudi koji su bili zahvalni na prihodima. Otprilike 13% američkih poslova podrazumeva intenzivno pisanje, a oni zarađuju više od 675 milijardi dolara godišnje. Mnogi od ovih poslova će verovatno nestati, ali kada se ovo predstavlja kao zabrinutost, oni koji zagovaraju automatizaciju imaju standardni leksikon oslobođenja. „Oslobođeni ropstva erudicije, današnji spisatelji i naučnici mogu sebi da daju kreativnije zadatke“, piše Tenen. Da je izgovorio tu rečenicu, možda bi je završio nekom uzvičnom, optimističnom intonacijom? Zato što malo šta u vezi sa modernom ekonomijom sugeriše da ona želi da podrži čak i kreativne pisce koji već žive u njoj, a kamoli hiljade na ivici emancipacije od strane veštačke inteligencije.

Međutim, navodno postoji sloboda i za romansijere i pesnike. U jednom od scenarija Baron, AI alati pružaju božansku iskru: „Razmislite o brzom pokretanju akumulatora u automobilu.” Ali automobili se svaki put pale na isti način i zapravo samo treba da stignu do svog odredišta. Za pisce, koliko god otrcano zvučalo, radi se o početku i putovanju. U opominjućoj paraboli o Dženifer Lep (Jennifer Lepp), kako je ispričao Baron, spisateljica je zbog ignorisanja prestala da piše. Lep, mala proizvođačica koja svakih devet nedelja otkriva novu paranormalnu misteriju, angažovala je AI model po imenu Sudowrite kao asistenta. U početku joj je Sudowrite pomagao u kratkim opisima, ali postepeno, kako mu je ona dopuštala da radi sve više i više, „prestala je da oseća da je uživljena u svoje likove i zaplete. Više nije sanjala o njima“, piše Baron. Lep je za The Verge rekla: „Nisam to više osećala kao nešto moje. Bilo je veoma neprijatno kada bih pregledala šta sam napisala i kada ne bih osetila neku povezanost sa rečima ili idejama.”

Evo, konačno, strašne suštine: veštačka inteligencija preti da nam uništi – mnogima od nas kojih je više nego što bismo mogli da pretpostavimo – ne blagotvornost čitanja, već pisanja. Ne slikamo svi ili ne pravimo muziku svi, ali svi na neki način formulišemo jezik, u velikoj meri kroz pisanje. Čak i najobičnije pisanje kojim se bavimo – vežbanje kurziva, tekstualne poruke, beleške na marginama, razglednice, svi bedni otpaci našeg uma – čini nas boljim. Učenje pravilnog pisanja reči, prema mnogim istraživačkim studijama, čini nas boljim čitaocima. Pisanje rukom utiskuje nove informacije u mozak i pokreće više ideja (opet: nekoliko studija). A postojano pisanje bilo koje vrste – kredom na steni, ili olovkom dugačkom metar, pa čak i na laptopu – podstiče kontemplaciju. Čitavih pola stranice Baronove knjige ispunjeno je varijacijama ovog pojedinačnog osećanja, u rasponu od „Nikad ništa ne razumem dok ne pišem o tome“ prema rečima Horasa Volpola (Horace Walpole) do „Pišem u potpunosti zato da bih saznala šta mislim, šta gledam, šta vidim i šta to znači” Džoan Didion (Joan Didion). Ponekad je i to prolog. Pišemo i da bismo pružili ruku, da bismo preneli buru i metež iz naših duša, dakle da nas drugi bolje vide i da kroz nas vide sebe. Teškoće u pisanju – prokleta nesigurnost koja čupa nerve i nokte – ono su što nas tera da otkrijemo bilo šta od značaja i za pisce i za njihove čitaoce. Kada bi nas veštačka inteligencija lišila svega toga, to bi značilo da nas je doslovno ostavila bez reči, bez misli, bez sopstva. Pre ću odabrati počupane živce i nokte.

Tekst: Samanth Subramanian
Izvor: newrepublic.com
Prevod: Danilo Lučić
Ilustracija: free-vectors.net

Pročitajte i tekst o japanskoj spisateljici koja je priznala da je koristila ChatGPT za pisanje svog nagrađenog romana, kao i tekst o tome zašto Noam Čomski misli da je ChatGPT opasan.