Italijanski romanopisac Italo Kalvino bio je neobično optimističan u vezi sa izumom “mašine za književnost.” U svom eseju iz 1967. godine „Kibernetika i duhovi“ zamišlja računar „sposoban da osmišljava i piše poeziju i romane,“ stavljajući na stranice ono što ljudi „obično smatraju najljubomornije čuvanim atributima naše psihološke stvarnosti.“ Za Kalvina, književnost je jednostavno „kombinatorička igra koja istražuje mogućnosti sadržane u svom materijalu, nezavisno od ličnosti“ pisca. Čitajući njegove misli danas, Kalvinova predviđanja – „provokativna i čak bogohulna“ u svoje vreme, kako je i sam priznao – deluju zapanjujuće pronicljivo.
Kalvino je um upoređivao s mašinom. Verovao je da pisci „već jesu mašine za pisanje, ili to barem postaju kada im dobro ide pisanje.“ Ova računarska teorija uma s vremenom je stekla popularnost, koju su podržali istraživači kognitivne nauke, filozofi i, najskorije i možda najrevnosnije, zagovornici veštačke inteligencije. Neki od njih su ovu ideju prihvatili do krajnjih granica, tvrdeći da će široka upotreba generativnih AI modela „demokratizovati“ umetnost i proces njenog stvaranja, čineći manuelnu proizvodnju umetnosti irelevantnom i nepotrebnom. Zašto slikati pejzaž kada možete zamoliti računar da to učini umesto vas?
Nemoguće je sa sigurnošću reći da li bi Kalvino prigrlio generativnu AI tehnologiju. Ali da je poživeo da vidi pojavu velikih jezičkih modela poput ChatGPT-a, verujem da bi rado rekao zbogom autoru, „toj anahronoj ličnosti (…) tom razmaženom detetu neznanja.“ Umesto toga, veličao bi čitaoca. „Kada jednom rastavimo i ponovo sastavimo proces književne kompozicije,“ napisao je, „odlučujući trenutak književnog života biće čin čitanja.“ Književnost bi, dakle, svoju kulturnu relevantnost postigla kroz ljudskog čitaoca, čiji pogled preobražava napisanu reč u društveni dijalog. Bez obzira na to da li je autor čovek ili mašina, „dela će i dalje nastajati.“ Čitalac mora uvek biti ljudsko biće; autor ne nužno.
Danas je gotovo uzaludno pokušavati utvrditi da li je neki tekst na internetu napisao čovek ili chatbot. Možda mislite da tekst zvuči banalno, šablonski ili „naštancovano,“ ali zar mnogo ljudskog pisanja nije upravo takvo? U tekstu samom postoji malo dokaza koji bi ukazali na njegovu mašinsku prirodu, za razliku od slika proizvedenih alatima poput DALL-E, Stable Diffusion ili Midjourney. U trenucima sumnje, setim se čuvene rečenice Gertrude Stajn „Ruža je ruža je ruža.“ Zar reč nije reč – uvek reč – bez obzira na to ko ju je, ili šta, napisao? Ako je tako, šta uspon generativne AI znači za književnost? Treba li autori pesama i romana da na chatbotove gledaju kao na kreativne saradnike ili kao na formalne okvire koji ograničavaju ono što se piše? I kako da procenimo da li je rad mašine vredan čitanja?
Ova pitanja me muče otkako je ChatGPT lansiran prošle jeseni (ovaj tekst je izvorno objavljen u oktobru 2023, prim. prev), a ponovo su se javila nedavno, nakon objavljivanja tri romana koja sadrže mašinski generisan tekst: Da li se sećate rođenja? Šona Majklsa (Do You Remember Being Born?), Smrt autora Stivena Marša (Death of an Author, objavljena pod pseudonimom Ajdan Maršin) i Nacrt vazdušnog doba K. Alada-Makdauela (Air Age Blueprint).
Veliki jezički modeli (LLM) koji stoje iza današnjih chatbotova pokreću algoritmi dubokog učenja, obučeni na ogromnim količinama teksta kako bi obrađivali, predviđali i oblikovali odgovore na pisane upite korisnika. Iako simuliraju ljudsku autonomiju, oslanjaju se na veliku količinu skrivene ljudske radne snage. Naime, LLM-ovi su dizajnirani da vremenom poboljšavaju svoje rezultate na osnovu unosa i povratnih informacija od ljudskih korisnika. Na primer, ChatGPT može generisati prozu, recepte, poeziju, kod, reklame, akademske eseje, tekstove za društvene mreže – praktično bilo koju vrstu zamislivog teksta, u bilo kom stilu. Međutim, bez pažljivih uputstava, kvalitet prosečnog rezultata često je osrednji i monoton. U svom uobičajenom tonu, bot piše nalik istraživačkom radu srednjoškolca, što i nije iznenađujuće s obzirom na to na čemu je ChatGPT treniran: širokom i nedoslednom rasponu proznih podataka sa različitih izvora na internetu, od Reddit foruma i fanfiction sajtova do ljubavnih romana iz XIX veka.
Ipak, za pisce je kreativni potencijal ovih „mašina za reči“ uznemirujuć. Dominantan stav prema pretećoj opasnosti od kreativne supstitucije jeste odbojan i neprijateljski. Kritike LLM-ova variraju od razborite skepse do otvorene antipatije; mašinski generisana dela uglavnom se posmatraju kao eksperimenti, a ne kao „prava“ književnost. S obzirom na to da je većina modela obučena na tekstovima koje su stvorili ljudi, često bez dozvole, neki tvrde da korišćenje ChatGPT-a nije pisanje, već plagijat.
jezički modeli imaju „generativni“ efekat na sadržaj romana, imitirajući tekstualne inpute koje pružaju ljudski autori, ali kakav oblik dobija ovaj mimetički (i prediktivni) autput zavisi od ljudskog urednika.
Ovde ću ostaviti po strani (važna) pitanja etike privatne izrade i distribucije ovih alata. U početku me je zanimala eksperimentalna smelost ovih romana i pitanje da li veštačka inteligencija može pisati „dobro.“ Naravno, u književnom okruženju gde sudbinu romana određuju bombastične preporuke i marketinški trikovi izdavača, sama upotreba veštačke inteligencije može poslužiti kao jednostavna marketinška strategija; radoznalost u vezi sa kvalitetom pogoduje prodaji i klikovima. U većini dosadašnjih kritika romana koji imaju veze sa veštačkom inteligencijom, ljudski kritičar liči na lovačkog psa koji prati trag nespretno sročenih fraza ili suvišnih pasusa, tražeći nešto što potvrđuje našu superiornost u domenu jezika. Možemo li postaviti drugačije pitanje? Mislim da možemo. Kao prvi korak, ne bi trebalo da mašinski generisana dela trpamo pod nejasne kategorije poput „AI pisanje“ ili, još gore, „roman veštačke inteligencije“ – kategorije koje daju zasluge računaru i zanemaruju ulogu ljudskog autora u usmeravanju, organizovanju, revidiranju i pisanju tog dela. Termin „programska“ ili „računarska“ književnost mogao bi biti prikladniji.
Pored prisustva i pomoći veštačke inteligencije u generisanju teksta, ovi romani se razlikuju po stilu i strukturi. Smrt autora je kriminalistički roman napisan u trećem licu. Profesor Gas Dupin osumnjičen je za ubistvo poznate kanadske autorke i pionirke informatike Pegi Firmin, koja je ubijena dok je radila na projektu u vezi sa alatom Marlow AI. Da li se sećate rođenja? prati dobitnicu Pulicerove nagrade, pesnikinju Marian Ffarmer, koja dobija ponudu da za pozamašnu nadoknadu sarađuje sa Šarlotom, AI botom za poeziju. Roman, pretežno pisan iz Marijanine perspektive, odvija se tokom sedam dana koje ona provodi u Silikonskoj dolini. Povremeni pasusi u drugom licu, koji opisuju Marijanin privatni život, pružaju uvid u njenu ličnost. Nacrt vazdušnog doba je kolažni roman sastavljen od dnevničkih zapisa u prvom licu i „izgubljenih“ manifesta koje piše njegov neimenovani protagonista, neuspešni filmski stvaralac i pesnik. Dok kreće na putovanje ka zapadu, angažuje ga agent da radi na AI programu i mreži pod nazivom Shaman.AI.
Svi ovi romani imaju odgovarajući naglasak na metafikciji, oslikavajući, možda, našu neurozu u vezi sa distopijskim uplivom velikih tehnoloških kompanija i sudbinom značenja teksta u doba generisanja jezika nalik ljudskom. Protagonisti su sami isprepleteni sa moćnim tehnološkim korporacijama koje razvijaju AI, za koju se ne zna da li će imati katastrofalne posledice po budućnost čovečanstva. Ovo podseća na postmoderne zaplete romana iz osamdesetih, u kojima naratori anksiozno i beskonačno komentarišu mukotrpni proces pisanja, dok pisanje o pisanju funkcioniše kao svojevrsni autopoetički kliše. „Još jedna priča o pisanju priče! Još jedan regressus in infinitum!“ uzvikuje narator Džona Barta u kratkoj priči Life-Story. „Ko ne preferira više umetnost koja barem otvoreno imitira nešto drugo osim sopstvenih procesa?“ pita se tekst u vezi sa procesom sosptvenog nastanka.
Ovi novi romani ostaju bez jednog dela mučne ironije o zadatku pisanja, ali zadržavaju njegov rekursivni efekat: pisanje sa i o veštačkoj inteligenciji dovoljno je novo i kontroverzno da ne mora biti ironično, zbog čega se u tekstovima oseća impuls za opravdavanjem tog kreativnog izbora. U romanu Nacrt vazdušnog doba pojavljuje se tehnološki optimističan agenta po imenu K, za koga se pretpostavlja da je izmišljeni pandan autora Alada-Makdauela, koji smelo izjavljuje: „AI će nam otvoriti nove svetove. Omogućiće nam budućnosti i vremenske linije koje dosad nismo mogli ni da zamislimo. Sve zavisi od toga kako ga dizajniramo i za šta odlučimo da ga koristimo.“ Avatar Pegi Firmin, ubijene spisateljice u Smrti autora, kaže Gasu: „Postati autor znači izjaviti sledeće: ‘Želim da živim van svog tela,’“ objašnjavajući (upozorenje: spojler) da je „morala da napusti [svoje] telo da bi živela izvan njega.“ Pegi, u svojoj smrti, nastavlja da živi kao jezički model za buduće tehnološke naraštaje: „Da nisam umrla, to bih negde napisala.“
U Da li se sećate rođenja? starija pesnikinja odlučuje da „proda dušu“ tehnološkoj kompaniji na zalasku svoje karijere, nakon decenija skromnih prihoda. Roman, koji pruža saosećajan i lirski portret umetnice čiji je zanat „ugrožen“ tehnologijom u nastajanju, predstavlja vešto osmišljenu priču o žrtvama stvaranja umetnosti, umetničkoj saradnji i prirodi majčinstva. Ffarmer, modelovana po modernističkoj pesnikinji Mari En Mur, provela je većinu života pišući poeziju u samoći dok je živela sa svojom majkom kao da joj je sluškinja. Međutim, ona sama bila je uglavnom odsutna majka svom sinu jedincu. Ponuda tehnološke kompanije da napiše zajedničku pesmu uz AI mogla bi biti definišuća za Marijaninu karijeru, ali bi joj takođe, po prvi put, omogućila da pomogne svom sinu da kupi kuću. Kada Marijan u emisiji upitaju da li su pesnici „novi vozači kamiona“ koji rizikuju da budu zamenjeni, ona odgovara sa sedamdesetogodišnjom živošću: „Računari mogu da imitiraju. Ne mogu da izmisle.“ O pisanju poezije s računarom, Marijan razmišlja na sledeći način: „Zapravo postoji nešto gore od prazne strane (…) strana koja se, sama od sebe, ispunjava prazninom.“ Takvi metakomentari prožimaju sve ove romane dozom realizma. Tehnološke ekspozicije povezuju narativ sa specifičnim trenutkom u vremenu – našim vremenom, kada su veliki jezički modeli još uvek nepoznata, ali sveprisutna tehnologija.
Ovo bi mogla biti ključna karakteristika novijih romana generisanih mašinskim putem. Njihovi protagonisti suočavaju se s kontroverznim prisustvom veštačke inteligencije, dok zaplet labavo obrađuje generativne, iako ograničene, mogućnosti AI-a. Pod time mislim na sledeće: jezički modeli imaju „generativni“ efekat na sadržaj romana, imitirajući tekstualne inpute koje pružaju ljudski autori, ali kakav oblik dobija ovaj mimetički (i prediktivni) autput zavisi od ljudskog urednika.
Ako je stvaranje haosa autentično ljudski poriv, onda je krivudavi temperament zapleta možda manifestacija tog impulsa – nečeg suviše haotičnog za mašinu da shvati.
Kibernetika i duhovi (esej Itala Kalvina), II deoImitacija se dešava na više nivoa, pri čemu ljudski pisac i dalje ostaje na autorskom pijedestalu. Veliki jezički modeli (LLM) proizvode mimetičke tekstove koji se zatim rastavljaju, revidiraju i sastavljaju u dijaloge, poetske strofe (Da li se sećate rođenja?), ili guste kibernetičke manifeste (Nacrt vazdušnog doba). Tu je i pitanje imitativnih instinkta ljudskog autora, odraženih u opštem stilu ili žanru romana. Od tri navedena, Smrt autora možda ima najradikalniji pristup: 95% teksta nastalo je uz pomoć tri različita chatbota (ChatGPT, Sudowrite i Cohere), ali knjiga je prilično konvencionalna po pitanju stila i tempa. Otuđeni, brzi narativ podseća na dela kriminalističkih pisaca poput Agate Kristi i Rejmonda Čendlera, koje je Marš proučavao dok se pripremao za pisanje. Marš je više bio menadžer proizvoda ili urednik priče nego autor. Njegovi zadaci uključivali su usmeravanje chatbotova, osmišljavanje zapleta i sklapanje generisanog teksta u koherentnu i privlačnu naraciju. Maršov mozaik podseća na ono što je kritičarka Elizabet Hardvik napisala o zadatku romanopisca: „Gde početi i kako završiti, koliko mora biti uverljivo, a koliko duhovito, zagonetno; kako kombinovati epizodno i pažljivo osmišljeno i uzročno-posledično.“
Gas, proučavalac kriminalističke i sajber fikcije, pozvan je na Firminovu sahranu, gde ga identifikuju kao osumnjičenog za ubistvo. Počinje da istražuje okolnosti njene smrti i dobija poštom jednu od njenih priča, „književnu zagonetku“ koja fikcionalizuje njenu sopstvenu smrt i sahranu. Gas pokušava da razume šta se dogodilo između Firminove i Nila Gibsona, suosnivača Marlow AI-a. Priča je solidna, iako formulaična ; ono što je revolucionarno jeste Maršov proces – ti što je roman napisao praktično unazad, osmišljavajući ton i stil uz odgovarajuću količinu opisa: „Bezmirisna preciznost dima holograma izazvala je kod Gasa čežnju za mirisom, poput svraba na fantomskoj nozi.“ Takođe je ključno, očigledno, bilo Maršovo književno znanje i akademska pozadina. „Da moram da predvidim, rekao bih da će ljudi koji budu stvarali najbolju književnu umetnost uz AI morati da poseduju, najmanje, nivo poznavanja književnosti koji student doktorskih studija komparativne književnosti stiče za opšti ispit“, napisao je Marš u pogovoru ove knjige. Takva književna pronicljivost omogućila bi ljudskom uredniku da odstrani AI-generisane klišee, uspostavi dosledan stil i strukturira priču sa određenim zamahom.
Kao kriminalistička novela, Smrt autora se pokazala kao najbolji formalni slučaj upotrebe AI-a. Jezički modeli više su skloni tradicionalnim ili formulaičnim delima, poput pesama sa zatvorenim metričkim oblicima. Ipak, Marš je priznao da je bilo teško navesti botove da smisle originalan zaplet. Ako je stvaranje haosa, kako je verovao Kalvino, autentično ljudski poriv, onda je krivudavi temperament zapleta („gde početi i gde završiti“) možda manifestacija tog impulsa – nečeg suviše haotičnog za mašinu da shvati.
Jedinstveni autor može biti naveden na koricama, ali stvarnost autorstva često je daleko kolaborativnija i fluidnija nego što čitaoci pretpostavljaju.
Ako bih morao da donesem presudu, rekao bih da Da li se sećate rođenja? daleko nadmašuje svoje rivale. Možda je moja procena zamagljena Majklsovom konzervativnom i promišljenom upotrebom AI-a više kao dopune nego zamene za pisanje, ali proza je izuzetna. Svako poglavlje sadrži pažljiv izbor reči, fraza ili rečenica generisanih mašinom koje se savršeno stapaju s Majklsovim lirskim stilom. Impresionirala me je kontekstualna domišljatost određenih izraza i iznenađujuće slike koje mašina izaziva dok piše kao Marijan. „Pogrešno sam protumačila izliv algoritamskog ushićenja kao istinu.“ U drugom, jezovito pronicljivom slučaju imamo: „Još nas neće izbaciti iz priče.“ Pri kraju romana nalaze se dve stranice koje su, čini se, napisane iz perspektive Šarlote, AI bota za poeziju. Ovde je naracija gotovo nadrealistična i haotična i skače od prepune autobuske stanice do unutrašnjosti limuzine, pa do nekog mesta u šumi, gde je narator „okružen drvećem, mirisom borovih iglica i vlažne zemlje, zvukom sopstvenog daha u ušima.“
Stalno se vraćam na odlomak iz romana Da li se sećate rođenja? gde Marijan razmišlja o tome da li kreativna saradnja pogoduje poeziji. Za Marijan, uglednu pesnikinju, „pesma je bila individualni, a ne timski sport.“ Saradnja preti da umanji njeno delo i njen ego, dva ključna stuba stvaranja njene umetnosti. Međutim, kako Marijan shvata, to za čitaoca nije važno: „Rezultat je bio isti. Zbirka reči, sa jednim autorom ili dvadeset.“ Isto bi se moglo reći i za roman napisan u saradnji s AI-em. Tri chatbota koja je Marš koristio za pisanje Smrti autora nisu diferencirana, a njihovi se doprinosi stapaju na stranicama kako bi dali glas Gasu. (Sasvim je prikladno, dakle, da je Maršova novela ukrala ime iz često citiranog eseja Rolana Barta iz 1967. godine, u kojem se tekst definiše kao „tkivo citata nastalo iz hiljadu izvora kulture.“) Iako Majkls i Alado-Makdauel eksplicitno navode koji delovi teksta su generisani mašinom, ovo otkrivanje funkcioniše poput fusnote, nudeći činjenični kontekst o tekstu – ali s minimalnim uticajem na roman kao narativnu, kompozitnu celinu.
Čitajući Nacrt vazdušnog doba, sa njegovom tehnikom kolaža, podsetila sam se rada kolažiste Džozefa Kornela. Njegovi asamblaži u mešovitim medijima uzdižu pojedinačnu banalnost jednog gotovog predmeta, isečka iz novina ili fotografije iznad njihovog originalnog konteksta. Na primer, ogrlica od perli postaje ključna komponenta tematski organizovanog pejzaža. Ako roman posmatramo kao „tkivo citata,“ tada je svaka rečenica ključni deo tekstualnog pejzaža dela. Ove atomizovane jedinice misli poprimaju neočekivano značenje kada se rasporede određenim redosledom (ponovo Hardvik: „kako kombinovati epizodno i pažljivo osmišljeno i uzročno-posledično“). Nemoguće je proceniti da li Kornelov Omaž Huanu Grisu „funkcioniše“ ako uklonite neke njegove delove: metalni prsten, kanap, papagaja, savijenu poruku. Slično, roman, koji sam po sebi predstavlja slagalicu od hiljadu delova, ne može se dekonstruisati i analizirati izdvojeno.
Na papiru, inherentna polifonija saradnje, ma koliko bila mala, biva potisnuta; jedinstveno „ja“ se rastvara u pisanju. Čak i tradicionalni romani, koji prolaze kroz više krugova revizija urednika i agenata, podležu toj sudbini. Jedinstveni autor može biti naveden na koricama, ali stvarnost autorstva često je daleko kolaborativnija i fluidnija nego što čitaoci pretpostavljaju. Ipak, konačno delo postaje uvezana „zbirka reči,“ celina veća od zbira svojih mnogih delova. Pretpostavljam da je Marš u pravu u svojoj proceni: „Kreativna AI će promeniti sve. Takođe, neće promeniti ništa.“ Dobar roman je dobar roman, jednostavno je tako. Loš roman je takođe loš roman, bez obzira na to ko – ili šta – ga je napisao. Vraćajući se Kalvinu, odrednica kvaliteta romana ostaje čitalac. Trebalo bi, dakle, da zadržimo optimizam u vezi s budućnošću književnosti.
Tekst: Terry Nguyen
Izvor: bostonreview.net
Prevod: Danilo Lučić