MAGNIFICA HUMANITAS

Papa Lav XIV citirao je u enciklici MAGNIFICA HUMANITAS: O OČUVANJU LJUDSKOG LIKA U VREMENU VEŠTAČKE INTELIGENCIJE (2026), jednom od prvih manifesta protiv upotrebe AI/LLM, ove Tolkinove reči:

Nije naša uloga da vladamo svim plimama ovoga sveta, već da učinimo šta je nama u moći za potporu onim godinama u koje smo smešteni, iskorenjujući zlo na poljima koja mi znamo, tako da oni koji će živeti potom mogu čistu zemlju da obrađuju.

(Dž. R. R. Tolkin, POVRATAK KRALJA, „Poslednja rasprava“, prev. Zoran Stanojević; reči izgovara Gandalf).

_______

It is not our part to master all the tides of the world, but to do what is in us for the succour of those years wherein we are set, uprooting the evil in the fields that we know, so that those who live after may have clean earth to till.

(J. R. R. Tolkien, THE RETURN OF THE KING, „The Last Debate“)

Olga Tokarčuk koristi AI

Danas je grozan dan jer je Olga Tokarčuk najavila svoj poslednji roman & priznala da u pisanju koristi LLM. Na forumu Impact CEE 2026 u Poznanju, poljska nobelovka afirmativno je govorila o AI-ju kao izvrsnom oruđu za pisce i kreativce. Između ostalog je rekla:

Često mašini dam misao na analizu sa pitanjem: Cico, kako da ovo lepo razvijemo? Iako znam za halucinacije i brojne greške u algoritmima stroge ekonomije i tvrdih podataka, priznajem da je, u tečnoj književnoj prozi, ova tehnologija jedan alat zbilja neverovatnih proporcija. No istovremeno osećam u sebi oštru, vrlo ljudsku tugu za epohom koja bespovratno odlazi. Srce me boli što nestaje tradicionalna književnost, koja se pisala mesecima u samoći, koja predstavlja životni rad stvoren u glavi svesnog, konkretnog pojedinca. Užasno mi je žao Balzaka, Siorana i neponovljivog Nabokova, jer uprkos mom entuzijazmu, ne verujem da bilo kakav moderan čet može uspeti da progovori na tako izuzetan način.

Tugica. Pokušavam da opravdam OT time što je simpatična još-malo-pa penzionerka (64) koja nije imala dodira sa mašinskim učenjem, koja se raspada od umora (u izlaganju se Tokarčuk žali da više neće pisati romane jer se pokida dok ih ne završi: da sam radila u rudniku umesto da sam sedam godina pisala KNJIGE JAKOVLJEVE, kaže ona, imala bi sada rudarsku penziju), i koja je naklonjena avangardnim pojavama, pa joj programče koje može staviti u laptop ili telefon, a koje može odgovoriti na svaki upit, izgleda kao dar nebesa. Naročito za spisateljicu tako zahtevnih knjiga, koja je verovatno navikla da jednu referencu peške istražuje po deset dana u okolnim repozitorijumima.

Možda ju je samo poneo trenutak. Svašta laprdamo uživo kada nas ponese razgovor. Uostalom, na kraju eksursa o AI priznala je jezik mašine nikada neće biti približan izrazu ljudske duše; a nešto ranije, kada je jedini put u razgovoru opisala konkretnu interakciju sa LLM, istakla je da je robot halucinirao podatak koji je htela da iskoristi u knjizi. A možda jedna od mojih omiljenih spisateljica razvija AI psihozicu, budući da mašini tepa i obraća „joj“ se u ženskom rodu. Znam da šmrčem kopijum, ali tako je u ljubavi.

Izvor: mycompanypolska.pl/artykul/olga-tokarczuk-zapowiada-ostatnia-powiesc-w-karierze-pisanie-dlugich-opowiesci-jest-dzis-ekonomicznie-nieoplacalne/20717

Demon, đavo, vampir, duh

U rukama mi je FRANKENŠTAJN Meri Šeli (prev. Slavka Stevović: Marry Shelley, FRANKENSTEIN, 1818 — čitam roman u susret KLASICI NA ZELENOM (29jul25 @ Kampus UNS) — i mozak mi je trudan od poveznica između Frankenštajnovog stvora i savremenih AI modela. Šta drugo može pasti na pamet čitaocu ovog romana, pomislili bi, jer je sličnost između veštačkog čoveka M. Šeli i veštačke inteligencije AI modela očigledna — ali podudarnosti su delikatne & fascinantne. (Evo jedne:) Susrevši se sa svojom kreacijom prvi put van laboratorije, jedne olujne večeri podno švajcarskih planina, Viktor Frankenštajn opisuje stvora pridevima koji dočaravaju sleđenu mu krv u žilama: gigantsko, defomisano, užasno, nakazno, odvratno (gigantic, deformed, wretched, hideous, depraved). Viktor F., a kroz njega Meri Šeli, u romantičarskom zanosu poredi kreaturu sa zlodusima iz usmenih predanja: demonom, đavolom, vampirom, duhom (daemon, devil, vampire, spirit). Stvor i jeste, poput folklornih čudovišta, povezan sa htonskim svetom („Gotovo da je to moj vampir, moj sopstveni duh, oslobođen iz groba […]“ / „My own vampire, my own spirit let loose from the grave“). Ali ovaj bauk nije drevan, nije večan, nisu ga pravili stari bogovi, nije nastao od zaboravljene kletve, niti su ga okotile aždaje: sagrađen je (poentiram sličnost sa AI) u novom dobu, oruđima nauke i rukom savremenog čoveka.

Dok knjige pišu strojevi

Spremam se za šetanje parapolicijskih državnih falangi po cvrčećem asfaltu dok sa vanpendrečne udaljenosti ispijam ladan Sprajt uz glasno gutanje i coktanje & razmišljam o još jednoj borbi. Biće nama bitaka i nakon oslobođenja (autor se ovome vrlo raduje). Saznao sam danas da u Kentaurovom izdanju Orvelove 1984, u prevodu Vlade Stojiljkovića (1977, Jugoslavija; predgovor Leo Mates) fali jedna od najznačajnijih sintagmi u romanu; a i prevedenom fragmentu bi dobro došlo doćerivanje u jednoj reči. U tekstu-unutar-teksta pod nazivom TEORIJA I PRAKSA OLIGARHIJSKOG KOLEKTIVIZMA („teška crna knjiga, nevešto ukoričena, bez ikakvog imena i naslova na koricama“), stoji ovakav opis distopije:

U svim korisnim veštinama, svet ili stoji na mestu ili ide unatrag. Njive se i dalje obrađuju pomoću mašina.

Umesto toga bi trebalo (navoadim hrvatski prevod Antuna Šoljaka):

U svim korisnim umijećima svijet ili stoji u mjestu, ili nazaduje. Polja se obrađuju konjskim plugovima dok knjige pišu strojevi.

(Izvornik: „In all the useful arts the world is either standing still or going backwards. The fields are cultivated with horse-ploughs while books are written by machinery.“)

Sviđa mi se prevođenje „arts“ kao „umeća“, a ne prosto „veština“. Ali pažnja mi je naravno na delu o knjigama koje pišu mašine. Razlikujem avangardnu kompjutersku poeziju — stvorenu pomoću stroja — od mašinske „AI“ umetnosti — stvorenu od strane stroja. Orvel je znao pre skoro sto godina: mašinska je umetnost, stvorena uz minimalnu čovečiju interakciju, neljudska i dehumanizujuća. Stoga se i dovodi u vezu sa neljudskim i dehumanizujućim društvenim sklopovima poput feudalizma i fašizma. Svet u kojem se najdivniji proizvod ljudskog duha, mašte, slobode & pobune — umetnost — delegira robotima kalibrisanim od strane fantomskih IT službenika megakorporacija, a sami se ljude svode na plug, ašov & skripte za popunjavanje Eksela, nije dobar svet. Šetaćemo mi i mašine dok im CPU ne pregori na Futoškoj raskrsnici u julu.

AI halucinacije knjiga

„AI halucinacije“ (eng. AI hallucinations) izraz je za nepostojeće ili pogrešne pojmove koje veštačka inteligencija, odnosno tzv. veliki jezički modeli (Large Language Models; LLM) prosto izmisle u svojim odgovorima. Kada robota nešto pitamo, „inteligencija“ sa kojom razgovaramo zapravo je složen kombinatorijski sistem koji iskopava, razlaže i slaže podatke kojima je hranjen, tražeći najbolju repliku za promptove koje smo mu izložili. Ponekad se u takvom prepoznavanju & predviđanju šablona mašina prosto zaigra, pa generiše rešenja koja bi, po njegovim informacijama, po svakom pravu trebalo da su tu — ali nisu.

Danas je tako robot uspeo da mi izmašta celovit bibliografski unos: naslov knjige, ime autora, sažetak, te izdavača i godinu objavljivanja. Trenutno su mi takve AI halucinacije zabavne — naletao sam na nekoliko ovakvih izmišljenih knjiga, i žao mi je što nisu napisane, jer je skoro svaka bila dobar odgovor na moje upite. Ako ChatGPT-u ne uspe posao sa generisanjem odgovora, ima budućnost u vođenju izdavačke kuće. Traženje literature sa ChatGPT-om neuporedivo mi je udobnije od preoravanja Google Scholara i borbe sa njegovim suludim algoritmom koji zna izbacivati, jedan pored drugog, srednjoškolske eseje i paywallovane radove oksbridžskih emerita — nadam se da će stoga ova štucanja u nekom trenutku prestati.

Takvih je halucinacija doduše, koliko iz ograničenog iskustva vidim, sve više. Nedavno sam naleteo na post frustriranog istoričara koji se žalio kako je AI alat za obnovu i upscaleovanje istorijskih fotografija jednom tenku iz Drugog svetskog rata dodao ploču sa nerazumljivim tekstom. Tehnologija AI alata suštinski je kreativna: predviđajući obrasce — obrasce reči ili obrasce piksela svejedno — oni zapravo stvaraju i izmišljaju. Od njih tražimo klot odgovore, ili konkretnu uslugu, a dobijamo suviše maštovitog sagovornika ili svojeglavog umetnika. Učenje robota da budu inteligentniji već sada podrazumeva da ih treniramo da budu gluplji.

Dijalog sa kitovima

Uz pomoć novih AI alata, naučnici su nedavno napravili ogroman proboj u kategorizovanju različitih zvukova koje kitovi koriste u svojim komunikacionim pesmama. Napravljen je tako prvi korak u određivanju različitih kitovskih „samoglasnika“, odnosno karakterističnih i u istom ritmu ponavljanih klikova. Upravo je, drugim rečima, zahvaljujući posvećenom radu marinskih biologa & inovacijama na polju modela veštačke inteligencije, započela sistematizacija kitovske fonologije i napravljen prvi korak u otkrivanju kitovskog jezika.

Naučna fantastika je svašta predvidela, pa tako i razumevanje kitovskih dijaloga. Osim ZVEZDANIH STAZA IV, omiljeni naučnofantastični komad o razumevanju sa kitovima mi je ova usputna crtica u DIGITALNOM UGLJENIKU Ričarda Morgana (2013, Laguna, prev. Goran Skrobonja; Richard Morgan, ALTERED CARBON, 2001, Gollancz). Strašno volim takve vinjete i usputne replike koje u samo nekoliko reči otkrivaju čitave istorije: poput govora o Tahojzerovoj Kapije replikanta Roja Betija, Gandalfovog govora o Gondolinu nakon pobeđivanja tri trola u HOBITU, video-igre u NEUROMANTU čiji je setting pad Minhena u Tenkovskom ratu, itd. itd.

***

„Koristili su ga da prate kitove i tako to“, reče Ortega, mahnuvši postrance prema oplati. „Pre nego što su takve institucije sebi mogle da priušte satelitsko vreme. Naravno, posle Dana sporazumevanja, kitovi su najednom vredeli užasno mnogo novca za svakog ko je umeo s njima da razgovara. Znate, oni su nam o Marsovcima rekli gotovo jednako koliko i četiri veka arheoloških istraživanja na samom Marsu. Zaboga, oni se sećaju njihovog dolaska ovamo. To im je zapisano u genima.“

Ona načas zaćuta. „Rođena sam na Dan sporazumevanja“, nadoda nevezano.

„Zaista?“

„Tako je. Devetog januara. Dali su mi ime Kristin po nekoj naučnici koja se bavila kitovima u Australiji, i radila u prvobitnom timu za prevođenje.“

„Lepo.“

(str. 258–259, poglavlje 18)

AI pastiri

Još malo o veštačkoj inteligenciji u stvaralaštvu. Holivudski scenaristi i glumci trenutno štrajkuju, između ostalog, protiv eksploatatorskog i neetičkog korišćenja AI u kreativnoj industriji. Scenaristi se bune zbog generativnih spisateljskih alata poput ChatGPT-a, Barda i Sudowritea, strahujući da će ovi programi za 0 dinara pisati filmove umesto pisaca i spisateljica kojima, budući da su od ljudskog mesa, dinari trebaju. Istovremeno, glumci iz istih razloga bune zbog AI kloniranja svojih glasova i likova. Zvučna i telesna emulacija ljudskih prilika uznapredovala je još impresivnijom brzinom nego pomenuti tekstualni botovi — nije mi život isti nakon što sam čuo kako Fredi Merjkuri peva NARUTOV opening „ブルーバード“ grupe Ikimonogakari, ili kako „Psiho“ umesto Prijovićke peva Karleuša.

Borba je poštena. Na stranu umetnička vrednost ili veština AI stvaralaštva, neko ovde želi da debelo profitira na grbači drugih.

Istovremeno sa štrajkom se velikani kreativne industrije otvoreno okreću veštačkoj inteligenciji. Nije u pitanju samo provokacija, već očigledno začetak dugoročne strategije; scenaristi i glumci se, naposletku, bune sa razlogom. Jučerašnji članak na Hollywood Reporteru („Studios Quietly Go on Hiring Spree for AI Specialist Jobs Amid Picket Line Anxiety“) otkriva kako Dizni, Soni, Netfliks, WB objavljuju sve više oglasa za poslove u vezi sa AI sadržajem. Neke od tih pozicija, poput Netfliksovog „AI Project Managera“, plaćaju i do milion dolara godišnje. Upravo to mi je to zasvrbelo uši — ne ogromna plata tih pozicija, već to što se nijedan otvoreni posao ne tiče pojedinačnog stvaralaštva ili dizajniranja, već menadžerisanja. Niko ovde ne traži Midjourney slikare, već upravljače i urednike.

Možda je tako nešto budućnost kolaboracije čovečanstva i AI: ne stvaranje, već priređivanje. Zamišljam primer u književnosti. Vi ste, recimo, izdavačka kuća Laguna, i između ostalog imate prava za objavljivanje dela Borislava Pekića. Poželite, možda, u jednom trenutku da objavite novi Pekićev roman. Činjenica da je čovek mrtav 30 godina srećom nije otežavajuća okolnost u ovom misaonom eksperimentu — samo potrpate svih dvadeset miliona stranica koje je Pekić napisao u skriptu, kako bi AI dobio aproksimaciju piščevog stila i kompozicije, i zadate prompt: „Pekićev SF roman sa astronautima, u svemiru, u budućnosti, sa elementima horora i antropološke kritike“.

Ali skripta nikada ne može biti savršena; ona će samo izbacivati različite varijacije teksta stvorenog pod zadatim uslovima, ali neće sama moći da oceni koja je umetnički najvrednija. Tu onda stupa AI urednici, pastiri AI teksta. To bi bili digitalni humanisti — sa izvanerdnim poznavanjem ne samo mašinskog učenja već i Pekićeve stilometrije i poetike — koji bi usmeravali skriptu, kao stado, kroz stotine varijacija i rewriteova, ka proizvodnji najbolje moguće inačice najnovijeg Pekićevog romana. LUČONOŠA WESTFALLEN: GOTSKI PUTOPIS, 2026, Laguna; pisac: Borislav Pekić; AI redaktor izdanja: […]. Ili kao naziv romana Orsona Skot Karda: govornik za mrtve? Urednik za mrtve — kojima je mašina rekreirala glas.

Kao koncept zvuči zanimljivo. Da li bi pak bilo umetnički vredno? Ili etičko? Ne znam! Kao što nas je učio Frankenštajn, tj. „moderni Prometej“, i kao što nas trenutno uči OPENHAJMER — rađen btw po knjizi po nimalo proizvoljnog imena AMERIČKI PROMETEJ — ako nešto možemo da uradimo, ne mora da znači da bi trebalo da uradimo. Ja lično bih, ali ja nemam samokontrole, naročito nakon što sam čuo AOI AOI ANOOO SORAAAA Fredija Merjkurija. Vredi stoga što, uz front oduševljenja veštačkom inteligencijom, postojati i front odbrane, makar dok neke stvari ne raščistimo.

Umetnik i supermašina (RE-VIZIJA UMETNOSTI)

O tehnologiji i umetnosti iz: Oto Bihalji-Merin, RE-VIZIJA UMETNOSTI (1979, Jugoslovenska revija, str. 136)

Kod Aristotela pojavila se zamisao puna slutnje da bi automati jednog dana mogli zameniti robove. Najstariji automati, pripadajući egipatsko-minoskim kulturnim krugovima, poticali su iz potajnog nagona za igrom ranih istraživača, iz umetničke mašte i magijskog isticanja moći i znanja.

Programirani automati XX veka jesu tehničke sprave za primanje, preinačenje, uskladištavanje i prenošenje informacija. Moć kibernetskih mašina izaziva strahove i nade: njihov iracionalni vid prodire u čovekovu svest u trenutku kad njihova razorna sila premaša mogućnost njihovog kontrolisanja. U isti mah, započinje dijalog umetnika sa supermašinom. Kao što je nauka smenila mit, tako tehnika smenjuje magiju.

Opštenje sa mehanizmima i spravama svakidašnjice — železnicom, automobilima, avionima, mikroskopima i teleskopima — lišava tehniku oreola tajanstvenosti. Na kraju veka mehanike javlja se lik tehnike; razvitak sprava koje više ne izračunava i ne kontroliše korisnik nego to čini kompjuter, dematerijalizuje proces rada, čini ga nevidljivim. U isti mah, kibernetska mašina postaje partner u estetskom oblikovanju predmeta.

Potisnuta na periferiju svesti našeg vremena, umetnost se našla pred izborom: da se ujednači sa naukom ili povuče iz njenog magnetnog polja. Moraju li se umetnici podvrgavati tehničko-scijentističkoj nadmoćnosti, ili su njihovi pokušaji integracije znak povremene slabosti, od koje će se osloboditi, kako bi tehničko-mašinskim ritmovima savremene civilizacije suprostavili svoj večno promenljivi, stvaralački princip?