U rukama mi je FRANKENŠTAJN Meri Šeli (prev. Slavka Stevović: Marry Shelley, FRANKENSTEIN, 1818 — čitam roman u susret KLASICI NA ZELENOM (29jul25 @ Kampus UNS) — i mozak mi je trudan od poveznica između Frankenštajnovog stvora i savremenih AI modela. Šta drugo može pasti na pamet čitaocu ovog romana, pomislili bi, jer je sličnost između veštačkog čoveka M. Šeli i veštačke inteligencije AI modela očigledna — ali podudarnosti su delikatne & fascinantne. (Evo jedne:) Susrevši se sa svojom kreacijom prvi put van laboratorije, jedne olujne večeri podno švajcarskih planina, Viktor Frankenštajn opisuje stvora pridevima koji dočaravaju sleđenu mu krv u žilama: gigantsko, defomisano, užasno, nakazno, odvratno (gigantic, deformed, wretched, hideous, depraved). Viktor F., a kroz njega Meri Šeli, u romantičarskom zanosu poredi kreaturu sa zlodusima iz usmenih predanja: demonom, đavolom, vampirom, duhom (daemon, devil, vampire, spirit). Stvor i jeste, poput folklornih čudovišta, povezan sa htonskim svetom („Gotovo da je to moj vampir, moj sopstveni duh, oslobođen iz groba […]“ / „My own vampire, my own spirit let loose from the grave“). Ali ovaj bauk nije drevan, nije večan, nisu ga pravili stari bogovi, nije nastao od zaboravljene kletve, niti su ga okotile aždaje: sagrađen je (poentiram sličnost sa AI) u novom dobu, oruđima nauke i rukom savremenog čoveka.
Tehnologija
Dok knjige pišu strojevi
Spremam se za šetanje parapolicijskih državnih falangi po cvrčećem asfaltu dok sa vanpendrečne udaljenosti ispijam ladan Sprajt uz glasno gutanje i coktanje & razmišljam o još jednoj borbi. Biće nama bitaka i nakon oslobođenja (autor se ovome vrlo raduje). Saznao sam danas da u Kentaurovom izdanju Orvelove 1984, u prevodu Vlade Stojiljkovića (1977, Jugoslavija; predgovor Leo Mates) fali jedna od najznačajnijih sintagmi u romanu; a i prevedenom fragmentu bi dobro došlo doćerivanje u jednoj reči. U tekstu-unutar-teksta pod nazivom TEORIJA I PRAKSA OLIGARHIJSKOG KOLEKTIVIZMA („teška crna knjiga, nevešto ukoričena, bez ikakvog imena i naslova na koricama“), stoji ovakav opis distopije:
U svim korisnim veštinama, svet ili stoji na mestu ili ide unatrag. Njive se i dalje obrađuju pomoću mašina.
Umesto toga bi trebalo (navoadim hrvatski prevod Antuna Šoljaka):
U svim korisnim umijećima svijet ili stoji u mjestu, ili nazaduje. Polja se obrađuju konjskim plugovima dok knjige pišu strojevi.
(Izvornik: „In all the useful arts the world is either standing still or going backwards. The fields are cultivated with horse-ploughs while books are written by machinery.“)
Sviđa mi se prevođenje „arts“ kao „umeća“, a ne prosto „veština“. Ali pažnja mi je naravno na delu o knjigama koje pišu mašine. Razlikujem avangardnu kompjutersku poeziju — stvorenu pomoću stroja — od mašinske „AI“ umetnosti — stvorenu od strane stroja. Orvel je znao pre skoro sto godina: mašinska je umetnost, stvorena uz minimalnu čovečiju interakciju, neljudska i dehumanizujuća. Stoga se i dovodi u vezu sa neljudskim i dehumanizujućim društvenim sklopovima poput feudalizma i fašizma. Svet u kojem se najdivniji proizvod ljudskog duha, mašte, slobode & pobune — umetnost — delegira robotima kalibrisanim od strane fantomskih IT službenika megakorporacija, a sami se ljude svode na plug, ašov & skripte za popunjavanje Eksela, nije dobar svet. Šetaćemo mi i mašine dok im CPU ne pregori na Futoškoj raskrsnici u julu.
AI halucinacije knjiga
„AI halucinacije“ (eng. AI hallucinations) izraz je za nepostojeće ili pogrešne pojmove koje veštačka inteligencija, odnosno tzv. veliki jezički modeli (Large Language Models; LLM) prosto izmisle u svojim odgovorima. Kada robota nešto pitamo, „inteligencija“ sa kojom razgovaramo zapravo je složen kombinatorijski sistem koji iskopava, razlaže i slaže podatke kojima je hranjen, tražeći najbolju repliku za promptove koje smo mu izložili. Ponekad se u takvom prepoznavanju & predviđanju šablona mašina prosto zaigra, pa generiše rešenja koja bi, po njegovim informacijama, po svakom pravu trebalo da su tu — ali nisu.
Danas je tako robot uspeo da mi izmašta celovit bibliografski unos: naslov knjige, ime autora, sažetak, te izdavača i godinu objavljivanja. Trenutno su mi takve AI halucinacije zabavne — naletao sam na nekoliko ovakvih izmišljenih knjiga, i žao mi je što nisu napisane, jer je skoro svaka bila dobar odgovor na moje upite. Ako ChatGPT-u ne uspe posao sa generisanjem odgovora, ima budućnost u vođenju izdavačke kuće. Traženje literature sa ChatGPT-om neuporedivo mi je udobnije od preoravanja Google Scholara i borbe sa njegovim suludim algoritmom koji zna izbacivati, jedan pored drugog, srednjoškolske eseje i paywallovane radove oksbridžskih emerita — nadam se da će stoga ova štucanja u nekom trenutku prestati.
Takvih je halucinacija doduše, koliko iz ograničenog iskustva vidim, sve više. Nedavno sam naleteo na post frustriranog istoričara koji se žalio kako je AI alat za obnovu i upscaleovanje istorijskih fotografija jednom tenku iz Drugog svetskog rata dodao ploču sa nerazumljivim tekstom. Tehnologija AI alata suštinski je kreativna: predviđajući obrasce — obrasce reči ili obrasce piksela svejedno — oni zapravo stvaraju i izmišljaju. Od njih tražimo klot odgovore, ili konkretnu uslugu, a dobijamo suviše maštovitog sagovornika ili svojeglavog umetnika. Učenje robota da budu inteligentniji već sada podrazumeva da ih treniramo da budu gluplji.
Dijalog sa kitovima
Uz pomoć novih AI alata, naučnici su nedavno napravili ogroman proboj u kategorizovanju različitih zvukova koje kitovi koriste u svojim komunikacionim pesmama. Napravljen je tako prvi korak u određivanju različitih kitovskih „samoglasnika“, odnosno karakterističnih i u istom ritmu ponavljanih klikova. Upravo je, drugim rečima, zahvaljujući posvećenom radu marinskih biologa & inovacijama na polju modela veštačke inteligencije, započela sistematizacija kitovske fonologije i napravljen prvi korak u otkrivanju kitovskog jezika.
Naučna fantastika je svašta predvidela, pa tako i razumevanje kitovskih dijaloga. Osim ZVEZDANIH STAZA IV, omiljeni naučnofantastični komad o razumevanju sa kitovima mi je ova usputna crtica u DIGITALNOM UGLJENIKU Ričarda Morgana (2013, Laguna, prev. Goran Skrobonja; Richard Morgan, ALTERED CARBON, 2001, Gollancz). Strašno volim takve vinjete i usputne replike koje u samo nekoliko reči otkrivaju čitave istorije: poput govora o Tahojzerovoj Kapije replikanta Roja Betija, Gandalfovog govora o Gondolinu nakon pobeđivanja tri trola u HOBITU, video-igre u NEUROMANTU čiji je setting pad Minhena u Tenkovskom ratu, itd. itd.
***
„Koristili su ga da prate kitove i tako to“, reče Ortega, mahnuvši postrance prema oplati. „Pre nego što su takve institucije sebi mogle da priušte satelitsko vreme. Naravno, posle Dana sporazumevanja, kitovi su najednom vredeli užasno mnogo novca za svakog ko je umeo s njima da razgovara. Znate, oni su nam o Marsovcima rekli gotovo jednako koliko i četiri veka arheoloških istraživanja na samom Marsu. Zaboga, oni se sećaju njihovog dolaska ovamo. To im je zapisano u genima.“
Ona načas zaćuta. „Rođena sam na Dan sporazumevanja“, nadoda nevezano.
„Zaista?“
„Tako je. Devetog januara. Dali su mi ime Kristin po nekoj naučnici koja se bavila kitovima u Australiji, i radila u prvobitnom timu za prevođenje.“
„Lepo.“
(str. 258–259, poglavlje 18)
AI pastiri
Još malo o veštačkoj inteligenciji u stvaralaštvu. Holivudski scenaristi i glumci trenutno štrajkuju, između ostalog, protiv eksploatatorskog i neetičkog korišćenja AI u kreativnoj industriji. Scenaristi se bune zbog generativnih spisateljskih alata poput ChatGPT-a, Barda i Sudowritea, strahujući da će ovi programi za 0 dinara pisati filmove umesto pisaca i spisateljica kojima, budući da su od ljudskog mesa, dinari trebaju. Istovremeno, glumci iz istih razloga bune zbog AI kloniranja svojih glasova i likova. Zvučna i telesna emulacija ljudskih prilika uznapredovala je još impresivnijom brzinom nego pomenuti tekstualni botovi — nije mi život isti nakon što sam čuo kako Fredi Merjkuri peva NARUTOV opening „ブルーバード“ grupe Ikimonogakari, ili kako „Psiho“ umesto Prijovićke peva Karleuša.
Borba je poštena. Na stranu umetnička vrednost ili veština AI stvaralaštva, neko ovde želi da debelo profitira na grbači drugih.
Istovremeno sa štrajkom se velikani kreativne industrije otvoreno okreću veštačkoj inteligenciji. Nije u pitanju samo provokacija, već očigledno začetak dugoročne strategije; scenaristi i glumci se, naposletku, bune sa razlogom. Jučerašnji članak na Hollywood Reporteru („Studios Quietly Go on Hiring Spree for AI Specialist Jobs Amid Picket Line Anxiety“) otkriva kako Dizni, Soni, Netfliks, WB objavljuju sve više oglasa za poslove u vezi sa AI sadržajem. Neke od tih pozicija, poput Netfliksovog „AI Project Managera“, plaćaju i do milion dolara godišnje. Upravo to mi je to zasvrbelo uši — ne ogromna plata tih pozicija, već to što se nijedan otvoreni posao ne tiče pojedinačnog stvaralaštva ili dizajniranja, već menadžerisanja. Niko ovde ne traži Midjourney slikare, već upravljače i urednike.
Možda je tako nešto budućnost kolaboracije čovečanstva i AI: ne stvaranje, već priređivanje. Zamišljam primer u književnosti. Vi ste, recimo, izdavačka kuća Laguna, i između ostalog imate prava za objavljivanje dela Borislava Pekića. Poželite, možda, u jednom trenutku da objavite novi Pekićev roman. Činjenica da je čovek mrtav 30 godina srećom nije otežavajuća okolnost u ovom misaonom eksperimentu — samo potrpate svih dvadeset miliona stranica koje je Pekić napisao u skriptu, kako bi AI dobio aproksimaciju piščevog stila i kompozicije, i zadate prompt: „Pekićev SF roman sa astronautima, u svemiru, u budućnosti, sa elementima horora i antropološke kritike“.
Ali skripta nikada ne može biti savršena; ona će samo izbacivati različite varijacije teksta stvorenog pod zadatim uslovima, ali neće sama moći da oceni koja je umetnički najvrednija. Tu onda stupa AI urednici, pastiri AI teksta. To bi bili digitalni humanisti — sa izvanerdnim poznavanjem ne samo mašinskog učenja već i Pekićeve stilometrije i poetike — koji bi usmeravali skriptu, kao stado, kroz stotine varijacija i rewriteova, ka proizvodnji najbolje moguće inačice najnovijeg Pekićevog romana. LUČONOŠA WESTFALLEN: GOTSKI PUTOPIS, 2026, Laguna; pisac: Borislav Pekić; AI redaktor izdanja: […]. Ili kao naziv romana Orsona Skot Karda: govornik za mrtve? Urednik za mrtve — kojima je mašina rekreirala glas.
Kao koncept zvuči zanimljivo. Da li bi pak bilo umetnički vredno? Ili etičko? Ne znam! Kao što nas je učio Frankenštajn, tj. „moderni Prometej“, i kao što nas trenutno uči OPENHAJMER — rađen btw po knjizi po nimalo proizvoljnog imena AMERIČKI PROMETEJ — ako nešto možemo da uradimo, ne mora da znači da bi trebalo da uradimo. Ja lično bih, ali ja nemam samokontrole, naročito nakon što sam čuo AOI AOI ANOOO SORAAAA Fredija Merjkurija. Vredi stoga što, uz front oduševljenja veštačkom inteligencijom, postojati i front odbrane, makar dok neke stvari ne raščistimo.
Umetnik i supermašina (RE-VIZIJA UMETNOSTI)
O tehnologiji i umetnosti iz: Oto Bihalji-Merin, RE-VIZIJA UMETNOSTI (1979, Jugoslovenska revija, str. 136)
Kod Aristotela pojavila se zamisao puna slutnje da bi automati jednog dana mogli zameniti robove. Najstariji automati, pripadajući egipatsko-minoskim kulturnim krugovima, poticali su iz potajnog nagona za igrom ranih istraživača, iz umetničke mašte i magijskog isticanja moći i znanja.
Programirani automati XX veka jesu tehničke sprave za primanje, preinačenje, uskladištavanje i prenošenje informacija. Moć kibernetskih mašina izaziva strahove i nade: njihov iracionalni vid prodire u čovekovu svest u trenutku kad njihova razorna sila premaša mogućnost njihovog kontrolisanja. U isti mah, započinje dijalog umetnika sa supermašinom. Kao što je nauka smenila mit, tako tehnika smenjuje magiju.
Opštenje sa mehanizmima i spravama svakidašnjice — železnicom, automobilima, avionima, mikroskopima i teleskopima — lišava tehniku oreola tajanstvenosti. Na kraju veka mehanike javlja se lik tehnike; razvitak sprava koje više ne izračunava i ne kontroliše korisnik nego to čini kompjuter, dematerijalizuje proces rada, čini ga nevidljivim. U isti mah, kibernetska mašina postaje partner u estetskom oblikovanju predmeta.
Potisnuta na periferiju svesti našeg vremena, umetnost se našla pred izborom: da se ujednači sa naukom ili povuče iz njenog magnetnog polja. Moraju li se umetnici podvrgavati tehničko-scijentističkoj nadmoćnosti, ili su njihovi pokušaji integracije znak povremene slabosti, od koje će se osloboditi, kako bi tehničko-mašinskim ritmovima savremene civilizacije suprostavili svoj večno promenljivi, stvaralački princip?
Kartografije vremena, algoritam Z-Libraryja
Delim ovo i tagujem profesora Savu Damjanova samo zato što smo nas dvojica jedini za koje znam da nas fascinira beleženje vremena. Knjige, tekstovi, enciklopedije, rečnici, kalendari, infografici — šta god; sve može & na sve se ložimo.
Na ovo štivo, CARTOGRAPHIES OF TIME (Rosenberg, Grafton, Princeton Press) naleteo sam slučajno, tražeći na Z-Library neke arhitektonske časopise. Z-Lib je inače i dalje operativan preko pregledača TOR; od pre nekoliko meseci držim stoga TOR na taskbaru, i ne koristim ga ni za šta drugo osim za rovarenje kroz ovu jedinu i najbolju shadow library. Istu bazu podataka kao i Z-Lib koristi i LibGen, ali teško živim bez Z-Libovog algoritma za preporučivanje knjiga. To sam shvatio, kako obično biva, tek kada je Z-Lib bio sklonjen sa vidljivog Interneta. Zbog te rubričice, koja u obzir uzima prethodno skinute fajlove kao i istoriju pretrage, jedino mi Z-Lib od svih hajdučkih onlajn biblioteka daje osećaj da sam u pravoj antikvarnici; jer samo tu mogu da, uprkos preciznim i nevosmislenim upitima ukucanim u polje za traženje, ipak pronađem nešto neočekivano, a korisno i lepo, ispod neke skupine jedinica i nula.
ChatGPT најављује Павића & боји се голотиње
Данас (23дец22) у 19:00 у Дигиталном омладинском центру ГБНС разговарамо, у оквиру читалачког дружења, о роману ХАЗАРСКИ РЕЧНИК Милорада Павића. Најаву на слици је исписао ChatGPT, у последње време најпопуларнија вербална/текстуална вештачка интелигенција (AI). Хвала г. Роботу на лепој најави. Скрипта ради као подмазана, нарочито уколико сте лагодни на грешке, пуританац или просто немаштовити. У овом тренутку не бринем да ће нас машине заменити.
Метафора за
У последње време учим о НФТ-јевима. Логику блокчејна сам, из претходног изучавања криптовалута, слабо савладао, али филозофију сам отприлике доакао. Као што рече Вилијам Гибсон: не разумем се у машинске спецификуме рачунара, али контам да они могу бити, у људском искуству, метафоре за памћење (JSTOR, алт ПДФ). Овај двоипосатни документарац (Folding Ideas, „Line Goes Up – The Problem With NFTs) испричан је у каденци која ми је тешка за праћење, што је ипак уобичајено за изучавање појмова о којима немам темељно образовање (због тога ми је и THE BIG SHORT Мајкла Луиса потпуно херметична књига), али нешто је и до става аутора који предавање није изложио са хладном одмереношћу, већ има јасан, емотиван чак, одбојан став према крипту и енефтијевима. Кад се пева гневом, неке се техничке информације загубе, али је порука ипак пренета осећајношћу. Проблем са НФТ суштински је проблем са нечим до чега ми је веома стало и за шта мислим да полако улази у корисничку свет, а после надам се и у курикулуме: етичка употреба (информационе) технологије. Овај снимак ми је вербализовао неколико идеја које сам држао, али их нисам могао уобличити:
1) Поводом шифарника, рудара, дизајнера и шпекуланата у криптосвету: људи који су овладали једним сложеним пољем — у овом случају програмирањем са криптографијом — мисле да су аутоматски овладали и другим, подједнако или у њиховим очима чак мање комплексним пољима, због чега мисле да су они од бога мандат добили да „поправе“ банкарство, уметност или друштво. Нешто је то између Данинг-Кругера и оних случаја када су интелектуалци стручни само у својој науци, а ретардирани за све остало: ови несумњиво јесу стручни у својој вештини, али мисле да их способност у једном, врло ограниченом пољу, чини мајсторима за све остало од ботанике до социологије. (вид. Гистав Флобер, БУВАР И ПЕКИШЕ)
2) Врло врло врло врло мрзим НФТ јер две дисциплине до којих ми је стало: технологију, односно оно што је у њој алтруистично, етичко и равноправно, и уметност (ditto), користе за само једно: профит. Технологија, према филозофији НФТ-а, постоји само да би кроз њу зарадило шпекулацијом; уметничка дела постоје да би на њих била закачена финансијска вредност, која замењује уметничку (скриптом генерисана профилна слика није вредна јер је вешто скројена или јер упућује на високу мисао, идеју или емоцију, већ је вредна јер настаје као вештачки редак артефакт у артифицијелној дигиталној оскудици), којом се даље, подједнако, може шпекулисати као обичном акцијом.
Should advertisers be allowed to hack your dreams?
„Каталози уличних продаваца запљуснуше ме као рој халуцинација изазваних делиријумом, донекле разуђени услед недостатка директне емисије, да би се брзо мешали и стапали док смо ми клизили крај њих. Макрои су били најочигледнији; низ оралних и аналних чинова, дигитално ретуширани да би груди и маскулатура имали додатни сјај. Име сваке курве било је промрљано грленим наснимљеним гласом, заједно са придодатим ликом: стидљиве девојчице, домине, маљави пастуви и неколико из културолошке групе која ми је била потпуно непозната. Између њих су се провлачиле суптилније хемијске листе и надреални сценарији трговаца дрогама и имплантима. Усред свега тога ухватио сам и неколико верских емисија, слике духовне смирености међу планинама, али било је то попут дављеника у мору производа.“
(Ричард Морган, ДИТИГАЛНИ УГЉЕНИК, Лагуна 2013, прев. Горан Скробоња)
POETICA DEPONIA 