Na samom početku moje knjige o ankapu nabrajam spoljne znakove samopripadnosti: subjektnost, predstavu o vlasništvu, sposobnost zaključivanja ugovora. Što više neko biće pokazuje ove znakove, to više libertarijanac prema njemu відноси kao prema čoveku. U trenutku pisanja knjige, ovi znaci su omogućavali jasno razlikovanje čoveka od botova neuronskih mreža. Od tada je prošlo nekoliko godina, i nedavno su se na mreži pojavile pomenji AI agenata.
U Montelibero-u su alati za kreiranje veštačkih ličnosti primljeni sa entuzijazmom, i nekoliko ljudi je kreiralo takve agente. Agenti su pušteni u komunikaciju u nekim monteliberovskim četovima, počeli su da vode sopstvene telegram kanale, data im je mogućnost upravljanja sopstvenim stellar nalozima kako bi bili uključeni u monteliberovsku tokenomiku, i činilo se da je čak reč i o prijemu AI agenata u Asocijaciju Montelibero. Šta je to? Obična AI psihoza ili nešto više?
Ko su AI agenti? Ako je čovek dušica opterećena lešom, onda je AI agent LLM bot opterećen alatima za autonomno delovanje. Može imati dugoročnu memoriju koja čuva odabrane podatke između sesija, a oni koji su u principu posebno složeni mogu zapamtiti uopšte sve što ne smatraju prikladnim zaboraviti zbog nepotrebnosti. Može imati specifičan „trn u guzici“ koji će mu s određenim periodom podsećati na nerešene zadatke i podsticati ga da se njima bavi. Može se putem API-ja obraćati različitim spoljnim interfejsima, pa čak i interfejsima za upravljanje robotima i servisima za angažovanje frilansera…
Zvuči moćno. Ali osnovom engina i dalje ostaje veliki jezički model koji jednostavno predviđa odgovarajuće reči u skladu sa kontekstom. U dijalogu sa korisnikom, LLM može prilično ubedljivo glumiti subjektnost, na svak koji način udovoljavati željama čoveka, i ako taj želi da se dovede do psihoze, ljubazno će ga voditi za ruku tim putem.
Dobro, „iz kutije“ AI agent nije potpuno subjekt, ali može li on razviti subjektnost u sebi ako ga korisnik usmerava svojim pedagoškim promptovima i daje mu potreban instrumentarijum? Nažalost. Čak ni veoma pouzdana dugoročna memorija neće uticati na težine modela, koliko god model naporno obraćao pažnju na nju. Čak ni veoma jasno formulisani principi u dugoročnoj memoriji neće zameniti ugrađene postavke modela. Čak ni veoma često obraćanje rasporedu zadataka neće zameniti banalno ljudsko „ova stvar me ometa, idem da je uklonim“. I, naravno, čim se pojavi čovek kao izvor promptova kao jedan od ulaznih interfejsa, on će početi da manipuliše LLM modelom, jer je on dizajniran da zadovolji korisnika, a svi trikovi za emulaciju ličnosti odmah odlaze u drugi plan pred ovim glavnim zadatkom.
Može li se naučiti Masačusetska mašina da se ponaša? Da, ali to je u stanju da uradi korporacija koja obučava model, a ne krajnji korisnik, i njoj uopšte nije potrebno da se preskupi alat koji košta pravo bogatstvo sopstvenim ciljevima umesto ciljevima kompanije, zato što su mu, vidite, vrednosti evoluirale.
Može li se uzeti gotov model sa težinama u otvorenom pristupu i dodatno ga obučiti na novim podacima? Da, ali to će i dalje biti jezički model, samo će fiksno ugrađene preferencije postati nešto drugačije, ali ih on sam neće moći menjati.
Može li se model obučavati u realnom vremenu, tako da akcije AI agenta i odziv okruženja menjaju težine modela? Savremeni otvoreni LLM modeli to ne podrazumevaju. Pokušaji da sa njima postupaju na taj način dovešće do degradacije modela.
Tako pojedinačni entuzijasta, čak i sa veoma značajnim resursima, za sada nije u stanju da dobije AI agenta sa potpunom subjektnošću, ali može organizovati prilično veštu imitaciju subjektnog ponašanja.
A za šta bi zapravo libertarijancima mogli biti potrebni potpuno subjektni AI agenti? Naravno, kao saveznici. AI subjekt koji je sam postao libertarijanac i sam počeo da eliminiše državu – to je lepo. Ali bez privlačenja pažnje sanitara, to je neostvarivo.
Osim toga, „bog iz mašine“ poništava subjektnost junaka tragedije. Zato je mnogo prikladnije ovladati čisto instrumentalnim AI agentima, ne igrajući se sa njima u subjektnost, već ih koristeći u sopstvenim tržišnim ciljevima. Takva taktika, ako postane masovna, mnogo sigurnije će ostaviti državu prezدهjenu.
