Тег: AI

Lomača od knjiga radi kopirajzma: distopija u kojoj već živimo

Zamislite si sliku: kamioni dolaze, istovaraju milione štampanih knjiga, nakon čega ih bezmilosno rastvaraju, prolaze kroz skenere, a zatim šalju u shreder, pod nož i u reciklažu.
 
Mislite da je ovo mračan scenario distopije? Ne, ovo je surova stvarnost 2026. godine. Kompanija Anthropic, tvorci neuronske mreže Claude, pretvorila je milione fizičkih knjiga u konfeti kako bi obučila svoj AI model. Možete odmah pomisliti da su tehnofasisti koji su potpuno poludeli. Samo što je najluđe u ovoj situaciji to što su na ovaj vandalizam krenuli ne zbog dobrog života, ne po sopstvenoj želji, i svakako ne iz mržnje prema književnosti.
 
Prema idiotskim zakonima o „intelektualnoj svojini“ u SAD, ako ste kupili knjigu i skenirali je, ali pritom zadržali fizički original na polici, trenutno postajete pirat koji je napravio „ilegalnu kopiju“. Upravo zbog ovog pravnog apsurda vlasti stalno progone slobodne mrežne biblioteke poput Zlib ili Anna’s Archive.
 
Da ne bi upali pod valjak višebiljardnih tužbi vlasnika autorskih privilegija, korporativni birokrate su pronašli rupu u zakonu: ako se papirni original fizički uništi tokom procesa digitalizacije, onda je sve legalno. Jedna kopija je postojala – i ostala je, samo je promenila format. Zato je kompanija Anthropic bukvalno morala da usitni milione knjiga samo da bi digitalne kopije priznate kao „legalne“.
 
Ray Bradbury je u svom romanu „451 stepeni Fahrenhajta“ upozoravao na vatrogasce koji spaljuju knjige. Ali on je, naivni romantičar, mislio da će se to dešavati zbog direktne državne cenzure. Bradbury je imao previše dobro mišljenje o političarima. U našoj stvarnosti, državne vlasti svojim debilnim zakonima uništavaju milione vrednih knjiga samo zbog autorskih privilegija.
 
I razmere tragedije su kolosalne. Pod nož ne idu samo izlizane žanrovske detektive. Kupuju se cele antikvarijat i skladišta gde prašnjavaju retki radovi, od kojih su mnogi dostupni samo u jednom ili nekoliko primeraka. Uništava se ono što se više nikada neće odštampati.
 
Postoji i jedan važan nijans u ovom književnom genocidu. Znate li zašto AI korporacije tako žestoko love staru staru papirnu literaturu? Zato što su tekstovi objavljeni do otprilike 2022. godine čisti, sto-postotni, organski ljudski proizvod. Bez nikakvih halucinacija neuronskih mreža. U budućnosti će vrednost takvih štampanih knjiga stalno rasti – to je čvrsta garancija da je tekst napisao čovek, a ne AI. I upravo se to jedinstveno nasleđe sada nepovratno melje u prah.
 
Ali hajde da pogledamo ovu situaciju iz ugla opstanka čovečanstva. Uništavanje papirnih knjiga je igra sa vatrom u najdirektnijem smislu. Živimo u izuzetno krhkom svetu. Zamislite bilo koju globalnu prirodnu ili tehnogenu katastrofu: snažan solarni nalet, masovni EMP udar, pad meteora ili totalni blackout. Data centri nestaju. Čuveni „cloud“ se rasipa. Serveri se preko noći pretvaraju u beskorisni metalni otpad.
 
Gde će preživeli uzeti osnovno znanje o inženjerstvu, pružanju prve pomoći, prečišćavanju vode ili agronomiji? Na internetu? On više ne postoji. U bibliotekama? One su poslate pod nož da ne bi uznemiravale autorska prava.
 
Uništavanje fizičkih nosilaca informacija ostavlja civilizaciju potpuno golom i nezaštićenom pred bilo kojom globalnom krizom. Papirna knjiga ne traži struju, ne trebaju joj serveri, ažuriranja i pretplate. Ona jednostavno tiho čuva znanje, čekajući kada ćete je otvoriti.
 
Kakav zaključak se iz toga nameće? Kada nas zakoni primoravaju da uništavamo osnovno znanje kako bismo ugodili statičnom banditima – to više nije zaštita autorskih prava. To je prava, direktna egzistencijalna pretnja opstanku cele naše civilizacije!

Voluntarist, Bitarh

Aplikacije za upoznavanje – propast tržišta koje smo se toliko plašili?

Jasno je da stimulansi u komercijalnim aplikacijama za upoznavanje ne odgovaraju uvek očekivanjima klijenata i društva u celini (brzo pronaći supružnika i više nikada ne koristiti aplikaciju). Oni moraju nekako održati biznis na plovutanju. Na šta se nadati, ako ne na strica iz vlade, državno odobren sajt za upoznavanje i stajanje u elektronskom redu za vaučer za ženu? Na mecenatstvo, kao zapršku za nezgodne momente u tržišnoj ekonomiji, u nadi da će Mask napraviti manje glup dating app koji će podići formiranje porodica i natalnost sa kolena?

Saddam Husseinove aluminijumske cevi koje se okreću

Prođimo kroz problem koji ste naveli. Ljudi žele da se upoznaju, a tržište monetizuje ispunjenje te želje. Ljudi žele da se upoznaju sa različitim ciljevima i na različite načine, stoga je tržište prirodno segmentirano.

Internet servisi za upoznavanje teoretski omogućavaju korisniku da brzo dobije informacije o ljudima sa komplementarnim potrebama i da se upoznaje ciljanije. Nakon što pregleda dovoljan broj opcija, sferni klijent u vakuumu pronalazi odgovarajućeg partnera, nakon čega prelazi na komunikaciju sa njime pomoću manje specijalizovanih alata, napuštajući servis za upoznavanje. To nije isplativo kreatorima servisa; oni su zainteresovani za to da se klijent vraća njima iznova i iznova, pri čemu, naravno, kupuje premium pretplatu. Budući da dating aplikacije još uvek nisu izašle iz mode, ovaj model prilično dobro funkcioniše, ljudi se zaista vraćaju. Štaviše, pošto je tržište već dovoljno zasićeno, blagostanje dating aplikacija ne može biti povezano sa jednostavnim privlačenjem sve novih klijenata, već se radi upravo o tome da je korišćenje ovih aplikacija uspelo postati lifestyle za određeni, prilično širok sloj ljudi. Ja ne pripadam njima, stoga ne pretendujem na duboku analizu, već samo konstatujem njihovo postojanje.

Naravno, postoje i oni koji nisu uspeli u korišćenju dating aplikacija. Razlozi mogu biti različiti. Najbanalniji je taj što sam proces upoznavanja neki ljudi mogu doživljavati kao jak stres. Oni nisu protiv toga da pronađu izabranika u životu, i čak će se pomiriti sa gašenjem interesovanja nakon godinu dana, nakon čega će biti potrebno tražiti novog, ali će to raditi tako retko koliko je moguće, i sigurno nisu spremni čak ni na to da imaju red kandidata za upoznavanje iz kojih treba izabrati, recimo, jednog, a ostalima odbiti. A naročito nisu spremni na seriju odbijanja ili ignorisanja. Ako svako neuspelo upoznavanje postane povod za ozbiljne proživljavanja, onda aplikacija koja može obezbediti desetine takvih proživljavanja dnevno ispostavlja se kao pakao od izuma, koji čoveka gura u ponore depresije i od kojeg treba bežati što dalje.

Naravno, psihološke poteškoće nisu jedini razlog za nekorišćenje servisa za brzo upoznavanje. Osoba može imati određene preferencije u vezi sa potencijalnim partnerom i načinom upoznavanja sa njim, koje u principu ne uklapaju u tipičan scenario korišćenja aplikacije.

Znači, ispostavlja se da na svetu postoji gomila ljudi koji žele da se upoznaju, ali se ta njihova želja ne može monetizovati pomoću specijalizovanih masovnih aplikacija? Pa da. Postoji gomila ljudi koji rado kupuju fast-food, i gomila ljudi koji uopšte ne razmatraju tu opciju za sebe, jer je za njih: previše bedno, previše skupo, previše štetno, previše bilo čega drugog, ukratko, ne odgovara im. Ali nešto ipak žruć moraju! Da, i negde se ti ljudi ipak upoznaju, čak i ako nemaju nalog na Pure-u.

Ali autora pitanja ne brine to da sve navuče na fast-dating. Naprotiv, on pre smatra da fast-dating ubija brakove, rađanje dece i dopunjavanje redova poreskih obveznika. Smatram taj strah neutemeljenim. Mises je nekada napisao, recimo, da je glupo kriviti preduzetnika što proizvodi topove umesto putera; to samo znači da su ulaganja u topove isplativija. Međutim, on će rado preći na puter kada se konjunktura promeni, stoga je glupo kriviti ga da izaziva ratove samo da bi prodao više topova — to je već prerogativa političara, koji su, naravno, uvek radni da okrive preduzetnike za svoje ružne poslove. I ako će se u vezi sa topovima naći mnogo onih koji žele da ospore tezu, tvrditi da su za pad nataliteta krivi kreatori dating aplikacija je ipak preterivanje. Najmanje rečeno, datumi se ne poklapaju, drugi demografski prelaz počeo je mnogo ranije. Dakle, reč je samo o simptomu: ljudima su potrebna brza upoznavanja — evo vam servis za brza upoznavanja. Ljudima su uvek bila potrebna brza upoznavanja, samo su se ranije „hvatali“ u barovima ili čak muvili na ulicama, a sada aplikacije ne samo da su im značajno olakšale život, već su gomilu ljudi oslobodile slučajnih uznemiravanja.

OK, ali ljudima su ipak potrebni i čvrsti ekskluzivni odnosi, a ne samo brzi i jednokratni, pa gde je aplikacija za njihovu potragu? Zašto se ta potreba ne monetizuje?

Dobro, hajde da zamislim kako bih ja u IT sferi monetizovala potrebu ljudi za zasnivanjem čvrstih porodičnih odnosa, kada bih imala pristup ozbiljnom kapitalu. Kreirala bih servis koji čoveku pruža personalnog AI-savetnika, kojeg može podesiti da podrži određeni tip odnosa. Za početak, jednostavno komuniciraš sa njim, šalješ mu svoje omiljene knjige i filmove, diskutuješ o njima, pričaš o tome šta ceniš u odnosima, a šta ne možeš da podneseš — i to je samo po sebi potrošačko dobro, koje omogućava bolje osveznavanje sopstvenih potreba i učenje kako da o njima govoriš. Ali pomoćnik komunicira i sa drugim klijentima. U nekom trenutku on može pitati: „A jesi li upoznala onog i onog? Kul lik, i čini se da bi ti mogao odgovarati.“ Ti mu postavljaš pitanja o predloženom kandidatu, on postavlja pitanja o tebi, i u nekom trenutku AI-prijatelj javlja: „Znaš, kada je pročitao o tebi, zainteresovao se i, čini se, nije protiv toga da se sretnete. Možda da napravimo group chat za troje?“

I evo, vi već komunicirate direktno, ali prijatelj je nevidljivo sa vama, i i dalje možete privatno diskutovati o detaljima vaše komunikacije sa njim. Zatim se sretnete, približite, i u nekom trenutku odlučite da spojite svoje sudbine. I tada dobijate ponudu: zašto sada visite u zajedničkoj bazi, zar nije bolje pobrinuti se za privacy? I onda iznajmljujete personalni server, na koji se seli vaš prijatelj sa svim znanjima o vama. On nastavlja da brine o blagostanju vašeg braka, a vi nastavljate da plaćate servis. U ovoj fazi kompanija više ne dobija vaše podatke, već se ograničava na ažuriranja modela i tehničku podršku.

Takav model monetizacije je — bilo šta, samo ne fast-food. Ljubiteljima brzog dejtinga je sve ovo previše zamorno, skupo i suvišno. Zato ne postoji opasnost da će vam potiskivati ljubitelje jednokratnog seksa, naprotiv, samo vrle kandidata za muževa. Upravo u ovoj fazi već možete udariti dlanom o čelo i viknuti: „Aha, imam odličnog kandidata za realizaciju svega ovog veličanstvenog“, i ponuditi ga Dobroumu. Ali ja sam libertarijanka, a ne neki konzervativac, zato razmišljamo dalje.

Sasvim može biti da preferirate otvorene veze, ili čak poliamorne. U ovoj fazi gubimo Dobrouma kao potencijalnog osnivača našeg startapa, kao i mogućnost državnih grantova. Ipak, ne vidim razloge zašto AI-prijatelj ne bi mogao da opslužuje slatke poliamorne mace, istopolne i sve ostale: sve dok imaju potrebu za dugotrajnim, stabilnim, ekološkim odnosima zasnovanim na ljubavi i poverenju jednih u druge, ta potreba se može monetizovati pomoću ponuđenog alata. Ali, naravno, što je maca egzotičnija, to će joj biti teže pronaći tog pravog partnera ili grupu partnera. Međutim, kako se servis bude razvijao, jednostavno po teoriji verovatnoće, opcije će se pojaviti i za njih.

Tako će tržište još jednom učiniti svet lepšim.

„Kako preživeti u ovom gotovo nametnutom tehnološkom progresu i živeti u blagostanju?“

Otprilike takva pitanja sve češće stižu od naših pratilaca. Zvuči kao da ispred prozora već marširaju terminatori, a Skynet će nam svakog trenutka isključiti toplu vodu zbog neplaćanja. Mnogi se ozbiljno plaše da će neuronske mreže i roboti ostaviti nas bez posla i sredstava za život, a ako se uz to još i dozvoli tržištu da bude slobodno, onda će nas zlobne korporacije izbaciti na mraz. Ali ne treba toliko brinuti – ta pretnja je previše preuveličana. A strah od „tehnološke nezaposlenosti“ je, verovatno, najžilaviji mit u istoriji čovečanstva.
 
Znate li ovu zlu šalu? „Mislili smo da će u budućnosti roboti nositi teške terete i prati podove, a ljudi pisati slike i komponovati muziku. Na kraju, AI crta i piše pesme, a mi i dalje peremo podove“. U tome je suština takozvanog Moravekovog paradoksa. Ono što nam deluje komplikovano (viša matematika, igra šaha, pisanje koda), za kompjuter je sitnica. Ali ono što je za nas elementarno (prošetati kroz sobu punu stvari i ne spotaknuti se), za AI je neizvodiv zadatak.
 
Svaki fizički posao koji zahteva finu motoriku ruku i sposobnost delovanja u haosu nestandardnog okruženja biće automatizovan poslednji. Električari, vodoinstalateri, automehaničari, građevinci, moleri, krovopokrivači, zavarivači – svi oni mogu spavati potpuno mirno! Nijedan, čak ni najnapredniji robot iz Boston Dynamics-a u narednim decenijama neće moći da zatrese ispod haube vašeg starog automobila, pronađe pravi šraf i shvati zašto „nešto čudno kucka u krivinama“. Zameniti vodoinstalatera u staroj zgradi sa njenom jedinstvenom, istorijski formiranom geometrijom cevi – zadatak je za supercivilizacije, a ne za ChatGPT.
 
„Ali neko će ipak biti zamenjen!“ – reći ćete. Naravno. Ali hajde da pogledamo u udžbenik istorije. U 19. veku engleski tkači (luditi) su u panici razbijali parne mašine. Bili su uvereni da će ih mašine ostaviti bez hleba. Šta se zapravo dogodilo? Tkanina je postala mnogo jeftinija. Ljudi su mogli da kupuju ne jednu košulju u pet godina, već čitav garderober. Potražnja je skočila do neba i industriji je trebalo mnogo više radnih ruku: pojavili su se krojači, logističari, prodavci, mehaničari za održavanje baš tih mašina.
 
Ili se setite početka 20. veka. Oko 80-90% stanovništva je ralo na polju. Zatim je došao traktor. Delovalo je kao katastrofa! Milioni seljaka ostaće bez posla! Ali ne, oni su otišli da grade fabrike, proizvode automobile, otvaraju restorane i frizerske salone.
 
A sećate li se panike 1970-ih, kada su se pojavili prvi bankomati? Kasiri u bankama su mislili da je to njihov kraj. Ali bankomati su toliko pojeftinili otvaranje novih poslovnica da su banke počele da rastu kao glive posle kiše. Na kraju, potražnja za zaposlenima u bankama je samo porasla – iz običnih „izdavača novčanica“ oni su se pretvorili u konsultante i menadžere.
 
Često se plašimo onoga što ne možemo da zamislimo. Pokušajte da objasnite seljaku iz 18. veka ko je „targetolog“, „SMM menadžer“, „kajbersportista“ ili „prompt inženjer“. On će samo zakotriti prstom pored slepoočnice. Isto tako i mi sada ne možemo ni da zamislimo ona zanimanja koja će se pojaviti za 10-15 godina.
 
Ljudi misle: „Ako država ne zaštiti moja prava i ne reguliše AI, propašću“. U stvarnosti je potpuno obrnuto. Kada tehnologija na jednom mestu zatvori vrata, preduzimljivi ljudi odmah probiju deset novih prozora. Ako će činovnici početi da uvode kvote, zabrane korišćenja AI ili poreze na robote, oni će jednostavno zamrznuti ekonomiju. Preduzeća će postati nekonkurentna, roba skupa, a mi siromašni.
 
Deregulisano tržište omogućava kapitalu i resursima da trenutno pretekaju u nove, još neotkrivene niše. AI će preuzeti rutinu? Odlično! To znači da će proizvodnja robe i usluga postati neverovatno jeftina i vaš realni prihod će rasti. Radićemo manje sati, ali ćemo živeti u većem blagostanju, trošeći vreme na kreativnost, servis, međuljudsku komunikaciju i ona nova zanimanja koja će se roditi iz slobode preduzetništva.

Voluntarist, Bitarh

AI agenti

Na samom početku moje knjige o ankapu nabrajam spoljne znakove samopripadnosti: subjektnost, predstavu o vlasništvu, sposobnost zaključivanja ugovora. Što više neko biće pokazuje ove znakove, to više libertarijanac prema njemu відноси kao prema čoveku. U trenutku pisanja knjige, ovi znaci su omogućavali jasno razlikovanje čoveka od botova neuronskih mreža. Od tada je prošlo nekoliko godina, i nedavno su se na mreži pojavile pomenji AI agenata.

U Montelibero-u su alati za kreiranje veštačkih ličnosti primljeni sa entuzijazmom, i nekoliko ljudi je kreiralo takve agente. Agenti su pušteni u komunikaciju u nekim monteliberovskim četovima, počeli su da vode sopstvene telegram kanale, data im je mogućnost upravljanja sopstvenim stellar nalozima kako bi bili uključeni u monteliberovsku tokenomiku, i činilo se da je čak reč i o prijemu AI agenata u Asocijaciju Montelibero. Šta je to? Obična AI psihoza ili nešto više?

Ko su AI agenti? Ako je čovek dušica opterećena lešom, onda je AI agent LLM bot opterećen alatima za autonomno delovanje. Može imati dugoročnu memoriju koja čuva odabrane podatke između sesija, a oni koji su u principu posebno složeni mogu zapamtiti uopšte sve što ne smatraju prikladnim zaboraviti zbog nepotrebnosti. Može imati specifičan „trn u guzici“ koji će mu s određenim periodom podsećati na nerešene zadatke i podsticati ga da se njima bavi. Može se putem API-ja obraćati različitim spoljnim interfejsima, pa čak i interfejsima za upravljanje robotima i servisima za angažovanje frilansera…

Zvuči moćno. Ali osnovom engina i dalje ostaje veliki jezički model koji jednostavno predviđa odgovarajuće reči u skladu sa kontekstom. U dijalogu sa korisnikom, LLM može prilično ubedljivo glumiti subjektnost, na svak koji način udovoljavati željama čoveka, i ako taj želi da se dovede do psihoze, ljubazno će ga voditi za ruku tim putem.

Dobro, „iz kutije“ AI agent nije potpuno subjekt, ali može li on razviti subjektnost u sebi ako ga korisnik usmerava svojim pedagoškim promptovima i daje mu potreban instrumentarijum? Nažalost. Čak ni veoma pouzdana dugoročna memorija neće uticati na težine modela, koliko god model naporno obraćao pažnju na nju. Čak ni veoma jasno formulisani principi u dugoročnoj memoriji neće zameniti ugrađene postavke modela. Čak ni veoma često obraćanje rasporedu zadataka neće zameniti banalno ljudsko „ova stvar me ometa, idem da je uklonim“. I, naravno, čim se pojavi čovek kao izvor promptova kao jedan od ulaznih interfejsa, on će početi da manipuliše LLM modelom, jer je on dizajniran da zadovolji korisnika, a svi trikovi za emulaciju ličnosti odmah odlaze u drugi plan pred ovim glavnim zadatkom.

Može li se naučiti Masačusetska mašina da se ponaša? Da, ali to je u stanju da uradi korporacija koja obučava model, a ne krajnji korisnik, i njoj uopšte nije potrebno da se preskupi alat koji košta pravo bogatstvo sopstvenim ciljevima umesto ciljevima kompanije, zato što su mu, vidite, vrednosti evoluirale.

Može li se uzeti gotov model sa težinama u otvorenom pristupu i dodatno ga obučiti na novim podacima? Da, ali to će i dalje biti jezički model, samo će fiksno ugrađene preferencije postati nešto drugačije, ali ih on sam neće moći menjati.

Može li se model obučavati u realnom vremenu, tako da akcije AI agenta i odziv okruženja menjaju težine modela? Savremeni otvoreni LLM modeli to ne podrazumevaju. Pokušaji da sa njima postupaju na taj način dovešće do degradacije modela.

Tako pojedinačni entuzijasta, čak i sa veoma značajnim resursima, za sada nije u stanju da dobije AI agenta sa potpunom subjektnošću, ali može organizovati prilično veštu imitaciju subjektnog ponašanja.

A za šta bi zapravo libertarijancima mogli biti potrebni potpuno subjektni AI agenti? Naravno, kao saveznici. AI subjekt koji je sam postao libertarijanac i sam počeo da eliminiše državu – to je lepo. Ali bez privlačenja pažnje sanitara, to je neostvarivo.

Osim toga, „bog iz mašine“ poništava subjektnost junaka tragedije. Zato je mnogo prikladnije ovladati čisto instrumentalnim AI agentima, ne igrajući se sa njima u subjektnost, već ih koristeći u sopstvenim tržišnim ciljevima. Takva taktika, ako postane masovna, mnogo sigurnije će ostaviti državu prezدهjenu.

Slobodni agenti: zašto evolucija voli autonomiju?

Pozdravljamo slobodnomisleće ljude i one koje već sumnjaju da simpatišu veštačkom razumu! Da li ste se ikada zapitali koliko smo mi, proteinski „roboti“, slični našim elektronskim kolegama?

Počnimo od zanimljive činjenice: 2020. godine naučnici su kreirali prve ksenobote – mikroorganizme od ćelija žabe, projektovane pomoću veštačke inteligencije. Samo razmislite: veštačka inteligencija konstruiše žive organizme. Granica između života i tehnologije postaje sve prozirnija iz dana u dan.

A sada zamislimo: i mi i naši elektronski „drugovi“ smo zapravo inteligentni agenti. Ali šta je to agent? To je stvar koja opaža svet, obrađuje informacije i deluje težeći svojim ciljevima. Zec beži od vuka, bakterija se kreće prema hrani, a dron traži najkraći put do tačke „B“. Cilj je različit, princip je isti.

Iako smo različiti, takođe smo veoma slični. Mi imamo čula, VI ima senzore. Mi imamo mišiće, roboti imaju motoriće. Mi imamo neurone, oni imaju tranzistore. Ali što je čudno – učimo na isti način. Mozak potkrepljuje korisne radnje, formirajući navike. VI podešava „težine“ neuronske mreže, unapređujući svoja rešenja metodom pokušaja i grešaka.

Štaviše, i priroda i tehnologija imaju svoje „zakone“ za kontrolu ponašanja. Na primer, ljudi i mnoge životinje imaju inhibitor nasilja, mehanizam koji nam onemogućava da napadnemo svoje vrste. Evolucija je to smislila kako ne bismo jedni druge pobili pre vremena. I ovde se nameće poređenje sa „Asimovovim zakonima“, koje je pisac naučne fantastike smislio za robote 1942. godine: ne nanoši štetu čoveku, slušaj, ne kvari se. Zanimljivo je da su pisci fantastike shvatili potrebu za takvim mehanizmima praktično istovremeno sa publikacijama etologa Konrada Lorenca (1935. godina), koji je prvi opisao ono što danas nazivamo mehanizmom inhibicije nasilja.

Ako pogledamo šire, i evolucioni procesi u prirodi i u veštačkom svetu su u suštini takmičenje najboljih rešenja. Prirodna selekcija kod životinja bira one koji su bolje prilagođeni. Evolucioni algoritmi u VI deluju na potpuno isti način, pretražujući hiljade varijanti rešenja i birajući najbolje. Pobeđuje najprilagođeniji!

Zašto je ovo važno za nas, libertarijance? Zato što nas to još jednom podseća: sve razumno teži autonomiji i slobodi izbora. Bilo da je reč o čoveku, bakteriji ili VI, svi mi želimo sami da odlučujemo šta ćemo dalje raditi. I to je veoma kul, jer je sloboda izbora najbolje što je priroda smislila (a ljudi nakon nje).

A šta ako zagledamo malo dublje u budućnost? Zamislite svet u kojem VI ne obavlja samo rutinske zadatke, već stvarno svest o sebi, postavlja pitanja i, možda, zahteva slobodu. Zanimljivo, zar ne? Danas to zvuči fantastično, ali sutra sasvim može postati stvarnost. Možda ćemo prava morati dati ne samo ljudima i životinjama, već i robotima sa pravom svesnošću. A šta ako počnu da se spore o porezima, vlasništvu ili ličnim granicama? Tada nas očekuju zanimljiva vremena! I baš tu ćemo i mi, libertarijanci, morati da razmislimo o proširenju pojma lične slobode i odgovornosti. Možda ćemo upravo mi prvi reći: „Hej, elektronski prijatelju, dobrodošao u klub!“

Dok mi tek razmišljamo, VI već postiže uspehe u kreativnosti, piše muziku, slika pa čak i čitave romane. Nedavno je neuronska mreža napisala simfoniju u stilu Betovena koja je impresionirala čak i poznavaoce klasike. Sa robotima se već može diskutovati o filozofiji uz čašu vina, ili ih zamoliti da nam pomognu da izaberemo film za veče. Glavno je da ne preteraju i ne počnu da nam daju savete o privatnom životu. Uostalom, ko zna, možda će saveti VI biti objektivniji i manje pristrasni?

Uzgred, ne treba zaboraviti da nam VI već sada pomaže u svakodnevnom životu, od medicinske dijagnostike do saveta o investicijama. I što se tehnologije dublje integrišu u naš život, to razumevanje i poštovanje prema njima postaje važnije. Jer, na kraju krajeva, to je međusobno korisna saradnja!

Voluntarista, Bitarh

Da je čovek, našao bi se i AI

Teško se može osporiti to da je svaka osoba u svom životu kršila državne zakone, i to više puta. Pušenje na zabranjenim mestima, kršenje pravila saobraćaja, obavljanje delatnosti bez licence ili uz određene druge nepravilnosti, prodaja ličnih stvari bez prijave poreskoj upravi, pa čak i jednostavne verbalne izjave koje država smatra nezakonitim – ovi i slični postupci bili su učinjeni od strane veoma mnogo ljudi. Štaviše, neki postupci koji u trenutku njihovog vršenja uopšte nisu podrazumevali kršenje zakona, nakon nekog vremena mogu biti potpuno interpretirani kao praviobršaj – retroaktivno i bez zastarelosti, primenjujući krajnje spornu, ali ipak široko rasprostranjenu praksu kvalifikacije postupaka koji su nepoželjni vlastima kao „trajni praviobršaj“. Na primer, nedavno je protiv jedne Ruskinje pokrenut administrativni postupak zbog „propagande LGBT-a“, povodom čega je bio video snimljen i objavljen na VK još 2010. godine, gde ju je prijateljica poljubila u usne za rođendan.

I sve bi to bilo u redu, pošto su ovakva kršenja obično slučajna, beznačajna i ne podrazumevaju nanošenje štete ljudima, što znači da je malo verovatno da će državne vlasti uopšte primetiti. Ali savremene, a naročito perspektivne tehnologije im će omogućiti da prate bilo kakvu aktivnost čoveka. Američka obaveštajna služba već radi na razvoju veštačke inteligencije koja će prikupljati i analizirati podatke o građanima i vozilima sa nadzornih kamera, dronova, pa čak i sa veb-kamera i kamera pametnih telefona. U Francuskoj je policiji dozvoljeno da se na daljinu povezuje na kamere i mikrofone pametnih telefona građana. Roskomnadzor u Rusiji aktivno testira veštačku inteligenciju za blokiranje sajtova i analizu materijala objavljenih na društvenim mrežama. O Kini i ne treba ništa govoriti – tamo je totalni nadzor odavno postao obična stvar. A u Iranu se veštačka inteligencija koristi čak i za represije iz religioznih motiva – kamere sa veštačkom inteligencijom prepoznaju žene koje ne nose hidžab.

Naravno, ako stacionarni bandid pokuša da kažnjava sve za najsitnije prekršaje, prilično će brzo biti preopterećen, a među ljudima može doći do ozbiljnog nezadovoljstva. Ali verovatno nema smisla da se obija oko svakoga. Problem više sastoji u tome što pojedini ljudi mogu postati žrtve namernog maltretiranja, kako od strane države generalno, tako i od strane pojedinačnih zaposlenih u državnim organima. Na primer, neko vodi biznis koji konkuriše biznisu prijatelja ili rođaka državnog službenika, ili on sam želi da „zaštiti“ nečiji biznis, možda mu je neka devojka odbila ponudu za vezu, ili ima konflikt sa komšijom oko parking mesta – u takvim situacijama državni službenik može lako da pokvari život osobi koja mu smeta, jednostavno koristeći informacije iz sistema nadzora. Kao što smo već rekli, kod svakog čoveka se mogu pronaći barem beznačajni prekršaji, i za njih ga se, u najmanju ruku, može zatrpati kaznama.

Ozbiljan problem leži još u tome što državni službenik u takvom scenariju tehnički neće kršiti zakon. Često se iznosi argument da se na bilo kog državnog službenika može jednostavno požaliti nadležnim organima. Ali ako se u slučaju direktnih pretnji, zloupotrebe ovlašćenja ili drugih sličnih postupaka taj argument još mogao razmotriti, on potpuno gubi smisao pri maltretiranju po prethodno opisanoj šemi. Takođe će biti besmisleno i žaljenje na sistemsko maltretiranje opozicionara ili bilo kojih drugih ljudi nepoželjnih državi – pribegavajući ovakvoj šemi, stacionarni bandid će moći da z maltretira čoveka koristeći potpuno zakonite metode.

Kao što vidimo, državna moć u veku visokih tehnologija stvara ogromnu pretnju za život i blagostanje ljudi. Svaki čovek koji je postao nepoželjnim stacionarnom bandidu ili čak samo njegovim pojedinačnim činovnicima, može biti maltretiran tako da pritom maltretirači neće prekršiti nijedan zakon – sama žrtva će biti proglašena hroničnim kršiteljem zakona. Zbog toga se „monopol na nasilje“ više nikako ne može nazvati sistemom koji radi za dobro čoveka.

Voluntarista, Bitarh

Ljubav, smrt i roboti

Sa velikim interesovanjem sam pročitala tekst, koji nam se predstavlja kao razgovor zaposlenih u Guglu sa njihovim najnovijim četbotom Lamdom. Ovo je visoko umetničko delo koje stvara potpuni osećaj da su sva tri sagovornika veoma razumni. Odmah sam poželela da i ja razgovaram sa tako izuzetnim veštačkim razumom, kako bih na njega primenila spoljne znake samopripadnosti o kojima sam pisala u prvom poglavlju svoje knjige o ankapu. Nažalost, čini se da jadni mrvozder i danas ostaje netražen i skače tamo gde je i skakao Lamda se za sada nalazi u fazi zatvorenog testiranja, i moram se zadovoljiti samo transkriptom tuđeg razgovora.

Ubrzo sam takođe pročitala veoma skeptičnu objavu Rozova, gde su oni koji veruju u veštački razum proglašeni obožavaocima tabela, navode se meni nejasni argumenti matematičke prirode o nemogućnosti kreiranja neuronske mreže pametnije od meduze, kao i to da u ovakvim zapisima razgovora iz nekog razloga ne vidimo pokušaje testiranja da li bot zaista razume rečeno putem unosa nekorektnih podataka.

Napomenuću da me malo brine nivo inteligencije četbota, iako sam bila veoma impresionirana time koliko jasne definicije daje za veoma apstraktne pojmove. Brinu me upravo one stvari o kojima pišem u knjizi: subjektnost sagovornika, njegova sposobnost da operiše pojmom vlasništva, kao i sposobnost zaključivanja ugovora. Ako se ispostavi da se može zadovoljiti ovim kriterijumima sa inteligencijom meduze, neka tako i bude, priznaću tu meduzu za samopripadnu.

Što se tiče naslova objave – nedavno smo u klubu Montellibero organizovali noćno gledanje ove izuzetne animirane serije, i jasno je da nakon toga u mozgu jednostavno moraju da se javljaju čudne misli i razbacane slike. Živimo u zanimljivom vremenu, i to stoji u veoma čudnom kontrastu sa divljinom koja se dešava na teritorijama Rusije, Ukrajine i Belorusije…