GOST JOVAN JABLAN 22.04.2026

Tema: Prava i odgovornost u eri vještačke inteligencije

https://www.antenam.net

Radio AntenaM

Autorka emisije: Ana Nives Radović

Transcript

SPEAKER_02 0:14

Dobro dan poštovani slušaci 11. S vama je danas radović, a gostan te ne jean doktoran pravnih nauka kojom zahvaljujem na vremenu koji izvade za današnje govanje i želim dobrodošli u studiji radi antene. Tema o kojoj danas govorimo su prava i odgovornost vezana za vještačku inteligenciju, odnosno za oblast koja je toliko široka da se proučava iz više aspekata. Ono što je važno u ovom kontekstu jeste da prije svega i to kom emisije ćemo govoriti o tome koji su sve aspekti vještačke inteligencije, odnosno njenog razvoja. Jedan od njih je pravni i prije svega zbog toga što vještačka inteligencija, način na koji se ona koristi i posljedice koje to izaziva utiče na svakodnevni život ljudi i utječe na trajno da kažemo na određene aspekte njihovog života. I sada prije svega toga da pomenemo i da malo pojasnimo slušacima zbog čega ova oblast koju možemo percipirati kao relativno novu u smislu nekih generativnih modela koji se pojavljuju i činjenica da je danas veliki broj građana o korisnici su zapravo ove tehnologije kroz jezičke modele, kroz generisanje tekstualnih i videosadržaja itede Međutim, ono što se često zanemaruje jest da je to tehnologija koja gotovo 70 godina već postoji i razvija se u različitim oblicima. Dakle, ona je iza tehnologije koju svakodnevno koristimo, ali ne koristimo direktno vještačku inteligenciju, međutim, njena primjena je sve vidljivija i njen utjecaj sve veći. Kako je prije svega došlo do vašeg interesovanja za ovaj pravni aspekt u ovoj tehnologiji i kakav je bio taj istraživački put do sadašnjeg da kažem do sadašnje tačke u koje se vaše istraživanje nalazi?

SPEAKER_01 2:03

Mene vještačka inteligencija je interesovala još za vrijeme diplomskih studija, a činjenica što sam upisao doktorske studije iz ovlasti utjecaja vještačka inteligencije na ljudska prava je neki logičan ili prirodan nastavak mog akademskog puta s obzirom na to da sam magistrirao iz ovlasti interneta i ljudskih prava u kontekstu prakse Europskog suda za ljudska prava, tako da danas moje doktorske studije na Centralnoj Europskoj akademiji u Budimpešti koja je departman Pravnog fakulteta Državnog mađarskog univerziteta u Miškolcu su zapravo umjesto gdje ja istražujem ovu oblast. Ja vjerujem da je vještačka inteligencija zasigurno jedna od najznačajnijih tehnologija ili inovacija sa vremenog doba. Dakle tehnologija koja je donijela, čini mi se tek će donijeti prekratnicu za cjelokupno čovječanstvo zahvajući gotovo sve aspekte ljudskog života, obras se društvenog funkcioniranja i kulture uopće. Zbog toga vjerujem da je riječ o jednoj od najrelevantnijih akademskih tema o kojoj je vrijedno promišljati na jedan odgovoran i ozbiljan način pravoshodno koristeći interdisciplinarniji pristup, o tome smo malo govorili prije emisije u nauci. E sad, ovo što ste rekli da ona nije nastala u prethodnih nekoliko godina nego da seže unazad decenijama, potrebno je da malo posmatramo taj historijski kontekst i da razumijemo da nije vještačka inteligencija jedina tehnologija ili inovacija koja je utemeljima promijenila društvo. Ako se vratimo još do pojave pisma recimo shvatit ćemo koliko je ono omogućilo da prenos znanja izađe iz nekog okvira usmenog pančenja postane trajno i prenosivao sa generacije na generaciju izum šta prese, odnosno štamparije je na neki način demokratizovao pristup informacijama, odigrao ključnu ulogu širenju ideja i generisanju određenih hermenskih period kao što su reformacije i prosvjetiteljstvo kasnije. Industrijska revolucija koja je za svoj simbol imalu parnu mašinu je redefinisala na prvom mjestu ekonomske odnose, apsolutno promijenila strukturu rada i omogućila jednu masovnu proizvodnju dok je internet recimo po ovom u dvadeset vijeku povezao svij u realnom vremenu omogućio do tada neviđene kanale komunikacije i redefinirao neke odnose moći. E onda dolazi, kao što ste rekli, vještačka inteligencija kao jedan logičan slijed događaja u samom procesu razvoja tehnologije, ono što je interesantno za našu priču jeste da je svaku od ovih inovacija u razvoju tehnologije pratila određena inovacija u pravu, odnosno pravo je kao nauka i malo zadatak da odgovori na izazove koje nove tehnologije postavljaju za društvo u određenom trenutku kroz historiju. I sad da bismo razumijeli kako vještačka inteligencija negativno utječe na ljudska prava moramo da shvatimo pokušati se to objasnim na nedostavan način kako vještačka inteligencija opšte funkcioniše. Dakle, osnov sistema vještačke inteligencije su podaci. Ogromna količina informacija na osnovu kojih vještačka inteligencija uči obrase ponašanja i donošenja odluka. Nakon toga slijedi svrha ili cilj koji čovjek zadaje, odnosno pitanje zašto je ona zapravo stvorena i kreirana i modeli i u tome najčešće taj model mašinskog učenja koji nju omogućava da samostalno uči na sopstvenim greškama i da samostalno unapređuje svoje performanse. I na kraju dolazi ta odluka, predikcija ili rezultat koji vještačka inteligencija samostalno donosi koja na prvi pogled izgleda inteligentno i naziv vještačka inteligencija, međutim ona to u suštini nije već zapravo predstavlja proizvod ili posljedicu jedne kompleksne obrade, statističke obrade podataka. Međutim, upravo u tom procesu kako funkcionira vještačka inteligencija se javlja problem za ljudska prava. Prvo ljudima danas nije poznato nerijetko i onima koji stvaraju sisteme vještačke inteligencije kako ona dolazi do određenih rješenja odnosno na koji način ona donosi određene odluke i taj problem se u literaturi naziva problem crne ekutje ili black box problem. Ono što nam je zasigurno jasno i što sigurno znamo jest da vještačka inteligencija ima mnogo veće sposobnosti u pronalaženju puta do rješenja nego što su sposobnosti kognitivne sposobnosti čovjeka bilo po pitanju kompleksnosti zadataka i brzini u kojoj ona rješava te zadatke. Dakle vještačka inteligencija danas može za samo par sekundi donijeti određenu odluku odnosno riješiti neki problem za koji je čovjeku potrebno mnogo više vremena, dakle sati dana ili možda mjeseci. Dat ću vam jedan ilustrativan primjer. Prije nekih desettak godina ukoliko se ne varam stvoren je jedan sistem vještačke inteligencije koji se naziva Alfa Gol i on je namijenjen strateškoj igri GO koja je jako poznata igrana na Stoku, njena tradicija seže još od prije 2000 godina nešto je slično kao i ako ne možemo to porediti niista igra kao šah kod nas. Ono što je interesantno, a što je pokazao se te vještačke inteligencije jest da ona nije samo odnijela pobjedu u odnosu na najbolje igrače te strateške igre već je u tim partijama koristila poteze i strategije koje nikad nisu u istoriji teorije te igre bili viđeni. Što nam to govori? To nam govori da vještačka inteligencija može pronaći put do ršenja na način koji čovjeku nije poznat. E upravo ta činjenica možda ima katastrofalne posljedice i tu ću vam dati drugi primjer. 2017. godine se u Mijanmaru desio genocid na manjinskim muslimanskim stanovništvom. Amnesty International je u svom izvještaju iz 2020 dva. godine o tom genocidu rekao da je Facebook odigrao ključnu odnosno aktivnu ulogu u samom procesu odnosno širenju govora mržnje i poziva na nasilje u odnosu na to manjinsko stanovništvo što se zapravo desilo. Svaka društvena mreža, samim time i Facebook ima algoritam koji za svoj cilj, između ostalog ima i maksimizaciju angažmana korisnika. Cj vlasnika društvenih mreža je da mi što više vremena provodimo na tim platformama. Algoritam je prepoznao da je u javnom prostoru u Mianmaru govor mržnje je jako prisutan i da on kupuje tako da kažem pažnju kod ljudi i odlučio je u cilju maksimizacije angažmana korisnika da što više sadržaja te vrste, odnosno govora mržnje i pozivana na silje plasira na Facebooku. Dakle, Facebook je bio preplavljen tom vrstom sadržaja, nakon čega se desio genocid. E sad nama u prvom trenutku taj cilj algoritma Facebooka može izgledati legitiman i razumljiv. Međutim način na koji je algoritm te društvene mreže došao do cilja svakako nije. Dakle ako ćemo dozvoliti vještačkoj inteligenciji danas da zaradi ostvarenja određenih ciljeva koristi sredstva zagrupljivanja, dehumanizacije ili na koncu pozivanja na silje u odnosu na određenu grupu ljudi onda nam je jasno o kakvoj opasnosti je riječ. Tu dolazimo do drugog možda iznačajnijeg načinog problema po pitanju ljudskih prava, a to je pitanje samog cilja. Kakve je to ciljeve mi kao društvo danas postavljamo vještačku inteligenciji mi naivno čini mi se često polazimo od pretpostavke da čovjek u trenutku kreiranja nekog cilja polazi od nekog racionalnog interesa i opštaj dobro. Međutim, ukoliko opet se vratimo malo u istoriju i posmatramo kako su kreirane određene strategije, donošenje odluke ili kreirane ti ciljevi, shvatit ćemo da su oni produkt u nemalom broju slučajeva nekih partikularnijih interesa, odnosa moći ili kratkoročne koristi. E sad, na koji način vještačka inteligencija dolazi do određenog cilja, odnosno kakve ciljeve mi kao društvo postavljamo vještačkoj inteligenci u mnogome zavisi od toga u kakvom društvenom uređenju mi živimo i tu ću se vratiti za trenutak na algoritm Facebooka kao društvene mreže. Koji rekao sam za ciljima da mi kao korisnici što više vremena provodimo na tim platformama. Postavlja se pitanje koji interes ili razlog stoji iza toga cilja društvenih mreža i vjerujem da nam treba mnogo vremena da shvatimo da u pitanju novac, odnosno profit. Facebook i sve druge društvene mreže maksimizacijom našeg angažmana na njihovim platformama zapravo zarađuje ogroman novac prije svega na način što naše vrijeme, odnosno pažnju prodaju digitalnim oglašivačima i zbog toga je danas Facebook preplavljen reklama. Pitanje nije da li je tehnologija dobra ili nije dobra. Pitanje je kakve ciljeve mi tehnologiji kao društvo postavljam ukoliko ćemo postavljati te ciljeve radi ostvarivanja profita nekih partikularnih interesa, a ne opšteg dobro, onda je upitno gdje ćemo kao čovječanstvo završiti. Upravo je tu pravo kao nauka za koju ja vjerujem da predstavlja svojevrsni korektiv ljudskoj prirodi koji treba da spriječi ili u manje efektivnog, a lošeg i destruktivnog u čovjeku da u načelu kad je vještačka inteligencija u pitanju odgovori na dva pitanja. Prvo je kakve ciljeve mi kao ljudi možemo postavljati vještačkoj inteligenci i drugo je na koji način vještačka inteligencija može dolaziti do tih odluka odnosno ciljeva. Prije nego što krećemo dalje samo jedna mala afusnota meni ovlasti istraživanja takva da ja moram primarno da se bavim negativnim aspektima Vjetačke inteligencije. Ne želim da se danas shvatim kao neko tko je tehnoskeptik ili povornik nekih radikalnih teorija o tome da će Vještačka inteligencija donese apokalipsu i uništenje čovječanstva. Ja držim da je riječ o jednoj čudesnoj inovaciji koja je donijela mnoge dobro biti već čovječanstvo, a nadam se ću u narednom periodu donijeti još više. Recimo ako pogledamo zdravstvo mi možemo da vidimo da je ona znatno unaprijedila ranije diagnostifikovanje određenih bolesti, otkriću određenih lijekova, što je sve naravno doprinijelo podizanju kvaliteta i produžitka života, a u ekonomiji je ona znatno doprinijela efikasnosti, oslobodila ljude tih repetitivnih i ponavljajućih zadataka, što na koncu nama ostavlja više slobodnog vremena da ga provodimo onako kako nižalim. U obrazovanju recimo je omogućila takozvani personalizovan učenje koje je prilagođeno svakom pojedincu jel tako i njegovim potrebama dok je recimo u oblasti klimatskih promjena vještačka inteligencija omogućila da mnogo ranije predvidimo određene promjene u samoj ekologiji, da optimizujemo način korištenja prirodnih resursa itede Tako da vještačka inteligencija nosi mnogo dobrog, ali kao svaka tehnologija kao što sam rekao ima određene negativne aspekte o kojima je neophodno misliti i na koje pravo mora da da odgovor.

SPEAKER_02 15:02

Upravo zbog toga, dakle tehnologija kao takva moralno neutralna kao i sve drugo što je inovacija, ljudska, samo je pitanje njene upotrebe ili zloupotrebe i iz tog razloga drago mi je što ste spomenuli evoluciju da kažemo ljudskih izuma u smislu šta je sve nastalo pa ga je kasnije trebalo regulirati. Dakle, prvo su se pojavili određena promjena u društvu, pa je netko prepoznao da to može imati pozitivan ili negativan utjecaj na ljude, način korištenja itede pa je neke stvari mogla morao ograničiti. Dakle, uvijek se kada govorimo i o pravu govori o nekim ograničenjima, dobro je što ste ovo pomomenuli da ne govorimo o zabrani, da ne govorimo o načinu na koji se utječe na vještačku inteligenciju, da sada netko kaže ne smije se koristiti negdje, dakle naravno imamo sfere u kojima ipak ne bi trebalo da bude zastupljena, ali ako govorimo o načinu reguliranja i o dinamici u ovom smislu. Koliko, evo pošto ste spomenuli sve ove prethodne procese ljudske evolucije odnosno razvoja nauke, koliko pravni da kažemo okvir kasni u odnosu na ove pojave, evo sam primjer Amnesty International i genocida govori o tome da nije bilo mehanizama da se te stvari spriječe i predvide, ali eto nadamo su čovječanstvu da mogu se spriječiti dakle kontrolom takvih sistema. Koliko je sada na nivou da kažemo razvoja pravne nauke ona dovoljna i koliko je da ne govorimo sada prihvaćena ili većina zemalja i dalje da kažemo tek usvaja početne neke aktove i pravne okvire za ovu oblast?

SPEAKER_01 16:35

Pitanje brzine regulacije određene inovacije ili tehnologije pravoshodno zavisi od političke volje određene države. Najviše je odmakla Europa, odnosno EU sa aktom o vještačkoj inteligenciji koji je prvi zapravo horizontalni akt, odnosno akt koji na horizontalnom nivu reguliše sisteme vještačke inteligencije i on je zasnovan nekim principima rizika, ne bih sad ulazio detaljnije u to više stručna priča. A s druge strane recimo na zapadnu, odnosno u Americi ta regulativa ponestaje ili nije toliko striktna kao što je regulativa EU koja je zasnovana između ostalog i na zaštiti ljudskih prava. Tu opet kao što sam rekao ključno ulogra politički interes odnosno interes onih velikih korporacija, tehnoloških koji utiču na političke odluke odnosno na to da li trebaju u kojoj mjeri regulirati vještačku inteligenciju. Tako da EU je najdalje odmakla. I dalje nije to na nivu na kojem bi trebalo po mom nekom sudu da bude, međutim pokazala Europa ono što je njena čini mi se i ideja kroz historiju a to je neka solidarnost, zaštita tog demokratskog poretka, ljudskih prava itede Nije lako regulirati vještačku inteligenciju zato što je potrebno napraviti balans, balans između zaštite ljudskih prava i omogućavanja nastavka inovacija odnosno razvoja vještačke inteligencije. Tako da evo vjerujem da će EU i savjet Europe Europski sud za ljudska prava kroz svoju praksu iznjedriti neka rješenja, ali nam to još ostaje da vidimo kako će se vrati.

SPEAKER_02 18:34

Koliko je uopće moguće regulirati nešto, na jednoj strani imate velike igrače, to pomenuli ste Facebook odnosno metu alfabet, Google krovnu kompaniju, dakle, Ilona Maska i njegoviks i sve ono kompanije koje su zaista i u financijskom i u načinu po broju korisnika zaista giganti u svakom smislu koje su mnogomoćnije i ekonomski, odnosno financijski i utjecajne od brojnih vlada, EU se tu kao jedna grupa zemalja ipak otišla je korak dalje u odnosu na druge zemlje i uspjela da nešto napravi. Međutim, pojedinačne zemlje, ok, u okviru EU primjenjivat će se to da kažemo na nižem nivu, ali ako govorimo o tome da pred sobom imate zaista velike izazove, koliko to košta, ne mislim u materijalnom financijskom smislu, nego koliko, koliko to zahtijeva evo opet se vraćam na ovaj primjer koji ste spomenuli, bilo je teško predvidjeti da će algoritm Facebooka proizvesti ono što je radio. Ali koliko su zemlje, zapravo koliko kapaciteti, pravno znanje koje sada postoji u ovoj oblasti zapravo omogućava da se ova ovlast reguliše na taj način, koliko pravnog osnova zapravo se kreće u reguliranje materije koju mi ne znamo kako će izgledati recimo za pet godina jer prije pet godina nismo mogli da predvidimo ovo što se sada dešava.

SPEAKER_01 19:55

Ako potezi države u pravnom smislu, odnosno regulacija ne prati na vrijeme ono što su inovacije i tehnologije, ja vjerujem zapravo znam da nauka, odnosno pravna nauka prati. Imate si ja se već knjiga istraživanja koji se bave pravom vještačke inteligencije, modalitetima kako vještačku inteligenciju treba urediti na koji način da bi se pravoshodno napravio taj balans između zaštite prava i omogućavanja nastavka razvoja vještačke inteligencije i pronalasku, to je jedno od ključnih pitanja kada je vještačka inteligencija u pitanju odgovoran na to tko je zapravo odgovoran za odluke koje donosi vještavačka inteligencija. Tu bih ako mi dozvolite nešto rekao odgovornost jer je jako važna tema. Dakle najjednostavnije bi nam bilo reći da je odgovoran da je odgovorno ono lice odnosno ona korporacija koja stoji iza odluke Vještačke inteligencije koja za posljedicu ima povredu nečeg ljudskog prava. Međutim algoritms kojoj odluci prethodi čitav niz ljudskih korporativnih ili institucionalnih odluka. Vi imate proizvođača ili nekoga tvara sistem vještačke inteligencije, imate developera ili nekoga tko bira podatke i trenira odnosno daje model za treniranje vještačkoj inteligenci, a i na kraju imate korisnike vještačke inteligencije koji opet mogu biti fizička ili privatna pravna lica odnosno državni organi, javne institucije itede. E sad u tom lancu čitave odgovornosti, proizvođač ili developer mogu biti odgovorni ako je sistem loše dizajniran, ako nije adekvatno testiran, ako su ti podaci na kojem je on trenirao pristrasni, nereprezentativni, iako ne ispunjava minimum neke transparentnosti i zaštite i prava. Developer, odnosno distributer sa druge strane. može biti odgovoran ukoliko je stavio na tržište određeni sistem vještačke inteligencije, a znao je ili je morao znati u tom trenutku da ona ne ispunjava minimum standarda zaštite prava. I na koncu korisnik, dakle određena korporacija ili ljudi koji koriste vještačku inteligenciju mogu biti odgovorni ukoliko koriste u nekom neodgovarajućem kontekstu odnosno za ciljeve koji su protivzakoniti, ukoliko ne izvrše procjenu rizika za ljudska prava i ukoliko taj sistem ostavi da funkcioniše bez kontrole i bez mogućnosti preispitivanja odluke vještačke inteligencije od strane onog čovjeka čije je ljudsko pravo napovrijedila. Sada se u tome otvara jedan od centralnih problema savremenog prava, a to je razvodnjavanje odgovornosti. Opasnost nije samo u tome da vještačka inteligencija donese odluku koja će povrijediti nečije ljudsko pravo već i opasnost i u tome da za tu štetu koju ona proizvodi nitko nasnosi odgovornost. To se u literaturi naziva praznina odgovornosti, dakle situaciju koju je odluka donijeta nekim tehničkim sredstvom, a da ne možemo da razumijemo i utvrdimo tko je za tu odluku preashodno pravno onda moralno i politički odgovor. Zbog toga se rasprava u teoriji sve više preliva sa pitanja tko je kriv za odluku vještačke inteligencije na pitanje koje je imao dužnost da spriječi donošenje te odluke. To je mnogo pogodniji okvir za razumijevanje koncepta odgovornosti kad je u pitanju vještačke inteligencije jer nije isto ukoliko greška nastane u fazi dizajna vještačke inteligencije, u fazi razvoja, u fazi distribucije, fazi odabira podataka ili u toj krajnjoj fazi korištenja. Svi ovi akteri koje sam pomomenuo od samog proizvođača do korisnika imaju određenu moć nad sistemima vještačke inteligencije, a tamo da se nalazi moć trebalo bi da se nalazi i odgovornost. Posebno je važno naglasiti ako govorimo o odgovornosti da vještačka inteligencija ne može imati kao takva bilo koju vrstu odgovornosti, ona nema svijest, nema namjeru, nema osjećaj i krivice, niti može da razumije određene pojmove poput pravde, jednakosti. Izjavam se zabrane i diskriminacije na način na koji ih razumije čovjek. Ona optimizuje zadati cilj i čini ga mnogo efikasniji nego što čovjek može zapravo da do njega dođe. Upravo za to vještačko inteligenciji jako postoje neke teorije koje govore da joj treba dati pravni subjektivitet, odnosno da ona per se bude nosilac prava i obaveza, a po mom sudu su one pogrešne. I za odluke vještačke inteligencije moraju da odgovaraju oni ljudi, odnosno korporacije ili institucije koje stoje iza faze dizajna, treniranja, distribucije i primjene vještačke inteligencije. Tu bi se osvrnuo na još jednu oblast koja je direktno vezana sa pitanjem odgovornosti, a to je etika vještačke inteligencije. Kad kažemo etika vještačke inteligencije, tu se ne misli preashodno na neku pretpostavku da vještačka inteligencija mora biti dobra. Već etika vještačka inteligencija ima za cilj da u fazi dizajna, razvoja i primjene vještačke inteligencije nju gradi određene etičke standarde poput jednakosti, dostojanstva, zabrane, diskriminacije, poštovanja, privatnosti, podataka itede. E tu sad opet imamo jedan izazov iz ugla pravnih nauka jer vještačkoj inteligenciji vi ne možete dati tehničko upustvo ili naredbu da poštuje jednakost i ljudsko dostojanstvo. Te etičke vrijednosti moraju da se pretvoru neke konkretne pravne mehanizme. Pa tako za vrijeme cjelokupnog razvoja vještačke inteligencije mora postojati ljudski nadzor. Podaci na kojima se ona trenira moraju biti nepristrasni i kvalitetni. Prije nego što se ona pusti na tržište, ona mora biti testirana na diskriminaciju i mora biti izvršena procjena rizika po ljudska prava. Čovjeku na kojeg je utjecala određena odluka mora biti objašnjeno kako je vještačka inteligencija došla do te odluke. I na kraju isti taj čovjek ukoliko je ona povrijedila njegovo ljudsko pravo mora imati pravo na žalbu odnosno pravo da ospori tu odluku Vještačke inteligencije.

SPEAKER_02 26:47

Važno je da o ovome govorimo zato što kada se govori o vještačkoj inteligenciji i narušenim pravima najčešće se govori o autorskim pravima, vidimo sve češće posebno veliki izdavači, mediji itede da kažemo onemogućavaju generativnim modelima pristup njihovim sadržajima da ne bi bili zloupotribljeni i reciklirani i predstavljani bez navođenja izvora. To je jedan segment o kojem se možda sada najviše govori. Mnogo manje se govori o ovom utjecaju. Da li zbog toga što možda javnost više traži da se više govori o ovome ili mi kao građani da kažemo ili korisnici itede više osjećamo potrebu da se zaštite autorska prava, a nismo svjesni potencijalnih opasnosti po ljudska prava. Šta je konkretno iz vaše perspektive ono što smatrate zapravo razlog zbog kojeg ste zapravo odlučili da ovoj sferi posvetite više vremena i naravno dotići ćemo se pričati o privatnosti jer se također nadovezuje na sve ovo. Dakle koliko je društvo i koliko su pravni sistemi javnosti, dakle o kojim god njihovima govorimo svjesni potrebe da se ovo pitanje rješava na način na koji vi to proučavate i radite na teorijskom i praktičnom nivou u smislu utjecaja na ljudska prava. Dakle, koliko smo mi uopće svjesni potrebe da se na ovaj način zaštitimo.

SPEAKER_01 28:04

Stručna zajednica je apsolutno svjesna da je potrebno regulicirati Vještačku inteligenciju. Koliko su svjesni ljudi koji se ne bave ovim temama, koji koristeju Vjetačku inteligenciju na svakodnevnom nivou to je već upitno. I spomenuli ste pravo na privatnost i tu možemo vidjeti koliko ljudi zapravo razumiju na koji način je potrebno koristiti vještačku inteligenciju odnosno kakvog utjecaja ona ima na naše privatne podatke. Sociolozi kažu da mi danas živimo u takozvani datafikovanom društvu ili datafight society u kojem je postalo sve mjerljivo i tu ne mislim na one naše navikke koje su postale sastavni dio kulture da mi mjerimo svakodnevno korake koje smo preašli, kalorije koje smo unili ishranom ili potrošili fizičkom aktivnošću već na činjenicu da algoritmi danas mnogo više znaju o nama nego što mi uopće možemo da pretpostavimo. U tom smislu pravo na privatnost ne treba tumačiti u onom klasičnom značenju tog prava da nas ne može nit fizički da prati, da nam nitko ne može ući u stan ili kuću bez našeg odobrenja ili da nas nitko bez odobrenja suda ne smije prisluškivati. Pravo na privatnost u digitalnom svijetu kakvom živimo zapravo podrazumijeva kontrolu nad našim lčnim podacima odnosno nad informacijama o našem ponašanju, navikama, potrebama, strahovima, društvenim odnosima, političkom opredjeljenju itede zavisno od toga opet u kakvom državnom uređenju živimo zavisi kako će se ti podaci koristiti. Vi u Kini recimo imate takozvani social scoring sistem koji podrazumijeva da nosu u masovnom nadzor koji postoji u Kini putem kamera mislim da je Kina zemlja sa najvećim brojem kamera na svijetu posmatra odnosno nadziraju 24 sata u javnom prostoru nije nagrađan. Zavisno od toga kako se oni ponašaju između stalog u javnom prostoru vještačka inteligencija će prikupljati te podatke i kasnije će se to direktno preliti na to da li će oni ostvariti neka svova ili ne. Da banalizujem recimo ukoliko netko od njih pređe pješački prelaz na crveno svjetlo ili baci recimo otpadke na mjesto na koje nije predviđeno za to. Vještačka inteligencija će automatski prikupiti taj podatak, obraditi ga i u trenutku kad bude ista ta vještačka inteligencija jer ti sistemi komuniciraju među sobom, donosila odluku o tome da li tom građaninu treba dati kredit recimo u banci ili neku socijalnu pomoć ili ga tre unaprijediti na poslu, ona će uzeti taj podatak koji može negativno utjecati na njegovo ljudsko pravo. To je primjer kako se naši privatni podaci koriste u autoritarnim sistemima. Dakle, ne možemo percipirati vještačku inteligenciju kao neku pojavu tehnologiju i samo je na taj način tumačiti jako je važan kontekst društveno uređenje koje imaju određeni ljudi zavisno od toga gdje žive. Kada su u pitanju zapadne zemlje kojima mi prepadamo u kojim je ekonomski sistem pravoshodno zasnovano tom liberalnom kapitalizmu problem dobija jednu drugu dimenziju. Ja bih tu spomenuo knjigu koja nosi na slov nadzorni kapitalizam Šozana Zubov je autor kamerička filozof Kinja koja detaljno objašnjava ovaj problem. Njena teza je da velike tehnološke kompanije posjeduju i kontinuirano prikupljaju naše privatne podatke pravashodno zbog sticanja profitana način što te podatke prodaju digitalnim oglašivačima. Ja vjerujem da nam se svima dešava da recimo situacije poput toga, evo sad je sezona promjena ja mislim guma, meni su potrebne gume i algoritmu neće biti potrebno mnogo vremena da se zna tu informaciju i meni će se desiti nedugo nakon toga, tako je da na određenoj društvenoj mreži ili savitu mi se pojavio glas kompanije koja se bavi prodajom i zamjenom guma. I to na prvi pogled uopće ne djeluje ništa strašno, čak može biti korisno za mene s obzirom da mi je to potreba. Međutim, postavlja se pitanje što ako se ta komunikacija ne odvija između tehnološke kompanije i kompanije koja prodaje gume nego između tehnološke kompanije i bezbjedonosne službe jedne zemlje ili partije na vlasti recimo i što ako predmet te komunikacije nije trebaju ili meni ili ne gume nego kakva su moja politička opredjeljenja, što ja mislim o ljudima koji su na vlasti itede Tako da također ono što ona također napominje u toj knjizi jeste da su ljudi jako malo svjesni to je ovo što ste pitali podataka koji ostavljaju na internetu i nerijetko oni daju pristanak da netko prikuplja i obrađuje naše podatke. Svi oni prozori kuki iz kojima izlaze, koji mi klikamo bez mnogo razmišljanja zapravo predstavljaju naš pristanak da netko prikuplja i obrađuje naše podatke. Dakle, stvoreni je jedan sistem u kojem čovjek ili iz neznanje ili iz neke prike jer mu je nužna neka informacija sa interneta ili pomoć vještačke inteligencije zarad te usluge daje na uvid svoje privatne podatke. Druga stvar, sistemi vještačke inteligencije, a tu evo pomomenuli ste i čad GPT te velike jezičke modele. Čini mi se da su izgradili više povjerenja kod ljudi nego što mi imamo jedni između drugih u nekim situacijama. Pazite. Mi na svakodnevnom nivou komuniciramo sa tim sistemima vještačke inteligencije, aplodujemo im naše medicinske izvještaje, dijelimo im neke lične probleme, dilejime, izazove sa kojima se srećujemo u životu i imamo nerijetko više potrebe i povjerenja u Čat-GPT recimo da nam riješi određeni problem ili da nas razumije nego čovjeka. Postavlja vas pitanje zašto je to tako? Ja vjerujem da je to tako za to što Čat-GPT, odnosno vještačka inteligencija neće vas nikada dosuditi ni zašto. Ona vas neće kritikovati, vi nećete pred njom. Nećete osjetiti stid pred njom ako se opštite nešto što je lično i će ga se možda sramiti. E tu nastaje ozbiljan problem za pravo na privatnost. Čovjek često danas ne zna koji podaci se o njemu prikupljaju, tko prikuplja te podatke u koji u svrhu, koliko dugo se ti podaci čuvaju, kakvi se zaključci iz njih izvaju.

SPEAKER_02 35:25

Ono što još manje znamo jeste da svi ti podaci čine jedan sastavni dio odluka vještačke inteligencije koji direktno utiču na naša ljudska prava, kao spomenuo sam kao što je recimo pravo na zaposlenje odnosno pravo na rad podizanja nekog kredita u banci i itede Jedna stvar koju samo ćemo kratko se toga doći budući da smo prilikom najave ove emisije i sa savradnicima i kolegama koji se bave ovim tematikama više, došlo je do, dakle govorili smo o vještačkoj inteligenciji onda su spomenuli vezano za ono što je najaktuelnije u Crnoj Gori, to su video snimci koji se pojavljuju Miloše Medenice za koji dio zvaničnika i dalje tvrdi da je riječ o vještačkoj inteligenciji. U takvim situacijama kako, koji da kažemo pravni pristup kada se govori o onome što je da se ne bavimo sadržajem koji on sa opštava, ali imamo tvrdnje dijela vlasti da su u pitanju snimci generisani uz pomoć vještačke inteligencije. Koji bi tu bio pravni pristup odnosno kako se baviti tom tematikom?

SPEAKER_01 36:33

Pravni pristup bi bio prashodno da se provjere provjeri istinitost tih navoda, bila to vještačka inteligencija ili ne. Međutim što je problem u ovom konkretnom slučaju koji zaukupljuje javnost crnogorsku već duže vremena. Nije problem u tome je li to vještačka inteligencija ili nije vještačka inteligencija, nego je pojem u tome što mi to ne znamo. To nam govori zapravo o tome da je vještačka inteligencija donijela ne samo ona nego internet prije toga jedno vrijeme post istine. Mi ne možemo da utvrdimo što su činjenice a što ne. Tako da trebalo bi na neki način da utvrdimo da li su ti navodi istiniti ili ne postoje institucije koje su za to nadležne da provjere te navode i da odnosu na to jesu li to činjenice ili nisu, preuzimaju naravno pravne radnje koje su propisane zakonom.

SPEAKER_02 37:32

Još jedna stvar koja će biti aktualna u Crnoj Goriji, a tiče se ove teme je ljetnja škola mašinskog učenja koji je također blisko oblasti kojom se bavite. Dakle očekujemo ovog ljeta na Cetanju jedan zaista važan. Jednu priliku za koju za sve one koji ova ovlast interesuje zapravo pruža malo drugačiji, imalo drugačije upoznavanje sa njom u odnosu na sve ono što smo do sada mogli da vidimo, ne samo u Crnoj Gori već u odnosu na način na koji se ulasti pristupalo. O čemu je riječ, kakav je događaj u pitanju i kome je namijenjen?

SPEAKER_01 38:06

Crnogorsko udruženje za vještačku inteligenciju ili maje koja okuplja entuzijaste iz ovlasti vještačke inteligencije, ljude koji se bave naukom vještačke inteligencije i primjenjuju vještačku inteligenciju u praksi je ove godine partner na projektu sa Eastern European Machine Learning Summer School koji je jedna prestižna ljetnja škola koja se održava svake godine u različitoj državi na jugoistočnoj Europi. I ove godine je Crna Gora dobila priliku da održi tu školu. Ja moram reći da je riječ o jednoj prestižnoj školi iz oblasti vještačke inteligencije, a u prilog toj tezi govori i činjenica da je crnogorsko udrženje za vještačku inteligenciju dobilo preko dvije tisuće šesto prijava od strane naučnika iz čitavog svijeta kapaciteti projekta su takvi da će doći oko više od dvjesto istraživača iz čak sto trideset pet zemalja čitavog svijeta a da će predavači na školi biti renomirani profesori i naučnici sa Cambridge Oxforda New York Universite itede one će se održati od 27 jula do jedan augusta na cetinju partneri na tom projektu su jako velike tehnološke kompanije, najpoznatije tehnološke kompanije poput Google Deep Mind. Tako da je riječ o stvarno jednom velikom i značajnom događaju generalno za naše društvo i državu opšteja. Meni je naročito drago što će se ta ljetnja škola držati na Cetinju s obzirom da dolazim sa Cetinjem i vjerujem da je moj grad oduvijek bio grad velikih tema.

SPEAKER_02 39:48

Svakako i nadamo se da će događa biti uspješeno što se ove najaveni ne sumnjamo. Gospodine Japlan vrlo hvala na svim informacijama koje ste danas podijelili vjerujem da je sluša ima mnogo interesantnijih posao upravo ovaj pristup kojem ste govorili i da su oni koji će sjutra donositi odluke vezano za reguliranje ove oblasti ipak znaju s kojim pred znanjem treba nečemu da pristupe.

SPEAKER_01 40:10

Bilo je moje zadovoljstvo i hvala vam pozivu.

SPEAKER_02 40:12

A vama poštovani za pažnju spreporu da ostanete uz program Radijan ten.