Naslovnu ilustraciju stvorila je umjetna inteligencija - DALL-E generator fotografija
Kako će umjetna inteligencija mijenjati novinarstvo i sadržaj koji redakcije nude čitateljima, gledateljima i slušateljima? Kako će utjecati na svakodnevni život ljudi?
To smo pitanje postavili petero autora, u vrijeme dok se Europska unija priprema za izbore, jača borbu protiv dezinformacija te privodi kraju rad na prvom svjetskom zakonu o umjetnoj inteligenciji.
Za projekt “Što nam radi UI” pišu i govore: Ivan Pandžić (24sata), Ivana Dragičević (N1), Ante Tomić (Jutarnji list), Dora Kršul (Telegram) i Martina Validžić (HRT). Projekt Sindikata novinara Hrvatske podržao je Ured Europskog parlamenta u Hrvatskoj.
Evo što o umjetnoj inteligenciji i dezinformacijama piše urednica vanjske politike N1 Ivana Dragičević:
I vrapci na grani već znaju da je 2024. najveća izborna godina u povijesti čovječanstva. Tri miljarde ljudi glasat će u vremenu najnižeg povjerenja u institucije demokracije, napose političke stranke. Izvještaj o globalnim rizicima, objavljen tradicionalno uoči početka Svjetskog ekonomskog foruma u Davosu, osim klimatskih promjena, na sam vrh rizika za čovječanstvo, stavio je upravo rizik od dezinformacija generiranih umjetnom inteligencijom.
Ocijenjeno je kako alati umjetne inteligencije dizajnirani za širenje dezinformacija mogu potkopati sve, od samog izbornog procesa do izazivanja nemira. Još prije osam godina s referendumom u Velikoj Britaniji, koji je bio baziran na lažnim informacijama, i algoritamskom manipulacijom podacima koje su građanke i građani „dobrovoljno“ podijelili na tzv. društvenim mrežama, postalo je jasno da su se stvari stubokom promijenile.
Umjetna inteligencija može izraditi modele koji utječu na veliki broj ljudi u kratkom vremenu, a zatvorenost u vlastite eho-komore, krugove istomišljenika, kognitivna pristranost koja nas algoritamskom adiktivnošću vuče i privlači u sve dublje rupe u kojima nam se može servirati sve i svašta pokazuje zaista da vrijeme koje je pred nama, koncept demokracije koji moramo mijenjati, u sebi ima ključnu varijablu koja se zove umjetna inteligencija.
„Sve je stvar percepcije“, rekao je nekad netko, a percepciju je lako zamućivati, u vremenu kada se činjenice, kažu, moraju nanovo provjeravati. U doba rata, u doba kada je mnogima u interesu da ne bude dobro, da se sumnja, da se dijeli, da se mrzi i da se misli da smo upravo i jedini mi sami u pravu. Polarizirajući diskurs zavladao je javnim prostorom odavno, a infiltriran je u sve teme, od zdravstva, školstva, do socijalne pravde, ekonomije.
Teme koje nas uzbuđuju, koje komentiramo, oko kojih se zajedljivo svađamo u serijama objava na društvenim mrežama, nešto je na što mislimo da imamo utjecaja. Kako objasniti da možda i nemamo, da nas je jednostavno „zarobilo“ u slabosti bivanja čovjekom. U slabosti kognitivne pristranosti s jedne i disonance s druge strane.
Jedan od najvećih europskih stručnjaka za umjetnu inteligenciju i njezin utjecaj na društva, Claes de Vreese, sa Sveučilišta u Amsterdamu, govorio mi je nedavno, za emisiju N1 (DIS)info o umjetnoj inteligenciji o tome kako u 2024. ulazimo potpuno nespremni.
U posljednjih godinu do dvije, umjetna inteligencija prestala je biti tema koja okupira samo ljude iz tehnološkog sektora, jer je s generativnim alatima, od Chat GPT-a, do deep fakeova, pokazala koliki utjecaj ima na društvo, poglavito jer su alati za kreiranje takvog sadržaja postali dostupni svima, te je iz dnevnog boravka moguće brzo napraviti disrupciju na globalnoj skali. Ako takve tehnološke mogućnosti stavimo u kontekst utjecaja i moći tzv. malignih aktera, bilo državnih, bilo kriminalnih, imamo ozbiljan problem.
I sama demokratska društva s ovime su na kušnji, jer kao moguće odgovore na dezinformacije, te činjenicu da je njihovo širenje i potkopavanje povjerenja strateška djelatnost stranih aktera, države i vlade mogle bi si htjeti dodijeliti više ovlasti za kontrolu informacija na temelju onoga što smatraju “istinitim”. Sloboda medija, interneta koje su već pod udarom, mogle bi se dodatno pogoršati, a represija protoka informacija pogoršati.
Prije nekoliko godina posjetila sam berlinski Futurium. Interaktivni muzej i izložbeni centar u kojem se govori o budućnosti i promišlja o nama u njoj. Na aktualnoj izložbi bila je postavljena kabina za glasanje. Kada ste ušli u nju i za sobom povukli zastor, morali ste namjestiti lice prema kameri koja je očitavala vaše obrise lica. Zatim se vrlo brzo na ekranu pojavila grafika sa stupcima u bojama ključnih njemačkih političkih parlamentarnih stranaka.
Po mojim crtama lica, umjetna je inteligencija u postocima izračunala za koju bi ja stranku, rekli bismo „po faci“, trebala glasati. Gledaju nas tako sve algoritmi dok palcem svakodnevno povlačimo gore dolje po ekranima, klikamo potpuno nesvjesni da se svakim tim potezom, zastajanjem nad nekim sadržajem ili interesom za neki drugi, dajemo u nečije tuđe umjetne ruke i odlazimo u sve dublje rupe.
Kako čovjek može biti kognitivno otporan, kada je naučio da informacije stvara čovjek i da ima slobodnu volju, a ono što se događa pokazuje da se može dogoditi da gotovo devedeset posto online sadržaja kreira umjetna inteligencija, a da čovjek već sada teško razlučuje što je generirala umjetna inteligencija, te slijepo vjeruje svemu što podržava njegove stavove ili ekstremne emocije, ljutnju, bijes, ono što njega kognitivno mazi ili mu u njegovom kognitivnom prostoru daje za pravo.
Teško je. Što možemo učiniti?
U doba aktualne velike promjene tek smo na početku uvođenja regulacije. Europska unija busa se u prsa sa svojim setom zakona od Akta o digitalnim uslugama, do aktualnog o umjetnoj inteligenciji koji je u nastajanju kao prvi takav u svijetu. No regulacija nove industrije nešto je što se uvijek do sada događalo, pitanje je jesmo li u ovoj previše zakasnili i kako dalje od ovog nultog trenutka?
Digitalni svijet, kojem smo se morali predati, ne pušta nas. Pažnja je kratka, učimo drugačije, tako i razumijevano. Generacijski jazovi veći su i događaju se brže no ikada u povijesti. Ako naša tijela ostaju ista kao prije, može li se naš um adaptirati? Biznis model tzv. društvenih mreža može nam ilustrirati što se dogodilo. Koliko se društveno tkivo, ono pravo, stvarno, ono koje smo znali i koje je na okupu držalo povjerenje, rastočilo i koliko su Facebook, Twitter, a danas i X, Truth, TikTok i razne druge inačice u kojoj se okupe istomišljenici pa udaraju paljbu po onim drugima, utjecali na to, svjesniji smo svakog dana. Ili nismo.
Prije tri godine Centar za upravljanje promjenama madridskog IE sveučilišta proveo je anketu koja je pokazala da bi otprilike četvrtina ispitanih Europljana bila zadovoljna da ima AI političare u nekom kapacitetu. Znanstvenici rezultat istraživanja tumače kao rezultat sve više rastućeg nepovjerenja građana u političare i vlade, zbog korupcije, ali i zbog manipulacija koje su bile vidljive recimo na referendumu o Brexitu.
U Danskoj je umjetnički kolektiv Computer Lars za prošlogodišnje izbore dizajnirao chatbox Leader Lars, te ga „kandidirao“ na izborima. Chatbox je tijekom kampanje kritički diskutirao s glasačima i odgovarao im, iskrenije no političari. Imali smo primjere novozelandskog SAM-a, koji je dizajnirao developer Nick Gerritsen kako bi predstavljao stavove građana. Prije četiri godine chatbox Alisa koji je stvorio Yandex, stao je na megdan Vladimiru Putinu, upravo kao i SAM – ne bi li predstavljao vox populi.
Europska komisija pak, priča se po Bruxellesu, razvija AI „nerođenog djeteta“, koji bi u raspravama o budućim politikama, predstavljao glas Europljana koji će živjeti u budućnosti, tj. onih na koje će današnje odluke imati utjecaj. Uz deliberativne procese koje je pokrenula Konferencija o budućnosti Europe, umjetna inteligencija može biti dobrodošao pomoćnik u vraćanju vjere u demokraciju kada je ona poljuljana različitim utjecajima.
Dok države artikuliraju način i mogućnosti regulacije umjetne inteligencije, big tech, pak razmišlja, kao i kod business modela tzv. društvenih mreža, kako to unovčiti. Kada su se pojavile platforme za zaradu na ljudskim emocijama i algoritmima koji su „vozili“ podjele zbog profita, malo tko je razumijevao do čega će dovesti ti biznis modeli koji su se vrlo skoro počeli nazivati i društvenim medijima. Od manipulacija koje su postale vidljive u demokratskim i nedemokratskim društvima, do potpunog dezinformacijskog kaosa, lažnih snimki, manipulacije slikom i zvukom koji su u javnost prokuljali sa sukobom Izraela i Hamasa.
Doba u kojem živimo nije lako doba. Relativizacija zla i zločina iskače kao meme ili gif na svakom koraku. Pitanje temeljnih vrijednosti liberalne demokracije u kojoj živimo ono je koje je ključno kada govorimo o uporabi tehnologije. Ono što možemo jest uključiti buduće generacije, mlade ljude, kojima je tehnologija imanentna, u pronalaženje rješenja.
Govori se danas da je ključno razvijati kritičko mišljenje. Kako sam već pisala stotinu puta, kritičko mišljenje treba biti dijelom svega što radimo, jer bez kritičkog uma nismo ništa.
Tko će dakle predavati i razvijati taj kritički um dok se na sadržaj koji je generirala umjetna inteligencija automatizmom umjetne inteligencije budu postavljale etikete da je sadržaj generirala umjetna inteligencija? Kakvo je to kritičko mišljenje, kakav je to IQ koji one koji dolaze uči kritici i promišljanju svijeta koji se ne razumije? Kakva je to tzv. medijska pismenost koja podučava da se treba „promisliti dva puta prije no što se podijeli“, kada se pale ratovi i ustanci, teške borbe komentarima na mrežama preko videa ili slike umjetno generirane, kada i sarkazam ili duhoviti komentari više ne prolaze niti se razumijevaju, kada svatko jaše svog konja, sedla svoju kobilu i vrti svoj mlin. Možda umjetna inteligencija u kombinaciji s onom našom može pomoći nekim glasačima neke 2034., 2054. ili formuliranju nekog novog doba, sustava ili demokracije 3.0. Za sada se, na žalost, gledamo u ogledalo, uspavani i samoljubni narcisi, koji više ne poimaju svoj IQ, a kamoli što im takvima radi AI.
Ivana Dragičević, urednica vanjske politike na N1
A dok ste nam još tu…
Evo nekoliko aktualnosti o pokušaju Europske unije da postavi globalni standard donošenjem prvog zakona o reguliranju umjetne inteligencije na svijetu:
Zastupnice i zastupnici Europskog parlamenta 13.3.2024. odobrili su Akt o umjetnoj inteligenciji, koji jamči sigurnost i zaštitu temeljnih prava te istodobno potiče inovacije.
Uredba dogovorena na pregovorima s državama članicama u prosincu 2023. usvojena je s 523 glasova za, 46 protiv i 49 suzdržanih.
Cilj joj je zaštititi ljudska prava, demokraciju, vladavinu prava i okolišnu održivost od visokorizične umjetne inteligencije, a istodobno poticati inovacije i osigurati Europi ulogu predvodnika u tom području. Pravila za umjetnu inteligenciju utvrđena su na temelju njezinih potencijalnih rizika i razine učinka.
Zabranjene primjene
Novim pravilima zabranjene su određene primjene umjetne inteligencije koje ugrožavaju prava građana, uključujući sustave za biometrijsku kategorizaciju temeljene na osjetljivim karakteristikama i neciljano prikupljanje prikaza lica s interneta ili iz nadzornih snimaka radi stvaranja baza podataka za prepoznavanje lica. Zabranjuje se i prepoznavanje emocija na radnome mjestu i u školama, vrednovanje građana, prognostički rad policije (kad se temelji isključivo na izradi profila pojedinaca ili procjeni njihovih osobina) te umjetna inteligencija koja utječe na ljudsko ponašanje ili iskorištava ranjivost pojedinaca.
Iznimke za potrebe kaznenog progona
Upotreba sustava za daljinsku biometrijsku identifikaciju u svrhu kaznenog progona u načelu je zabranjena, osim u okolnostima koje su iscrpno navedene i precizno definirane. Daljinska biometrijska identifikacija u stvarnom vremenu može se koristiti samo ako su ispunjeni strogi zahtjevi, npr. njezina je upotreba vremenski i geografski ograničena te je za nju prethodno izdano posebno sudsko ili upravno dopuštenje. Neki od primjera takvih okolnosti su ciljana potraga za nestalom osobom ili sprečavanje terorističkog napada. Naknadna upotreba sustava za daljinsku biometrijsku identifikaciju smatra se visokorizičnom upotrebom i za nju je potrebno sudsko dopuštenje povezano s kaznenim djelom.
Obveze za visokorizične sustave
Predviđene su i jasne obveze za druge visokorizične sustave umjetne inteligencije (zbog njihova znatnog potencijala za ugrožavanje zdravlja, sigurnosti, temeljnih prava, okoliša, demokracije i vladavine prava). Visokorizična umjetna inteligencija upotrebljava se, među ostalim, za kritičnu infrastrukturu, obrazovanje i osposobljavanje, zapošljavanje, ključne privatne i javne usluge (npr. zdravstvo, bankarstvo), određene sustave u okviru kaznenog progona, upravljanje migracijama i granicama, pravosuđe i demokratske procese (npr. utjecanje na izbore). Za takve sustave treba osigurati procjenu i ublažavanje rizika, vođenje evidencije upotrebe, transparentnost i preciznost te ljudski nadzor. Građani će imati pravo podnijeti tužbu povezanu s umjetnom inteligencijom te dobiti objašnjenja odluka temeljenih na visokorizičnim sustavima umjetne inteligencije koje utječu na njihova prava.
Zahtjevi za transparentnost
Sustavi umjetne inteligencije opće namjene i modeli na kojima se temelje moraju zadovoljavati određene kriterije transparentnosti, uključujući usklađenost sa zakonom EU o autorskim pravima i objavljivanje detaljnih sažetaka sadržaja koji se koristi za obuku. Snažniji sustavi umjetne inteligencije opće namjene koji bi mogli predstavljati sistemske rizike podlijegat će dodatnim zahtjevima koji uključuju ocjenjivanje modela, procjene i ublažavanje sistemskih rizika te prijavljivanje incidenata.
Uz to, umjetno stvoreni ili manipulirani audiosadržaji, fotografije i videosadržaji (deepfakes) moraju biti jasno označeni kao takvi.
Poticanje inovacija te malih i srednjih poduzeća
Treba uspostaviti regulatorno izolirano okruženje i testiranje u stvarnim uvjetima na nacionalnoj razini te omogućiti start-up poduzećima te malim i srednjim poduzećima pristup istima kako bi mogla razvijati i trenirati inovativne sustave umjetne inteligencije prije njihova stavljanja na tržište.
Sljedeći koraci
Uredbu još trebaju pregledati pravnici lingvisti, a očekuje se da će biti donesena prije kraja parlamentarnog saziva (u tzv. postupku ispravka). Vijeće ju također treba službeno podržati.
Stupit će na snagu dvadeset dana nakon objave u Službenom listu Europske unije i počet će se primjenjivati 24 mjeseca nakon stupanja na snagu, osim zabranjenih primjena (šest mjeseci nakon stupanja na snagu), kodeksa prakse (devet mjeseci nakon stupanja na snagu), pravila za umjetnu inteligenciju opće namjene uključujući upravljanje (12 mjeseci nakon stupanja na snagu) i obveza za visokorizične sustave (36 mjeseci nakon stupanja na snagu).
Kontekst
Zakon o umjetnoj inteligenciji izravno odgovara na prijedloge građana Konferencije o budućnosti Europe (COFE), konkretno na prijedlog 12. (10.) o jačanju konkurentnosti EU u strateškim sektorima, prijedlog 33. (5.) o sigurnom i pouzdanom društvu, prijedlog 33. (5.) o sigurnom i pouzdanom društvu, uključujući suzbijanje dezinformacija i osiguravanje da ljudi u konačnici imaju kontrolu, prijedlog 35. o promicanju digitalnih inovacija, (3.) uz osiguravanje ljudskog nadzora i (8.) pouzdanu i odgovornu upotrebu umjetne inteligencije, postavljanje mjera zaštite i osiguravanje transparentnosti te prijedlog 37. (3.) o korištenju AI i digitalnih alata za poboljšanje pristupa građana informacijama, uključujući osobe s invaliditetom.
