Naslovnu ilustraciju stvorila je umjetna inteligencija - DALL-E generator fotografija
Kako će umjetna inteligencija mijenjati novinarstvo i sadržaj koji redakcije nude čitateljima, gledateljima i slušateljima? Kako će utjecati na svakodnevni život ljudi?
To smo pitanje postavili petero autora, u vrijeme dok se Europska unija priprema za izbore, jača borbu protiv dezinformacija te privodi kraju rad na prvom svjetskom zakonu o umjetnoj inteligenciji.
Za projekt “Što nam radi UI” pišu i govore: Ivan Pandžić (24sata), Ivana Dragičević (N1), Ante Tomić (Jutarnji list), Dora Kršul (Telegram) i Martina Validžić (HRT). Projekt Sindikata novinara Hrvatske podržao je Ured Europskog parlamenta u Hrvatskoj.
Evo što o umjetnoj inteligenciji i dezinformacijama piše Ante Tomić, kolumnist Jutarnjeg lista:
Prošlog sam vikenda bio u Kölnu. U petak navečer slušao sam koncert Lucinde Williams, a u subotu šetao gradom. Oko podneva sam se zatekao na trgu ispred glavnog kolodvora, u sjeni one strahotne, crne gotičke katedrale, gdje su trajala dva slabo posjećena, mlaka, beskonfliktna politička skupa.
Policajci u osiguranju vidljivo su se dosađivali. Među prolaznicima koji su vukući kovčege na kotačićima ulazili i izlazili iz zgrade Bahnhofa jedva da je itko svrnuo pogled na grupicu ljevičara s dreadlocksicama i njihove natpise “FCK AfD”, a ni desničari koji su se dvadesetak metara dalje bunili protiv muslimanskog useljavanja nisu izazivali osobito zanimanje javnosti. Kod ovoga drugog skupa se zaustavila tek šačica nas. Kako ne govorim njemački, izvadio sam pametni telefon i uključio Google prevoditelj, s opcijom koju sam nedavno otkrio, da mi prevede fotografirani tekst.
Okrenuo sam kameru prema transparentu koji je držao jedan zabrinuti njemački domoljub mlađe dobi i doznao kako je on konsterniran da diljem zapadne civilizacije odjekuju molitve mujezina. Potom sam uslikao citat Recepa Tayyipa Erdoğana, koji je malo dalje na pravokutnom kartonu držala jedna sredovječna žena, a Google prevoditelj mi je jedva koju sekundu kasnije donio uznemirujuće razmišljanje turskog predsjednika. Nisam ga sačuvao, ali mislim da sam ga dobro zapamtio. “Demokracija je samo vlak u koji ćemo se u ukrcati na putu do svojeg cilja. Džamije su naše kasarne, minareti su bajuneti koje ćemo zabiti u srce Europe”, kazao je dakle taj krvolok.
Pomoću ovih nekoliko prizora, koje sam vidio jedne sunčane subote u ožujku na trgu velikog njemačkog grada, nastojat ću objasniti zašto ne dijelim općenitu bojazan da će umjetna inteligencija učiniti znatniju štetu u našem svijetu.
Za početak, moram priznati, ja volim tehnologiju. Napredni informatički alati mene ispunjavaju dubokim poštovanjem. Presretan sam da živim u vremenu u kojem se pojavilo nešto tako čudesno kao što je aplikacija koja će prevesti tekst koji uslikaš, i da ja to imam u svome džepu i u svakom trenutku mogu potpuno besplatno uključiti. Tako nešto kao što je Google prevoditelj s kamerom futuristička je senzacija kakvu se prije trideset ili četrdeset godina, u strahu da ne pretjeraju, ni autori “Zvjezdanih staza” ne bi usudili izmisliti.
Da je Jamesu Bondu dok ga je glumio Sean Connery, pa čak i u eri Rogera Moorea, onaj njegov šašavi Q, koji ga je opskrbljivao domišljatim tehnološkim novotarijama, dao pametni telefon, čak i ovaj moj jadni, kineski Xaomi, i rekao mu ovako: “Pazi ovo, Nula Nula Sedam, u ovom uređaju smo integrirali telefon, televiziju, fotoaparat, kameru, kalkulator, džepnu lampu, sve znanje čovječanstva, poštu koja u treptaju oka tvoje pismo šalje na drugi kraj svijeta i pouzdan prevoditelj sa šezdesetak jezika”, agent Njezinog Veličanstva na to bi mu vjerojatno odgovorio: “Ajde, Q, ne lupetaj.”
Sjetite se gdje smo bili jučer, a gdje smo danas. Razvoj tehnologije naše je živote učinio nevjerojatno uzbudljivim, boljim, ljepšim, ugodnijim. Istina, ima to i tamnu stranu. Sve nas onespokojavaju pokvarene laži koje strelovito lete cyberspaceom, uvrnute teorije zavjere, poremećeni proroci, dezinformacije koje šire izmišljena lica s društvenih mreža, takozvani botovi. No, jeste li baš sigurni da su ove pošasti čeda informatičke ere? Meni se čini da nisu.
Uzmite onaj Erdoğanov citat s transparenta koji je u Kölnu kod kolodvora nosila sredovječna desničarka. Erdoğanova je prijetnja, izvan svake sumnje, izmišljena. Nemam bogzna kako visoko mišljenje o turskom diktatoru, ali dao bih se u što god hoćete okladiti da on nije usporedio minarete s bajunetama. Nijedan musliman na svijetu ne bi nešto tako bogohulno izjavio. To je gnjusna dezinformacija. Fake news, kako bi rekao istinoljubivi Donald Trump.
A taj se fake news nije, vidite, porodio u kompjuteru, nije djelo umjetne inteligencije, već postoji mnogo prije matičnih ploča i čipova. Informatička tehnologija samo pomaže da se mržnja brže i uspješnije distribuira, ali ona dolazi iz organskog izvora, iz ljudske svijesti. Ona se začela u nekoj izopačenoj, pakosnoj desničarskoj tikvi.
Obratite pozornost da gospođa koja je izašla na trg prosvjedovati protiv muslimanskih useljenika, Erdoğanu stavlja u usta namjeru da zloupotrijebi demokraciju: “Demokracija je samo vlak u koji ćemo se u ukrcati na putu do svojeg cilja.” U Njemačkoj je, što se pamti, to napravio samo jedan koji je njoj politički mnogo bliži od Turčina. Jedan jedini uskočio u vlak samo da ga zaustavi i taj je bio njezine vjere i nacije: Adolf Hitler kad je nakon pobjede na izborima 1933. zapalio Reichstag i krenuo hapsiti socijaldemokrate i komuniste.
Hitlera i njegovu užasnu bandu ovdje ne spominjem slučajno. To nas povijesno iskustvo, po mom mišljenju, upućuje na neke vrlo dobre odgovore na pitanja koja nas muče. Sve ovo o dezinformacijama i botovima već smo upoznali prije osamdeset, devedeset godina. Nacionalsocijalisti su, kao što znamo, osvojili srca svojih sunarodnjaka tvrdnjama kako su Židovi glavni krivci da je Njemačka izgubila u Prvom svjetskom ratu. Manje je, međutim, poznato da su židovski muškarci, u postotku, na frontu bili zastupljeniji od pripadnika svih drugih etničkih skupina koje su živjele u Njemačkoj. Rame uz rame s katoličkim i protestantskim drugovima srčano su se borili za svoju svetu Vaterland. Mnogi su znali nekog takvog. Bizarno je da je čak i Hitler na koncu spasio jednog Židova, Huga Gutmanna, svoga poručnika u Šesnaestoj bavarskoj pričuvnoj regimenti.
Židovi, napokon, nisu mogli biti odgovorni za sva zla za koje su ih nacisti optuživali već i zbog činjenice da je njihov udio u stanovništvu bio beznačajan. Prema popisu iz lipnja 1933, od šezdeset sedam milijuna njemačkih građana, Židova je bilo jedva nešto malo preko pet stotina hiljada. Manje od 0,75 posto!
Brojke su ipak bile nevažne kad je krenulo antisemitsko ludovanje. Statistika je bila bespomoćna i slaba prema raspomamljenoj klevetničkoj kampanji kojom je upravljao demonski um ministra propagande Josepha Goebbelsa. Goebbels je vrijedno proizvodio mržnju, a mase bezličnih nacističkih botova u smeđim košuljama su je širile. Pokvarene laži i uvrnute teorije zavjere strelovito su letjele ulicama, a narod poslušno slijedio poremećene proroke mnogo, mnogo prije našeg digitalnog doba. Fake news došle su glave šest milijuna Židova dok još nismo ni naslućivali svijet u kojem će postojati umjetna inteligencija i društvene mreže.
Napravljeno je to dijelom kroz novine, a dijelom na uličnim plakatima. Radio i kinematografija još su bili u povojima, njihova je uloga bila sporedna. Ogromni, nenadmašeni trijumf laži nad istinom Goebbels je postigao na papiru, u mediju koji mi danas sentimentalno držimo najpouzdanijim. Običnim staromodnim štampanim slovima, kojima ćemo danas vjerovati više nego ičemu drugog, izvedena je najpodlija prevara u cijeloj ljudskoj povijesti.
Imajte to na pameti prije nego krenete kriviti kompjutere da uništavaju svijet. Sve je zaista samo do nas. Kompjuteri su dobri. Svijet uništavaju naša duhovna lijenost, glupost i neznanje.
Ante Tomić, kolumnist Jutarnjeg lista
A dok ste nam još tu…
Evo nekoliko aktualnosti o pokušaju Europske unije da postavi globalni standard donošenjem prvog zakona o reguliranju umjetne inteligencije na svijetu:
Zastupnice i zastupnici Europskog parlamenta 13.3.2024. odobrili su Akt o umjetnoj inteligenciji, koji jamči sigurnost i zaštitu temeljnih prava te istodobno potiče inovacije.
Uredba dogovorena na pregovorima s državama članicama u prosincu 2023. usvojena je s 523 glasova za, 46 protiv i 49 suzdržanih.
Cilj joj je zaštititi ljudska prava, demokraciju, vladavinu prava i okolišnu održivost od visokorizične umjetne inteligencije, a istodobno poticati inovacije i osigurati Europi ulogu predvodnika u tom području. Pravila za umjetnu inteligenciju utvrđena su na temelju njezinih potencijalnih rizika i razine učinka.
Zabranjene primjene
Novim pravilima zabranjene su određene primjene umjetne inteligencije koje ugrožavaju prava građana, uključujući sustave za biometrijsku kategorizaciju temeljene na osjetljivim karakteristikama i neciljano prikupljanje prikaza lica s interneta ili iz nadzornih snimaka radi stvaranja baza podataka za prepoznavanje lica. Zabranjuje se i prepoznavanje emocija na radnome mjestu i u školama, vrednovanje građana, prognostički rad policije (kad se temelji isključivo na izradi profila pojedinaca ili procjeni njihovih osobina) te umjetna inteligencija koja utječe na ljudsko ponašanje ili iskorištava ranjivost pojedinaca.
Iznimke za potrebe kaznenog progona
Upotreba sustava za daljinsku biometrijsku identifikaciju u svrhu kaznenog progona u načelu je zabranjena, osim u okolnostima koje su iscrpno navedene i precizno definirane. Daljinska biometrijska identifikacija u stvarnom vremenu može se koristiti samo ako su ispunjeni strogi zahtjevi, npr. njezina je upotreba vremenski i geografski ograničena te je za nju prethodno izdano posebno sudsko ili upravno dopuštenje. Neki od primjera takvih okolnosti su ciljana potraga za nestalom osobom ili sprečavanje terorističkog napada. Naknadna upotreba sustava za daljinsku biometrijsku identifikaciju smatra se visokorizičnom upotrebom i za nju je potrebno sudsko dopuštenje povezano s kaznenim djelom.
Obveze za visokorizične sustave
Predviđene su i jasne obveze za druge visokorizične sustave umjetne inteligencije (zbog njihova znatnog potencijala za ugrožavanje zdravlja, sigurnosti, temeljnih prava, okoliša, demokracije i vladavine prava). Visokorizična umjetna inteligencija upotrebljava se, među ostalim, za kritičnu infrastrukturu, obrazovanje i osposobljavanje, zapošljavanje, ključne privatne i javne usluge (npr. zdravstvo, bankarstvo), određene sustave u okviru kaznenog progona, upravljanje migracijama i granicama, pravosuđe i demokratske procese (npr. utjecanje na izbore). Za takve sustave treba osigurati procjenu i ublažavanje rizika, vođenje evidencije upotrebe, transparentnost i preciznost te ljudski nadzor. Građani će imati pravo podnijeti tužbu povezanu s umjetnom inteligencijom te dobiti objašnjenja odluka temeljenih na visokorizičnim sustavima umjetne inteligencije koje utječu na njihova prava.
Zahtjevi za transparentnost
Sustavi umjetne inteligencije opće namjene i modeli na kojima se temelje moraju zadovoljavati određene kriterije transparentnosti, uključujući usklađenost sa zakonom EU o autorskim pravima i objavljivanje detaljnih sažetaka sadržaja koji se koristi za obuku. Snažniji sustavi umjetne inteligencije opće namjene koji bi mogli predstavljati sistemske rizike podlijegat će dodatnim zahtjevima koji uključuju ocjenjivanje modela, procjene i ublažavanje sistemskih rizika te prijavljivanje incidenata.
Uz to, umjetno stvoreni ili manipulirani audiosadržaji, fotografije i videosadržaji (deepfakes) moraju biti jasno označeni kao takvi.
Poticanje inovacija te malih i srednjih poduzeća
Treba uspostaviti regulatorno izolirano okruženje i testiranje u stvarnim uvjetima na nacionalnoj razini te omogućiti start-up poduzećima te malim i srednjim poduzećima pristup istima kako bi mogla razvijati i trenirati inovativne sustave umjetne inteligencije prije njihova stavljanja na tržište.
Sljedeći koraci
Uredbu još trebaju pregledati pravnici lingvisti, a očekuje se da će biti donesena prije kraja parlamentarnog saziva (u tzv. postupku ispravka). Vijeće ju također treba službeno podržati.
Stupit će na snagu dvadeset dana nakon objave u Službenom listu Europske unije i počet će se primjenjivati 24 mjeseca nakon stupanja na snagu, osim zabranjenih primjena (šest mjeseci nakon stupanja na snagu), kodeksa prakse (devet mjeseci nakon stupanja na snagu), pravila za umjetnu inteligenciju opće namjene uključujući upravljanje (12 mjeseci nakon stupanja na snagu) i obveza za visokorizične sustave (36 mjeseci nakon stupanja na snagu).
Kontekst
Zakon o umjetnoj inteligenciji izravno odgovara na prijedloge građana Konferencije o budućnosti Europe (COFE), konkretno na prijedlog 12. (10.) o jačanju konkurentnosti EU u strateškim sektorima, prijedlog 33. (5.) o sigurnom i pouzdanom društvu, prijedlog 33. (5.) o sigurnom i pouzdanom društvu, uključujući suzbijanje dezinformacija i osiguravanje da ljudi u konačnici imaju kontrolu, prijedlog 35. o promicanju digitalnih inovacija, (3.) uz osiguravanje ljudskog nadzora i (8.) pouzdanu i odgovornu upotrebu umjetne inteligencije, postavljanje mjera zaštite i osiguravanje transparentnosti te prijedlog 37. (3.) o korištenju AI i digitalnih alata za poboljšanje pristupa građana informacijama, uključujući osobe s invaliditetom.
