AI u službi istine: Naučnici iz Osijeka razvijaju alat za borbu protiv dezinformacija

Razvojem interneta i masovnim pristupom informacija sve češće smo zasuti lavinom vijesti i informacija čija tačnost je upitna, a koje su, iz potpuno pogrešnih razloga, zahvaljujući nekadašnjem i sadašnjem američkom predsjedniku Donaldu Trumpu ušle u pop kulturu pod nazivom fake news. I dok veliki broj tih vijesti i informacija koje su nam dostupne za nekoliko sekundi neće izazvati ozbiljne posljedice u naporima autora da dođu do klikova, mnoge ipak svojom netačnošću mogu dovesti do velikih problema. Manipuliranje informacijama sve češće se koristi širom svijeta kako bi se ostvarile različite dobiti, bez obzira da li se radi o finansijskim, političkim ili nekim drugim, ili čisto kako bi se unio nemir i nepovjerenje u javnost, tako da je utvrđivanje stvarnih činjenica važnije nego ikad.

Kako bi dali svoj doprinos u tim naporima, tim naučnika i istraživača Fakulteta elektrotehnike, računarstva i informacijskih tehnologija (FERIT) iz Osijeka pokrenuo je projekt FACT@FERIT, gdje bi vještačka inteligencija pomogla ljudima da budu sigurni da informacije koje dobijaju zaista istinite, u početku iz njihovog domena.

Voditelj projekta profesor Josip Job navodi da je glavni cilj FACT@FERIT-a razvoj alata za detekciju sudionika i događaja te provjeru tačnosti informacija u području elektrotehnike, računarstva i informacijskih tehnologija. Koristeći metode mašinskog učenja i/ili postojeće usluge temeljene na vještačkoj inteligenciji, alat treba omogućiti hronološki pregled pisanja o određenoj temi i analizu povezanosti uključenih sudionika, čime bi se omogućila brža, jednostavnija i učinkovitija provjera istinitosti medijskih činjenica.

Kako kaže, cilj je izgradnja sistema za detekciju dezinformacija i stvaranje okvira za tačno izvještavanje u tehnološkom sektoru kako bi se povećala otpornost društva na lažne vijesti.

Netačne vijesti i sumnjive tvrdnje

Ideja za projekt proizašla je iz uočavanja sve češćih slučajeva netačnog ili površnog izvještavanja u tehnološkom sektoru, kao i sumnjivih tvrdnji u naučnim radovima, pojašnjava Job, a motivacija je dodatno pojačana brzim širenjem vijesti putem digitalnih medija, gdje pritisak za brzom objavom često dovodi do neprovjeravanja informacija, kao i lakoćom kreiranja uvjerljivih neistinitih objava pomoću dostupnih AI alata.

Profesor Job navodi da je ideja konkretizirana nakon posjete skupu na temu provjere činjenica, takozvanog fact-checkinga.

Nositelj ovog projekta je Fakultet elektrotehnike, računarstva i informacijskih tehnologija Osijek (FERIT), a projektni tim čine profesori i istraživači s FERIT-a koji su stručnjaci iz različitih područja poput vještačke inteligencije, baza podataka, internetskih tehnologija, virtualne stvarnosti i elektronike. Projekt se provodi u partnerstvu s Hrvatskom udrugom digitalnih izdavača (HUDI), a financira ga Europska unija kroz program NextGenerationEU.

Raznolik sastav stručnjaka koji učestvuju u ovom projektu ukazuju koliko je danas kompleksan problem doći do srži informacija u moru vijesti kojim smo preplavljeni, što posljedično nosi i niz izazova.

Kako kaže Job, najveći izazov s kojim se projektni tim suočava jest balansiranje između preciznosti i brzine rada alata, a pored toga se povremeno se susreću i s tehničkim izazovima.

Također, brzi razvoj AI tehnologija, koje omogućavaju lako generiranje sintetičkih sadržaja, predstavlja izazov koji zahtijeva paralelan razvoj alata za njihovu detekciju.

Specijalizirani pristup

Danas već postoje alati koji bi trebali pomoći ljudima da razlučite šta je istina od informacija koje dobijaju, ali stručnjaci iz Osijeka bi svojim pristupom trebali proces otkrivanja tačnosti poboljšati specijalizacijom za njima bliske oblasti.

FACT@FERIT koristi metode mašinskog učenja i vještačke inteligencije za analizu tekstova, gdje alat prvo koristi postojeće alate za ekstrakciju činjenica iz teksta, a zatim se razvija i vlastiti model za učinkovitije prepoznavanje činjenica.

“Identificira ključne događaje i aktere u vijestima, omogućavajući korisnicima da za uneseni tekst dobiju popis ključnih tvrdnji, povezanih tvrdnji i kronološki pregled objava na zadanu temu (medijsku povijest teme). Alat također omogućava analizu povezanosti uključenih sudionika”, pojašnjava profesor Job.

Za razliku od općih AI alata poput ChatGPT-a koji generiraju odgovore na širok spektar tema, FACT@FERIT je specijaliziran za tehničke teme iz područja elektrotehnike, računarstva i IT-ja, a pružat će hronološki pregled i mogućnost analize povezanosti aktera, događaja, mjesta i vremena same vijesti, te će ujedno omogućit metodološki ujednačen pristup provjeri činjenica.

Iako djeluje da je FACT@FERIT usmjeren za korištenje samo uskoj, vrlo specijaliziranoj zajednici, voditelj projekta navodi da je alat namijenjen široj javnosti, odnosno građanima, novinarima, akademskoj zajednici (fakultetima, istraživačima, studentima), kao i drugim dionicima u sektoru elektrotehnike i računarstva.

Pomoć javnosti

Što se tiče šire javnosti, alat treba omogućiti građanima pristup ažurnim i provjerenim informacijama iz područja elektrotehnike i računarstva, pomažući im da lakše razlikuju istinite od lažnih informacija te treba omogućiti smanjenje utjecaja dezinformacija.

“Time se sprječava širenje nepovjerenja u tehnologiju i inovacije, koje su važne za napredak društva. Također pomaže i u borbi protiv dezinformacija na način da korisnicima ukaže na ono što nije istinito.”

Kada je obrazovni sistem u pitanju, tehnički fakulteti i akademska zajednica steći će nova znanja o provjeri informacija koja mogu koristiti u svom radu. Kako kaže, educirano osoblje FERIT-a prenosit će znanje studentima, drugim naučnicima i zainteresiranoj javnosti.

Ujedno, novinarima će alat olakšati proces provjere činjenica i istraživanja tema vezanih uz tehnologiju, dok će poslovnim subjektima i pojedincima čiji je rad vezan za ova područja pomoći u očuvanju ugleda i povjerenja u njihove proizvode i usluge.

Profesor Job navodi da je alat razvijen u okviru projekta FACT@FERIT trenutno usmjeren isključivo na provjeru činjenica iz područja elektrotehnike, računarstva i informacijskih tehnologija dok će se nakon analize rezultata rada i učinkovitosti razvijenog sistema donijeti odluka o širenju i na druga područja.

Što se tiče trenutne faze u razvoju te budućnosti ovog alata, profesor Job navodi da se kroz projekt predlaže metodologija provjere činjenica, a tim trenutno razvija informacijski sistem za prepoznavanje i pretraživanje činjenica koji uključuje funkcionalnosti za hronološki pregled i analizu povezanosti prikupljenih činjenica.

Cilj projektnog tima je izgraditi platformu za detekciju dezinformacija i stvoriti okvir za tačno izvještavanje u tehnološkom sektoru, a uspostavom metodološki ujednačenog načina provjere činjenica ubrzat će se rad na provjeri medijskih sadržaja te povećati kvaliteta tog posla, dodaje.

“Edukacija članova tima u području istraživačkog novinarstva i njihov budući rad rezultirat će smanjenjem dezinformacija i sprječavanjem nepovjerenja u tehnologiju i inovacije što predstavlja doprinos društvu.”