Lažna eksplozija u Pentagonu i kako otkriti snimak koji je napravio AI

Lažna fotografija na kojoj se prikazuje velika eksplozija kod američkog Pentagona u ponedjeljak je brzo podijeljena na društvenim mrežama i dovela do kratkog pada na tržištu dionica.

Za nekoliko minuta je ogroman broj profila na društvenim mrežama, uključujući neke koji su verificirani kao autentični, podijelio lažni snimak i tako dodatno pojačao konfuziju.

Zvaničnici su kasnije potvrdili kako takvog incidenta, eksplozije, nije bilo.

Detektivi s društvenih mreža, poput Nicka Watersa iz Bellingcata, grupe za verifikaciju vijesti na internetu, brzo su istakli neke vidljive probleme s fotografijom, među kojima su:

• Nije bilo svjedoka s mjesta događaja da potvrde takvo dešavanje, naročito u užurbanom području kao što je Pentagon. “Zato je veoma teško (usudio bih se reći i nemoguće) stvoriti uvjerljivu laž o takvom događaju”, napisao je Waters na Twitteru.
• Zgrada na fotografiji izgleda značajno drugačije od Pentagona. To se lako može potvrditi korištenjem alatki kao što je Google Street View kako bi se uporedile dvije snimke.
• Prisutni su i drugi detalji poput stuba ulične rasvjete čudnog izgleda koji lebdi ili crne šipke koja probija pločnik. Vještačka inteligencija i dalje ima velike probleme pri stvaranju lokacija bez ubacivanja predmeta slučajnim odabirom.

Confident that this picture claiming to show an “explosion near the pentagon” is AI generated.

Check out the frontage of the building, and the way the fence melds into the crowd barriers. There's also no other images, videos or people posting as first hand witnesses. pic.twitter.com/t1YKQabuNL

— Nick Waters (@N_Waters89) May 22, 2023

Kako prepoznati ovakve snimke?

Postoje alatke vještačke inteligencije (poput Midjourney, Dall-e 2 ili Stable Diffusion) koje mogu, bez mnogo problema, stvoriti snimke okoline koji su veoma slični pravima.

Te alatke su “obučene” pregledom velikih količina pravih snimaka, ali praznine popunjavaju vlastitim tumačenjem kada nedostaju podaci s obuke.

To može dovesti do toga da ljudi imaju dodatne udove ili su predmeti “uronjeni” u okolinu.

Kada gledate snimke na internetu koje se najavljuju kao snimke bitnog i hitnog događaja, vrijedi imati u vidu:

• Vijesti se ne dešavaju u vakuumu – U slučaju velike eksplozije ili nekog velikog događaja treba očekivati veliki broj izvjestilaca s mjesta događaja, različitih profila i uglova tumačenja.
• Ko objavljuje sadržaj – Pogledajte historiju objava tog korisnika. Da li se njihova i lokacija navodnog događaja podudaraju? Pogledajte koga prate i ko njih prati na mrežama. Možete li ih kontaktirati?
• Koristiti obavještajne alatke otvorenog izvora – Alatke za potragu snimaka kao što su Google Images i TinEye omogućavaju da kroz upload provjerite kada je snimak i gdje prvi put korišten. Postoje i druge alatke koje možete koristiti, kao što je korištenje javnih saobraćajnih kamera, kako bi se potvrdilo događanje spomenutog incidenata.
• Analizirajte snimak i njegov okoliš – Tražite detalje na snimku kao što su obližnje historijske lokacije, saobraćajni znakovi pa čak i vremenski uvjeti, kako bi uvidjeli gdje ili kada se navodni događaj, možda, zbio.
• Ruke, oči, stav tijela – Kada je riječ o snimcima ljudi, treba posebnu pažnju obratiti na oči, ruke i generalni stav tijela. Videosnimci koje pravi vještačka inteligencija i podražava ljude, poznati kao “deep fake”, imaju problema s treptanjem ljudi, jer većina snimaka za obuku ne sadrži lica sa zatvorenim očima. Ruke koje neispravno drže stvari ili udovi koji izgledaju neprirodno uvrnuti, također, pomažu pri otkrivanju lažnog snimka.