Kako će se društvene mreže promijeniti za djecu

Meta je pristala na historijsku nagodbu vrijednu 18 milijardi dolara u velikom saveznom postupku u SAD-u, u kojem je kompanija optužena da ugrožava djecu. Uvjeti nagodbe obavezuju tog tehnološkog giganta da uvede nove sigurnosne funkcije na platformama, uključujući Instagram i Facebook.

Kompanija se ove godine suočila s nizom tužbi, u kojima se uglavnom tvrdi da je svoje platforme namjerno osmislila tako da stvaraju ovisnost i štete djeci. Dva takva postupka već je izgubila te je morala isplatiti odštetu.

Prema sporazumu sa 48 američkih saveznih država, korisnici mlađi od 18 godina imaju niz novih ograničenja na Facebooku i Instagramu – od noćne zabrane korištenja do dnevnog limita od dva sata.

Sporazum bi mogao imati posljedice i izvan SAD-a, jer više država širom svijeta već pooštrava regulaciju Mete i drugih kompanija koje upravljaju društvenim mrežama.

Šta, zapravo, donosi nagodba u SAD-u i kako će se Instagram i Facebook promijeniti za mlađe korisnike?

O čemu se radilo u tužbi?

Dvadeset devet američkih saveznih država tužilo je Metu, optužujući je da je svoje platforme dizajnirala na način koji “podstiče ponašanje koje stvara ovisnost, ne provjerava adekvatno dob korisnika, ohrabruje adolescente da zaobiđu roditeljske kontrole i nedovoljno ih štiti od štetnog sadržaja, odnosno namjerno pojačava štetne i eksploatacijske sadržaje”, navodi se u podnescima Žalbenom sudu u Kaliforniji.

Četiri savezne države koje su prvobitno 2023. godine podnijele saveznu tužbu – Kalifornija, Kentucky, Colorado i New Jersey – počele su u augustu iznositi svoj slučaj na saveznom suđenju u Kaliforniji.

Državni tužitelji su zatražili i da sud naloži izmjene na Metinim platformama radi zaštite mladih korisnika društvenih mreža. Posebno su tražili: uvođenje roditeljske provjere za tinejdžere; izmjene algoritama koji, prema njihovim tvrdnjama, “manipuliraju dopaminom”; uklanjanje filtera s fotografija korisnika; zabranu otvaranja više korisničkih računa; ukidanje poruka i objava koje nestaju.

U tužbi se, također, navodi da je Meta prekršila američki Zakon o zaštiti privatnosti djece na internetu, prikupljajući, čuvajući i koristeći lične podatke djece mlađe od 13 godina bez odgovarajuće saglasnosti roditelja.

U februaru je Meta izgubila višemilionski postupak koji je u Los Angelesu pokrenula mlada žena identificirana inicijalima KGM. Tužba se odnosila na funkcije platformi povezane s razvojem ovisnosti kod mlađih korisnika.

U martu je američka porota Meti naložila da plati 375 miliona dolara zbog ugrožavanja djece, u postupku koji je pokrenula savezna država Novi Meksiko.

U julu je sudija u Novom Meksiku naložio vlasniku Facebooka i Instagrama da plati dodatnih 567 miliona dolara u drugoj fazi suđenja.

Na šta je Meta pristala?

Meta je negirala bilo kakvu odgovornost, ali je pristala na nagodbu nakon što su tokom postupka izneseni dokazi da je kompanija znala da njeni proizvodi štete mentalnom zdravlju djece. Ukupan iznos, koji će biti isplaćen tokom deset godina, tek je dio Metinih prihoda iz 2025. godine, kada je kompanija ostvarila 201 milijardu dolara prihoda.

Kompanija, koju je Mark Zuckerberg 2004. osnovao pod imenom Facebook, pristala je isplatiti najviše 16,7 milijardi dolara za 47 saveznih država, Distrikt Columbia, Portoriko, Američku Samou i Sjeverne Marijanske otoke.

Kalifornija bi mogla dobiti 2,2 milijarde dolara, a New York 1,1 milijardu. Teksas je postigao zasebnu nagodbu vrijednu više od milijardu dolara. Neke savezne države uplatit će novac u opće budžetske fondove, dok će druge dio sredstava usmjeriti na usluge mentalnog zdravlja djece.

Nagodba ne obavezuje Metu da ukine personalizirane preporuke ili ciljano oglašavanje.

Također ne obuhvata dio sadržaja koji su istraživači ocijenili posebno problematičnim, uključujući objave zbog kojih se korisnici Instagrama osjećaju nezadovoljno vlastitim izgledom i tijelom.

“Osigurati tinejdžerima sigurno i korisno iskustvo na našim platformama apsolutni je prioritet za Metu”, objavila je kompanija na svom blogu. “Želimo ovo uraditi kako treba – i za roditelje i za tinejdžere.”

Koje promjene stižu na Instagram i Facebook?

Prema sporazumu, djeca mlađa od 18 godina na Metinim platformama bit će ograničena na dva sata korištenja dnevno, uz noćnu zabranu od ponoći do šest sati ujutro.

Meta će ograničiti funkcije koje potiču “društveno poređenje”, tako što će sakriti broj lajkova i reakcija na računima djece. Također će, kao osnovnu postavku, zabraniti filtere koji mijenjaju izgled korisnika i simuliraju estetske zahvate. Te postavke moći će se promijeniti samo uz saglasnost roditelja.

Kompanija se obavezala i da će tinejdžerima tokom školskog vremena, od osam do 15 sati, isključiti većinu push-notifikacija.

Roditeljima i starateljima bit će omogućena detaljnija kontrola računa djece. Moći će pratiti i mijenjati postavke, dobiti podatke o vremenu provedenom na aplikacijama, kao i korisnička imena osoba s kojima se dijete povezuje ili koje mu šalju poruke.

Roditelji koji nadziru račun dobit će dnevnu obavijest svaki put kada tinejdžerski račun prvi put pošalje poruku računu odrasle osobe, uz poveznicu na taj račun. Bit će obaviješteni i kada dijete pretražuje ključne riječi povezane sa samoubistvom, samopovređivanjem ili poremećajima u ishrani.

Meta se, također, obavezala unaprijediti tehnologiju za provjeru dobi korisnika, koristeći vlastite alate i rješenja trećih strana, uz redovne nezavisne provjere njihove učinkovitosti.

Ta mjera posebno je značajna zato što je Australija u decembru prošle godine zabranila korištenje društvenih mreža mlađima od 16 godina. Međutim, australijski regulator za sigurnost na internetu eSafety u augustu je utvrdio da ih i dalje koristi više od osam od deset mlađih tinejdžera i djece predtinejdžerskog uzrasta – uglavnom zato što postupci provjere dobi nisu dovoljno djelotvorni.

Meta je zasad pristala isplatiti 70 posto nagodbe, odnosno približno 12,7 milijardi dolara, tokom narednih deset godina. Preostalih oko pet milijardi dolara platit će samo ako njeni konkurenti, među kojima su Snapchat, TikTok i YouTube u vlasništvu Alphabeta, uvedu slične mjere i pristanu platiti isti iznos.

Kompanija je navela i da bi dnevno ograničenje smanjila na jedan sat ako isto učine i druge platforme.

Promjene bi se uvodile postepeno. Nakon sudskog odobrenja nagodbe, personalizirani sadržaj u feedovima trebao bi biti ograničen u roku od četiri mjeseca, šire mjere usklađivanja u roku od šest mjeseci, a ključni zahtjevi za provjeru dobi u roku od godinu.

Iako se mjere odnose na korisnike u SAD-u, nije jasno planira li ih Meta uvesti globalno. No, kompanija se već suočava sa sve jačim regulatornim pritiskom u Evropskoj uniji i drugim dijelovima svijeta da uvede slične zaštite.

Koliku razliku te promjene mogu donijeti?

Kritičari i zagovornici sigurnosti djece na internetu priznaju da je nagodba primorala Metu na velike promjene. Riječ je o najvećoj svjetskoj kompaniji za društvene mreže, vlasniku Facebooka, Instagrama, WhatsAppa i Messengera, od kojih svaka platforma ima između dvije i tri milijarde aktivnih korisnika mjesečno.

Ipak, kritičari smatraju da se ključni dio najnovije nagodbe svodi na ograničavanje vremena koje tinejdžeri provode na platformama na dva sata dnevno, umjesto na suštinsku promjenu algoritama koji podstiču ovisnost.

Sacha Haworth, izvršna direktorica organizacije The Tech Oversight Project, koja se zalaže za sigurnost mladih na internetu, ocijenila je sporazum “historijskom nagodbom s dugotrajnim učinkom”.

“Ali, djecu i tinejdžere ne možemo zaista zaštititi dok takve zaštite ne postanu obavezne na svakoj platformi i trajne. To može osigurati samo Kongres”, poručila je.

Ella Bradshaw, službenica za politike online sigurnosti djece u britanskoj dobrotvornoj organizaciji NSPCC, pozdravila je mjere protiv “ovisničkih” funkcija, poput personaliziranih algoritama i prikaza lajkova.

“Znamo da upravo te funkcije zadržavaju djecu prikovanu za ekrane i daju im osjećaj da nemaju kontrolu nad vremenom provedenim online. Zato je djelovanje na tom polju potrebno i dobrodošlo. Ipak, ostaju važne praznine”, rekla je za Al Jazeeru.

Bradshaw je nagodbu opisala kao “djelomičan pristup” rješavanju rizičnih funkcija i dizajnerskih rješenja koja mogu štetiti djeci.

“To znači da funkcije poput poruka koje nestaju, beskonačnog skrolanja, mogućnosti slanja virtuelnih poklona i prijenosa uživo ostaju izvan ove nagodbe. Slično tome, malo je rečeno o tome kako će Metini AI chatbotovi postati sigurniji. Potrebne su bolje zaštitne mjere, naročito kada djeca iznesu zabrinutosti povezane sa svojom sigurnošću.”

Zatražila je i snažniju zaštitu mlađe djece kao i mjere koje “ne nestaju naglo onog trenutka kada tinejdžer napuni 18 godina”.

“Nemaju sva djeca porodice na koje se mogu osloniti da nadziru njihov online svijet i pomognu im da ostanu sigurna. Znamo da su zaštite na internetu neujednačene”, rekla je Bradshaw.

“Ova nagodba mora potaknuti vlade i regulatore da djeluju brže i odlučnije, kroz snažnije mjere u cijelom digitalnom ekosistemu, uključujući privatne poruke, AI alate i online igre. Bez šire promjene, djeca će i dalje biti izložena šteti koja se može spriječiti.”

Šta druge zemlje poduzimaju protiv Mete?

Dok se djelovanje protiv velikih kompanija društvenih mreža u SAD-u uglavnom odvija sudskim putem, u drugim državama glavnu ulogu preuzimaju regulatori.

U Evropskoj uniji regulatori vode više pravnih i regulatornih postupaka protiv Mete. Oni se odnose na pravila tržišne konkurencije u vezi s umjetnom inteligencijom na WhatsAppu, zaštitu djece te funkcije platformi koje mogu izazvati ovisnost, u okviru Akta o digitalnim uslugama (DSA).

EU je konkretno optužila kompaniju da je Facebook i Instagram dizajnirala tako da stvaraju ovisnost, uz ocjenu da Meta nije adekvatno procijenila opasnost koju njeni proizvodi predstavljaju za fizičko i mentalno zdravlje korisnika.

Glasnogovornik Evropske komisije rekao je nedavno kako Komisija čeka da Meta predstavi promjene kojima bi se ograničio ovisnički dizajn njenih društvenih mreža.

“Bili smo vrlo jasni… Meta zna šta od nje očekujemo. Lopta je sada u njenom dvorištu”, rekao je Thomas Regnier. “Na kompaniji je da ponudi takve obaveze i u Evropskoj uniji, kako bi zaštitila i našu djecu.”

Britanska vlada je u junu najavila široku zabranu društvenih mreža za mlađe od 16 godina, koja bi trebala stupiti na snagu naredne godine, slijedeći globalni trend pokrenut australijskim primjerom. U Velikoj Britaniji se, također, razmatraju noćna ograničenja i načini da se mlađima od 18 godina onemogući beskonačno “skrolanje”.

U Brazilu je Institut za kolektivnu odbranu, poznata organizacija za zaštitu prava potrošača, u oktobru 2024. godine podnio dvije tužbe protiv brazilskih podružnica Mete, TikToka i Kwaija. Traži tri milijarde reala, odnosno blizu 525 miliona dolara, odštete.

Tužbe, također, optužuju kompanije da nisu uvele dovoljne mjere zaštite o ovisnosti i korištenju platformi među djecom i adolescentima. Od marta ove godine platforme u Brazilu moraju povezati račune djece mlađe od 16 godina s računima njihovih zakonskih staratelja, u skladu s Digitalnim statutom za djecu i adolescente.

Južnokorejski medijski regulator je, također, reagirao na Metinu nagodbu, pozivajući da se bolja zaštita mladih korisnika, po mogućnosti, primjenjuje širom svijeta, a ne samo na pojedinim tržištima.