EK: Razvoj umjetne inteligencije ne isključuje brigu o zaštiti pojedinaca

Većina europarlamentaraca iznijela je sumnju u razvoj digitalne tehnologije uz garantovanje sigurnosti ljudi

Socijaldemokrat Tiemo Woelken ocijenio je u raspravi da je “u vezi umjetne inteligencije, prepoznavanje lica je jedan od najvažnijih problema" (EPA)
Socijaldemokrat Tiemo Woelken ocijenio je u raspravi da je “u vezi umjetne inteligencije, prepoznavanje lica je jedan od najvažnijih problema" (EPA)

Umjetna inteligencija, kao i svaka druga tehnologija, podrazumijeva određene rizike, no zakon koji je predložila Evropska komisija štitit će korisnike takvih sistema i prava građana, poručio je u četvrtak povjerenik Komisije za unutarnje tržište Thierry Breton.

Dan nakon objave novog prijedloga zakona EU-a o korištenju umjetne inteligencije u skladu s evropskim vrijednostima i pravima, Odbor za pravna pitanja Evropskog parlamenta održao je prvu raspravu o tom prijedlogu na kojoj je većina europarlamentaraca iznijela sumnju u razvoj digitalne tehnologije uz garantovanje sigurnosti ljudi, prenosi Hina.

Kao odgovor na postavljena pitanja i iznesena stajališta, Thierry Breton, u ime Komisije, naglasio je da će u kontekstu umjetne inteligencije, “vrlo jasno biti zabranjeni tzv. social scoring, iskorištavanje ugroženih grupa kao što su na primjer djeca i korištenje biometrijskih podataka na daljinu u realnom vremenu od strane policije (osim kada je riječ o izuzecima kao što je slučaj terorizma)”.

“Da bismo osigurali povjerenje u sistem umjetne inteligencije te zaštitili građane, potrebne su određene mjere i zahtjevi za sve visokorizične sisteme”, konstatirao je povjerenik dodajući da su neki od glavnih koraka u kontroli tehnologije i poštivanju ljudskih prava sljedeći: posjedovanje tehničke dokumentacije, vođenje registra, transparentnost, informiranje građana, ljudski nadzor i briga o kibernetičkoj sigurnosti.

Prepoznavanje lica

“Nije nam u cilju stigmatizirati tehnologiju, niti namjeravamo kočiti inovacije, više je riječ o nužnosti da se donesu zakoni kako bi u okviru umjetne inteligencije postojala određena razmjernost i predvidljivost”, objasnio je Breton.

Socijaldemokrat Tiemo Woelken ocijenio je u raspravi da je “u vezi umjetne inteligencije, prepoznavanje lica je jedan od najvažnijih problema”. “Tu je riječ o temeljnim ljudskim pravima”, istaknuo je Woelken.

Gilles Lebreton iz Kluba zastupnika Identitet i demokracija (ID) upozorio je da “treba pronaći ravnotežu između razvoja umjetne inteligencije i zaštite pojedinaca”.

“Mogli bi se pitati hoćemo li postići tu ravnotežu, posebno kada je riječ o ranjivim grupama. (…) Bit će vrlo teško regulirati prepoznavanje lica”, smatra Leberton .

Evropska komisija je u srijedu predložila novi pravni okvir za umjetnu inteligenciju koji bi trebao pojačati povjerenje korisnika, garantovati sigurnost i poštovanje temeljnih prava i potaknuti ulaganja i inovacije u tom području.

Pravila će se direktno primjenjivati na isti način u svim državama članicama na temelju definicije umjetne inteligencije koja je prilagođena budućim okolnostima, a u njihovoj je izradi korišten pristup koji se temelji na procjeni stepena rizika (visokorizičnog, ograničenog, minimalnog).

Izvor: Agencije

Povezane

Prošlo je više od dva mjeseca od kada je američka policija ubila Georgea Floyda. Protesti širom SAD se nastavljaju, ali demonstranti više ne zahtijevaju procesuiranje pojedinačnih incidenata, nego sistemske promjene. Jedan od najočiglednijih primjera je široko rasprostranjeno korištenje softvera za prepoznavanja lica, za koji je dokazano da pravi velike greške kada je riječ o ljudima […]

Više iz rubrike Svijet
POPULARNO