Kako će OpenAI odgovoriti na moguće zloupotrebe AI-ja na izborima

Upotreba umjetne inteligencije za ometanje integriteta izbora izaziva zabrinutost otkako je kompanija koju podržava Microsoft objavila dva proizvoda: ChatGPT i DALL-E.

I Sam Altman, izvršni direktor OpenAI-ja, je pred američkim Kongresom priznao da je 'nervozan' zbog sposobnosti generativne AI da kompromitira izborni integritet (EPA)

Laboratorija za umjetnu inteligenciju OpenAI objavila je post na blogu u kojem pokušava odgovoriti na strah da će se njena tehnologija miješati u izbore, jer se više od trećine država u svijetu sprema da izađe na izbore ove godine.

Upotreba umjetne inteligencije (AI) za ometanje integriteta izbora izaziva zabrinutost otkako je kompanija koju podržava Microsoft objavila dva proizvoda: ChatGPT, koji može uvjerljivo da oponaša ljudsko pisanje, i DALL-E, čija tehnologija se može koristiti za kreiranje deep fake ili realističnih slika koje su izmišljene, prenio je Reuters.

Među zabrinutima je i Sam Altman, izvršni direktor OpenAI-ja, koji je pred američkim Kongresom priznao da je „nervozan“ zbog sposobnosti generativne AI da kompromitira izborni integritet kroz „jedan na jedan interaktivne dezinformacije“.

Kompanija sa sjedištem u San Franciscu je objavila da u SAD-u, u kojima će se ove godine održati predsjednički izbori, radi sa Nacionalnim udruženjem državnih sekretara, organizacijom koja se fokusira na promoviranje efektivnih demokratskih procesa kao što su izbori.

Zabrana kreiranja slika stvarnih ljudi

ChatGPT će usmjeriti korisnike na stranicu CanIVote.org kada je riječ o pitanjima vezanim za izbore, dodala je kompanija.

Kompanija radi na tome da bude očiglednije kada se slike generiraju pomoću umjetne inteligencije pomoću platforme DALL-E i da planira staviti ikonu CR na slike kako bi označila da je AI generirana, prateći protokol koji je kreirala Koalicija za porijeklo i autentičnost sadržaja.

Navela je i da radi na načinima za identifikaciju DALL-E generiranih sadržaja, čak i nakon što su slike izmijenjene.

U svom postu na blogu, OpenAI je naglasio da je njegova politika zabrana korištenja njegove tehnologiju na način koji je identificiran kao potencijalno uvredljiv, kao što je kreiranje chatbotova koji se pretvaraju da su stvarni ljudi ili obeshrabruju glasanje. Isto tako, zabranjuje platformi DALL-E da kreira slike stvarnih ljudi, uključujući političke kandidate, prenosi Tanjug.

Izvor: Agencije

Reklama