U Holandiji je prošle godine došlo do alarmantnog porasta broja lažnih nagih fotografija koje je generisala veštačka inteligencija (AI). Prema podacima stručnog centra Oflimits, broj ovih slika porastao je sa samo devet u 2023. godini na čak 59 u 2024. godini. Ovaj trend izaziva ozbiljnu zabrinutost među stručnjacima i organizacijama koje se bave zaštitom prava i sigurnosti, kao i među aktivistima protiv zlostavljanja na mreži, javlja NL Tajms.
Lažne fotografije, poznate kao „dipfejk“ (deepfake), često se stvaraju pomoću aplikacija koje koriste AI tehnologiju za kreiranje realističnih slika ili video zapisa. Ove aplikacije omogućavaju korisnicima da pošalju svoje fotografije ili fotografije drugih ljudi i dobiju digitalno izmenjene verzije, koje često prikazuju te osobe bez odeće. Stručnjaci navode da je ovo postalo jedan od najbrže rastućih oblika zlostavljanja na mreži, a dostupnost ovakvih usluga je porasla za 45%. U 2024. godini identifikovano je čak 47 različitih aplikacija i veb stranica koje nude ove usluge.
Jedan od najvažnijih aspekata ovog problema je to što žene čine 99% prijavljenih žrtava ovih lažnih nagih fotografija. To predstavlja ozbiljan oblik seksualnog nasilja, a stručnjaci naglašavaju da se ovo ne može smatrati nevinim šalom. Naprotiv, takve aktivnosti imaju ozbiljne emocionalne i psihološke posledice za žrtve, koje su često stavljene u situaciju sramote i stigmatizacije.
Povećanje takvih zloupotreba treba posmatrati u kontekstu šireg problema digitalnog nasilja nad ženama. Sa razvojem tehnologije i dostupnošću moćnih alata za manipulaciju slikama, lako je stvoriti lažne sadržaje koji mogu naneti značajnu štetu pojedincima. Ova situacija takođe ukazuje na potrebu za jačim zakonodavstvom i pravilima koja će se baviti ovim problemom, kao i na potrebu za edukacijom korisnika o rizicima koji dolaze s upotrebom ovih tehnologija.
U Holandiji, ali i širom sveta, raste pritisak na vlade i tehnološke kompanije da preduzmu mere protiv ovakvih zloupotreba. Organizacije za ljudska prava i aktivisti traže hitnu akciju kako bi se stvorile pravne osnove za kažnjavanje onih koji koriste AI za proizvodnju i distribuciju lažnih nagih fotografija. Takođe, postoji potreba za razvojem tehnologija koje bi mogle pomoći u identifikaciji i uklanjanju ovakvih sadržaja sa interneta.
Osim pravnih mera, važno je i obrazovanje javnosti o ovim pitanjima. Potrebno je podići svest o opasnostima koje dolaze s upotrebom AI u kreiranju sadržaja, kao i o načinima na koje se ljudi mogu zaštititi od ovakvih zloupotreba. Edukacija o digitalnoj pismenosti i etici korišćenja tehnologije može pomoći u smanjenju broja ovakvih slučajeva i zaštiti potencijalnih žrtava.
U svetlu ovih informacija, jasno je da je potrebno zajednički raditi na stvaranju sigurnijeg digitalnog okruženja. To zahteva saradnju vlada, tehnoloških kompanija, obrazovnih institucija i samih korisnika interneta. Samo kroz zajedničke napore možemo se boriti protiv zlostavljanja na mreži i osigurati da se svi korisnici interneta, posebno žene, osećaju sigurno i zaštićeno.
Sve u svemu, fenomen lažnih nagih fotografija generisanih veštačkom inteligencijom predstavlja ozbiljan izazov koji zahteva hitnu pažnju i akciju. S obzirom na brzinu kojom se tehnologija razvija, neophodno je da se društvo prilagodi i pronađe načine za zaštitu pojedinaca od ovakvih oblika digitalnog nasilja.
