Borba protiv dečije pornografije: Država gviri u poruke?

Mogu li dobronamerne inicijative za borbu protiv zlostavljanja dece da budu presedan u Evropskoj uniji?

To je pitanje koje se nalazi u središtu žustre rasprave o nacrtu zakona, koji bi mogao biti usvojen tokom sastanka ministara EU u četvrtak (10. oktobar).

Zakon bi zahtevao od platformi kao što su WhatsApp, iMessage ili Signal da, zbog materijala koji potencijalno sadrži seksualno zlostavljanje dece, automatski skeniraju poruke poslate unutar EU. To bi podrazumevalo i da se sumnjivi sadržaj prijavljuju nadležnim organima.

Pristalice zakona tvrde da je on hitno potreban zbog porasta sadržaja vezanog za zlostavljanje dece i da je neophodan radi zaštite najugroženijih članova društva.

Međutim, protivnici tvrde da su mere, koje nazivaju „kontrola poruka“, neefikasne, sklone greškama i da mogu narušiti osnovno pravo građana EU na privatnost.

„Naravno da smo kao društvo saglasni po pitanju važnosti borbe protiv takvog sadržaja“, kaže Anja Leman, profesorka šifrovanja na institutu „Haso Platner“ u Potsdamu. „Ali ne postoje pouzdani dokazi da bi predložene mere bile efikasne.“

Leman je jedna od 344 istraživača iz 34 zemlje koji su potpisali otvoreno pismo u kojem upozoravaju da bi novi zakon praktično označio kraj bezbedne enkripcije (šifrovanja) i mogao otvoriti put ka masovnom nadzoru.

„Čini se da se borba protiv takvih zločina ponovo koristi kao izgovor za napad na sigurnu enkripciju onlajn komunikacija“, izjavila je Leman za DW.

Ustavna pitanja

Pravni stručnjaci dele zabrinutost koju su izrazili istraživači.

„Ovaj zakon bi predstavljao značajno zadiranje u osnovna prava, što je nesporno među pravnicima“, rekao je Andre Haug, potpredsednik Nemačke savezne advokatske komore, krovne organizacije koja predstavlja oko 166.000 advokata.

Zakon je bio kontroverzan od trenutka kada je prvi put predstavljen 2022. godine. Dva prethodna nacrta su blokirana zbog zabrinutosti u vezi s privatnošću.

Iako najnovija verzija, koju je sastavilo mađarsko predsedništvo EU, donosi manje izmene, „ne rešava osnovni problem“, rekao je Haug za DW.

Zakon bi i dalje kršio pravo na zaštitu komunikacija i ličnih podataka, kako je navedeno u članu 7 i 8 Povelje o osnovnim pravima EU, istakao je on.

„Ovo je posebno zabrinjavajuće u osetljivim oblastima, kao što su komunikacije između advokata i klijenata ili lekara i pacijenata“, dodao je Haug.

Skeniranje sadržaja pre nego što bude enkriptovan

Predlog zakona ne precizira na koji način bi provajderi poput WhatsAppa, iMessagea ili Signala morali da skeniraju sadržaj u svojim aplikacijama.

Međutim, stručnjaci kažu da je jedina izvodljiva metoda takozvano „skeniranje na strani korisnika“.

To je proces u kojem se poruke proveravaju u odnosu na anonimnu bazu podataka materijala koji sadrži seksualno zlostavljanje dece ili slučajeva „gruminga“ — pokušaja potencijalnih predatora da uspostave emocionalnu vezu s maloletnicima u cilju zlostavljanja — pre nego što budu enkriptovane.

Iako regulativa tvrdi da bi ovaj pristup poštovao enkripciju, u praksi to nije slučaj, tvrdi profesorka Leman, nudeći poređenje s tradicionalnim pismima.

„Država možda ne otvara pisma ljudima“, kaže, „ali efektivno gleda preko njihovog ramena dok ih pišu, kako bi videla šta u njima stoji.“

Lažne uzbune i opasnost od proširenja nadzora

Tehnološki stručnjaci takođe upozoravaju da je tehnologija za skeniranje pomoću veštačke inteligencije nezrela i da će rezultirati velikim brojem lažnih uzbuna.

Oni upozoravaju da bi kriminalci mogli iskoristiti sistem skeniranja za napade velikih razmera, čime bi se potkopala sigurnost uređaja.

Takođe, upozoravaju na mogućnost proširenja nadzora: čim se tehnologija uspostavi, mogla bi se proširiti na praćenje sadržaja izvan materijala o zlostavljanju dece.

„Kada jednom otvorimo ta vrata, stvaramo infrastrukturu koja bi nas potencijalno mogla uvesti u nadzornu državu“, rekla je Lehman.

Autokratski režimi, na primer, mogli bi koristiti skeniranje na strani korisnika kako bi detektovali sadržaj kritičan prema vlasti, dodala je.

Politički okršaj

Još uvek nije jasno da li će oni ministri unutrašnjih poslova EU koji podržavaju zakon obezbediti potrebnu većinu za usvajanje zakona na sastanku u četvrtak.

Ako uspeju, proces će preći u zatvorene pregovore, gde će Evropski parlament, Evropski savet i Evropska komisija precizirati detalje zakona.

Ako protivnici, poput Nemačke, prikupe dovoljno glasova da blokiraju nacrt, zakonodavci će se verovatno vratiti izradi novog predloga.

Holandija, koja je prethodno bila neodlučna, ove nedelje je najavila da neće podržati nacrt zbog zabrinutosti za osnovna prava.

*ovaj članak je najpre objavljen na engleskom jeziku