Ordinul MCID #deepfake: Praf cu iz electoral

Fără o minimă consultare publică pe un text potențial, Ministerul cercetării, inovării și Digitalizării (MCID) a emis un nou ordin, publicat în Monitorul Oficial pe 16 mai 2024, prin care pune la dispoziția cetățenilor un formular online prin care aceștia par că pot raporta către Minister materiale deepfake.

Citind textul ordinului pare că Ministerul își propune ca, în interval de o oră de la primirea unei raportări, să confirme că există materialul și să trimită mai departe o sesizare către una dintre cinci mari platforme de social media pe care le vizează: Facebook, Instagram, TikTok, YouTube și Google.

MCID este punctul care centralizează aceste raportări care vizează conținut audio/video “manipulat digital în scopuri malițioase”. Printre scopurile malițioase pe care le acoperă ordinul sunt: “manipularea opiniei publice, șantaj, fraudă sau [...] campanii de propagandă și dezinformare cu potențial impact asupra integrității proceselor electorale”.

Ceea ce vedem în acest ordin nu este nimic altceva decât praf cu iz electoral, care are multiple probleme de încălcare a drepturilor fundamentale:

1. Formularul ignoră problema principală

Realitatea este că 98% din materialele deepfake de pe Internet sunt pornografice. Organizația Home Security Heroes, care se ocupă cu securitatea digitală, raportează această statistică pentru anul 2023. În 2019, 96% din materialele deepfake erau pornografice (după cum raportează Deeptrace).

Acest adevăr crunt e cunoscut, deci, de ani buni și accesibil la o minimă analiză. Și totuși, MCID a decis să ia în considerare doar alte scopurile malițioase care încap undeva în acele 2 procente rămase, fără măcar să recunoască problema principală.

Putem înțelege că subiectul poate fi mult mai sensibil de înțeles sau că modul de primire al unor astfel de plângeri ar necesita o analiză mai complicată pentru a proteja datele personale și/sau a nu re-victimiza persoanele lezate. Putem înțelege inclusiv faptul că Ministerul are nevoie de personal cu expertiză în domeniu, care ar trebui să administreze astfel de informații, pentru că, 99% din victimele deepfake-urilor pornografice sunt femei (în conformitate cu aceluiași raport de la Home Security Heroes). Putem înțelege și ca nu știe să apeleze la expertiza din societatea civilă, care urmărește și documentează sistematic acest fenomen.

Dar jurnaliști și organizații non-guvernamentale care luptă pentru drepturile femeilor atrag de ani buni atenția despre grupuri pe platforme online și pe aplicații de mesagerie care s-au transformat în adevărate rețele de distribuire a astfel de materiale, sau din alte categorii de conținut ilegal, cum ar fi pornografie infantilă și de revenge porn. În ciuda plângerilor făcute la instituțiile abilitate, aceste abuzuri continuă.

Ceea ce rezultă este că MCID consideră deepfake-ul malițios ca fiind doar o problemă de dezinformare ca o armă pur politică și mediatică, iar acest lucru riscă să distorsioneze realitatea.

2. Ce este “manipularea opiniei publice” și care este competența MCID?

Urmând logica ordinului emis de MCID, raportările vor fi valide atâta timp cât conținutul raportat există. Dar fără a analiza conținutul cum poți decide că nu este o eroare acea raportare și, deci, nu ar trebui să o trimiți mai departe?  Vedem, aici, un potențial foarte mare de a derapa: Ministerul poate ajunge să clasifice orice mesaje indezirabile ca fiind “malițioase”. Și invers.

Și care este competența legală sau umană în MCID în a identifica o operațiune de manipulare a opiniei publice, sau o campanie de propagandă și dezinformare?  Răspundem tot noi: ea nu există.

Mai practic o operațiune de manipulare a opiniei publice poate fi, după caz:

• Cel mai probabil ilegală (de exemplu Guvernatorul Isărescu care le cere românilor să investească în orice - dar nici măcar în acest caz MCID nu are competența legală de a nominaliza acest conținutul ca fiind ilegal)

• Legal, dar o minciună (de exemplu - Un video manipulat digital în scopuri malițioase care arată ca oamenii au debarcat pe Marte)

• Legal, și clar în limitele libertății de exprimare (de exemplu - Un video manipulat digital în scopuri malițioase care îl arată pe Ministrul Ivan, patronul temporar al MCID, cântând la țambal. Sau era Iohannis?)

• Legal, dar stupid (și care poate intra în categoria de “campanii de propagandă și dezinformare cu potențial impact asupra integrității proceselor electorale” -  de exemplu un video manipulat digital în scopuri malițioase care îl arată pe Mihai Viteazul cerându-le românilor să meargă la vot în 2024 pentru un anume partid politic).

Exemplele de mai sus sunt ilustrative, dar dacă doriți să înțelegeți cât de complicate sunt zonele de limite ale libertății de exprimare (unde începe? Unde se termină? De ce să ținem cont?) recomandăm o citire minuțioasă a rezumatului de 128 de pagini a  jurisprudenței CEDO în domeniu pe articolul 10 din Convenția Europeană a Drepturilor Omului.

Dar în România rezolvăm orice problemă de drepturi fundamentale printr-un ordin de ministru de 3 fraze.

3. Cooperarea sublimă care lipsește cu desăvârșire

Ultima dată când am verificat noi, legal ar putea fi treaba SRI-ului să identifice campaniile de dezinformare - tot așa, fără competență specifică în domeniu.

Regulamentul UE privind serviciile digitale (DSA) a intrat deja în vigoare și România și-a desemnat deja coordonatorul de servicii digitale (ANCOM), dar nu vedem nici un apetit din partea instituțiilor să primească ajutor. Acolo unde DSA împuternicește statele membre UE să creeze colaborări între instituțiile statului și societatea civilă cu expertiză în protejarea drepturilor cetățenilor, ANCOM face confuzii grave între tipologiile de conținut ilegal si, cel puțin momentan, limitează participarea societății civile și a mediului academic.

Teoretic, DSA precizează clar ca aceste platforme mari pot fi trase la răspundere chiar de Comisia Europeană (nu direct de ANCOM sau de vreun minister!) iar mecanismele de colaborare dintre ANCOM și Comisia ar fi cele prin care să poate fi raportate conținuturile ilegale. Teoretic, tot DSA reglementează instituția notificatorilor de încredere, care pot să facă direct aceste raportări către platforme.

Teoretic am putea avea parte de evaluări mai competente ale tipologiilor de conținut ilegal dacă în legea de implementare a DSA propusa de ANCOM în loc de termenii generici de “autorități responsabile”, “relevante” și “care dețin atribuții” ar fi făcut inventarul autorităților responsabile și să le identifice exact competențele pe conținut ilegal.

Teoretic ar putea să existe măcar o cooperare cu instituții publice care au competențe în diverse sectoare unde sunt nevoie sa analizeze și libertatea de exprimare în luarea deciziilor (de ex. Avocatul Poporului, CNA, CNCD).

Teoretic, si chiar cu bază legală în DSA, ar putea să existe și metode de cooperare cu societatea civilă. 

Practic? Praf.

4. Care vor fi rezultatele raportărilor, folosind acest formular?

Ca ultim ingredient, notăm și lipsa transparenței în ceea ce privește câte raportări au fost procesate, care au fost platformele vizate și cum au fost încadrate deepfake-urile (dezinformare? Șantaj? Fraudă? Propagandă?).

De exemplu Regulamentul DSA obligă notificatorii de încredere să raporteze statistic notificările pe care le-au făcut. Același DSA obligă orice platformă online care are este administrata de o firmă medie sa aibă un raport similar anual pentru a ști ce și cât a blocat și cine i-a cerut acest lucru.

Însă, dacă un Minister fără competențe legale și umane face aceste raportări direct către 5 platforme mari (care culmea, nici nu au obligația legală să îi răspundă) nu este obligată să prezinte cetățenilor nici câte cereri primesc (or fi 1029 in 2 zile?), nici cum le-au tratat, nici ce răspunsuri au primit sau dacă sistemul măcar funcționează.

Să le cerem sa ne zică dacă au respectat termenul de o oră ar fi o adevărată glumă.

Și dacă a impresionat pe cineva celeritatea cu care MCID-ul se angajează că va trimite mai departe raportările - în decurs de o oră - merită să spunem că Articolul 4 din ordin pune și o dată de expirare pentru reacțiile astea prompte. Graba e valabilă doar “pe întreaga perioadă preelectorală și electorală”.

Despre faptul că formularul MCID cere o adresă de email, fără a avea vreo notă de informare legată legată de ce face cu ea (oare persoana care a raportat primește un răspuns pe acea adresă?) sunt deja detalii. Pentru că întreg site-ul MCID nu are nicio politică de confidențialitate. Știm că instituțiile publice din România sunt imune la GDPR. Iar praf.

5. Concluzie: praf electoral

Pe scurt, ceea ce vedem este o instituție care fentează Regulamentul UE DSA și alege să ignore cea mai cruntă problemă actuală din mediul conținutului generat de AI.

Vorbind exclusiv despre pericolul șantajului și a dezinformării, instituțiile statului ignoră suferința victimelor, favorizând, însă, exclusiv propriile interese. Electorale.

Instituțiile competente care urmăresc “cu îngrijorare” fenomenul conținutului sintetic creat de AI ignoră sistematic violența împotriva femeilor - cea mai mare parte a fenomenul deepfake.

Practic avem un ordin de ministru care ignora ce este în jurul lui și scoate 3 fraze prin care se poate lăuda - ce surpriză, exact în campania electorală! - că a rezolvat problema deepfake.

Fără sa rezolve nimic în fond, ignorând problema principală și creând altele.

Praf!