Inteligenţa artificială (AI) reprezintă o ameninţare semnificativă pentru democraţie şi pace, dacă nu este reglementată corespunzător, a avertizat Organizaţia Naţiunilor Unite (ONU). Secretarul general Antonio Guterres a subliniat această problemă în contextul unui raport al unui grup de experţi, care identifică riscurile tot mai mari asociate deepfake-urilor realiste, evoluţiei armelor autonome şi utilizării AI de către organizaţii criminale şi teroriste.
Raportul semnalează o guvernanţă globală insuficientă în domeniul AI şi subliniază că dezvoltarea acestei tehnologii nu poate rămâne exclusiv în mâinile pieţei. Guterres şi experţii săi cer o cooperare internaţională crescută pentru a preveni efectele negative ale inteligenţei artificiale.
Printre cele mai îngrijorătoare aspecte menţionate se numără dezvoltarea armelor autonome, capabile să ia decizii letale fără intervenţie umană. Fără reglementări internaţionale clare, aceste arme pot genera conflicte necontrolate şi instabilitate globală. De asemenea, grupurile teroriste ar putea utiliza AI pentru atacuri cibernetice şi dezinformare.
Un alt risc semnificativ este reprezentat de deepfake-uri, tehnologii care creează imagini şi videoclipuri extrem de realiste, dar false. Acestea pot manipula opinia publică, provoca confuzie politică şi destabiliza guvernele democratice. Deepfake-urile pornografice, în special, constituie o ameninţare serioasă la adresa intimităţii, iar lipsa unui cadru legal adecvat îngreunează combaterea acestui tip de abuz.
Grupul de experţi, format din aproximativ 40 de specialişti în tehnologie, drept şi protecţia datelor, a fost creat de Guterres în octombrie pentru a aborda aceste provocări. În raportul lor, aceştia propun înfiinţarea unui grup ştiinţific similar cu Panelul Interguvernamental pentru Schimbările Climatice (IPCC), pentru a informa comunitatea internaţională despre riscurile emergente şi a oferi soluţii benefice, cum ar fi reducerea sărăciei şi combaterea inegalităţilor de gen.
De asemenea, experţii sugerează crearea unui mecanism de coordonare în cadrul secretariatului ONU pentru a facilita colaborarea globală. Totuşi, raportul nu susţine imediat înfiinţarea unui organism internaţional robust pentru guvernanţa AI, dar avertizează că, pe măsură ce riscurile cresc, ar putea deveni necesară o instituţie internaţională cu atribuţii clare de monitorizare şi aplicare a legilor.
Raportul subliniază că viteza şi autonomia dezvoltării AI fac imposibilă realizarea unei liste complete a pericolelor, însă experţii avertizează că amânarea reacţiei până la apariţia unei ameninţări ar putea fi fatală. Prin urmare, ei recomandă evaluări continue şi dialoguri politice constante pentru a evita surprizele neplăcute.
Concluziile raportului sunt parte a propunerii de „Compact Digital Global”, ce urmează să fie adoptată la Summitul pentru Viitor de duminica.
