AI ACT: Cum a încercat Europa să domesticească inteligența artificială

Nota refu.ro: Există momente în istoria tehnologiei când o specie nouă apare brusc în ecosistem. Nu evoluează lent, nu se adaptează treptat — pur și simplu erupe. Inteligența artificială generativă a fost un astfel de moment. Iar Uniunea Europeană a decis să facă ceea ce nicio altă putere mondială nu îndrăznise: să scrie regulile de conviețuire înainte ca prădătorul să fie complet crescut. Rezultatul se numește AI Act — Regulamentul (UE) 2024/1689. Aceasta este povestea lui.

1. Prologul: un continent care scrie legi pentru viitor

În noiembrie 2022, ChatGPT a ajuns la un milion de utilizatori în cinci zile. La Bruxelles, în acel moment, un text legislativ dormea deja de 18 luni pe masa negociatorilor. Propunerea Comisiei Europene fusese publicată în aprilie 2021 — Vreme în care „AI” însemna încă, pentru majoritatea oamenilor, recomandări Netflix și filtre de spam.

Apoi lumea s-a schimbat. Iar legiuitorii europeni au fost nevoiți să rescrie, în plin zbor, un regulament care nu mai avea de-a face cu simple algoritmi de clasificare, ci cu sisteme capabile să scrie cod, să genereze fețe umane inexistente și să susțină conversații indistinguibile de cele umane.

Cronologia nașterii:

Este primul cadru legal orizontal, cuprinzător, dedicat inteligenței artificiale din istoria omenirii. Și, la fel ca orice experiment de anvergură planetară, a produs deja consecințe pe care nimeni nu le anticipase pe deplin.

2. Ideea de bază: nu reglementăm tehnologia, reglementăm riscul

Aici se află geniul — și, spun criticii, capcana — arhitecturii europene.

AI Act nu interzice o tehnologie anume. Nu spune „rețelele neuronale convoluționale sunt periculoase”. Nu impune reguli pe bază de dimensiune a modelului sau tip de algoritm. În schimb, pune o singură întrebare: ce se poate întâmpla dacă acest sistem greșește, și cui i se întâmplă?

Este exact logica pe care biologia o folosește pentru a clasifica agenții patogeni în laboratoare: nu conteaza cât de „interesant” e microorganismul, conteaza ce face dacă scapă. Nivelul de biosecuritate 1 pentru drojdia de bere, nivelul 4 pentru Ebola.

AI Act construiește o piramidă a riscului cu patru trepte.

                    ▲
              ┌─────────────┐
              │ INACCEPTABIL │  → INTERZIS
              └─────────────┘
           ┌───────────────────┐
           │    RISC RIDICAT    │  → Reglementat strict
           └───────────────────┘
        ┌─────────────────────────┐
        │   RISC DE TRANSPARENȚĂ   │  → Obligație de dezvăluire
        └─────────────────────────┘
     ┌───────────────────────────────┐
     │      RISC MINIM / NUL          │  → Liber
     └───────────────────────────────┘

Aproximativ 85% din sistemele AI folosite azi în Europa se află în baza piramidei — adică nu sunt afectate de aproape nimic din regulament. Traducerea automată, filtrele de spam, sistemele de recomandare pentru muzică, optimizarea rutelor de livrare: toate rămân libere.

3. Treapta întâi: ceea ce Europa a decis că nu se negociază

Articolul 5 este cel mai scurt și cel mai radical din tot regulamentul. El listează practicile interzise — sisteme AI care, în viziunea legiuitorului european, sunt incompatibile cu demnitatea umană indiferent de cât de bine ar funcționa. Aceste interdicții se aplică din 2 februarie 2025.

Lista neagră

1. Manipularea subliminală sau exploatarea vulnerabilităților
Sisteme care folosesc tehnici dincolo de conștiința persoanei pentru a distorsiona comportamentul în mod dăunător. Include exploatarea vârstei, dizabilității sau situației socio-economice — de exemplu, o jucărie inteligentă care încurajează copiii spre comportamente periculoase.

2. Scoringul social
Evaluarea sau clasificarea persoanelor pe baza comportamentului social ori a caracteristicilor personale, ducând la tratament defavorabil în contexte care nu au legătură cu datele originale. Este răspunsul explicit al Europei la modelele de „credit social”.

3. Poliția predictivă individuală
Predicția probabilității ca o persoană anume să comită o infracțiune, bazată exclusiv pe profilarea sau trăsăturile ei de personalitate. Analiza criminalității pe zone geografice rămâne permisă; „pre-crime” pe individ, nu.

4. Scraping-ul nediscriminatoriu de imagini faciale
Crearea sau extinderea bazelor de date de recunoaștere facială prin colectarea neselectivă de imagini din internet sau din camerele de supraveghere. Această prevedere a fost scrisă, practic, cu numele unor companii concrete în minte.

5. Recunoașterea emoțiilor la locul de muncă și în școli
Cu excepții înguste pentru motive medicale sau de siguranță. Baza științifică a „detectării emoțiilor” din expresii faciale este contestată — iar legiuitorul a preferat prudența.

6. Categorizarea biometrică pentru deducerea atributelor sensibile
Rasă, opinii politice, apartenență sindicală, convingeri religioase, viață sexuală. Nu se deduc din față.

7. Identificarea biometrică la distanță, în timp real, în spații publice, în scopuri de aplicare a legii
Aici s-a purtat cea mai dură bătălie a întregului regulament. Rezultatul e un compromis: interdicție cu excepții strict enumerate — căutarea victimelor răpirilor sau traficului de persoane, prevenirea unei amenințări teroriste iminente, localizarea suspecților pentru infracțiuni grave dintr-o listă închisă. Fiecare utilizare cere autorizare judiciară prealabilă (sau în 24 de ore în cazuri urgente), o evaluare de impact și notificarea autorității de supraveghere a pieței.

Cele două interdicții noi din 2026

Aici avem cea mai importantă noutate legislativă a acestui an. AI Omnibus, intrat în vigoare pe 27 iulie 2026, a adăugat două practici pe lista neagră a articolului 5:

• generarea sau manipularea de materiale de abuz sexual asupra copiilor (CSAM) prin sisteme AI;
• generarea de conținut intim sau sexual explicit neconsensual care înfățișează persoane identificabile — așa-numitele aplicații „nudifier”.

Interdicția acoperă imagini, video și audio. Iar formularea este remarcabil de agresivă din punct de vedere tehnic: pentru furnizori, interdicția nu se limitează la sistemele destinate acestui scop, ci se extinde la orice sistem în care o astfel de generare este un rezultat previzibil și reproductibil în mod rezonabil, fără modificări tehnice semnificative, și care nu are garanții tehnice adecvate pentru a o preveni în mod fiabil.

Cu alte cuvinte: dacă construiești un generator de imagini de uz general și el poate fi păcălit să producă astfel de conținut fără mari eforturi, ai o problemă legală. Perioada de tranziție se încheie la 2 decembrie 2026.

Sancțiunile

Încălcarea articolului 5 atrage cea mai mare amendă din regulament: până la 35 de milioane de euro sau 7% din cifra de afaceri globală anuală, oricare valoare este mai mare. Pentru comparație, plafonul GDPR este de 4%.

4. Treapta a doua: sistemele cu risc ridicat — inima regulamentului

Dacă articolul 5 este partea spectaculoasă, Capitolul III este partea grea. Aici se află 90% din efortul real de conformare și aici se joacă miza economică a regulamentului.

Cine intră în categorie

Există două porți de intrare:

Anexa I — AI încorporat în produse deja reglementate.
Dispozitive medicale, mașini industriale, echipamente de aviație, ascensoare, jucării, autovehicule. Dacă AI-ul este o „componentă de siguranță” a unui produs care oricum trece printr-o evaluare de conformitate europeană, intră aici.

Anexa III — sisteme autonome în opt domenii sensibile:

Un detaliu crucial: simpla încadrare în Anexa III nu înseamnă automat „risc ridicat”. Articolul 6(3) permite o derogare dacă sistemul îndeplinește doar o sarcină procedurală restrânsă, îmbunătățește rezultatul unei activități umane anterioare, detectează abateri de la modele decizionale fără a înlocui evaluarea umană, sau efectuează o sarcină pregătitoare. Furnizorul trebuie însă să documenteze această evaluare și să se înregistreze într-o bază de date UE.

Și o clarificare adusă de Omnibus în 2026: definiția „componentei de siguranță” a fost restrânsă. Sistemele AI folosite exclusiv pentru asistarea utilizatorului, optimizarea performanței, eficiența serviciilor, automatizare, confort sau controlul calității nu devin automat de risc ridicat doar pentru că sunt încorporate într-un produs reglementat — cu condiția ca defectarea lor să nu pună în pericol sănătatea sau siguranța. În plus, produsele acoperite de Regulamentul privind mașinile industriale au fost în mare parte scoase din perimetru.

Ce trebuie să faci: cele nouă comandamente

Pentru un sistem de risc ridicat, furnizorul (cel care dezvoltă și pune pe piață) are obligații care seamănă izbitor cu cele din industria farmaceutică sau aeronautică:

① Sistem de management al riscului — un proces continuu, iterativ, pe tot ciclul de viață. Nu un document scris o dată.

② Guvernanța datelor — seturile de antrenare, validare și testare trebuie să fie relevante, suficient de reprezentative, cât mai lipsite de erori și complete. Cu examinarea explicită a posibilelor prejudecăți.

③ Documentație tehnică — conform Anexei IV, suficient de detaliată pentru ca o autoritate să poată verifica conformitatea.

④ Înregistrare automată a evenimentelor (logging) — trasabilitate pe durata de viață a sistemului.

⑤ Transparență față de utilizatorul profesional — instrucțiuni de utilizare care includ nivelul de acuratețe, limitările cunoscute și condițiile de funcționare previzibile.

⑥ Supraveghere umană — sistemul trebuie proiectat astfel încât o persoană să poată înțelege rezultatele, să le poată contesta și să poată apăsa butonul roșu. Aici intervine și problema automation bias, menționată explicit în text.

⑦ Acuratețe, robustețe, securitate cibernetică — inclusiv rezistență la atacuri adversariale, otrăvirea datelor și manipularea modelului.

⑧ Sistem de management al calității — infrastructura organizațională care susține tot restul.

⑨ Evaluare de conformitate, marcaj CE, înregistrare în baza de date UE — plus monitorizare post-comercializare și raportarea incidentelor grave în maximum 15 zile.

Și dacă doar folosesc AI, nu îl construiesc?

Ești deployer (utilizator profesional) și ai obligații proprii, mai ușoare dar reale: să folosești sistemul conform instrucțiunilor, să asiguri supraveghere umană competentă, să monitorizezi funcționarea, să păstrezi logurile, să informezi lucrătorii afectați înainte de a folosi AI la locul de muncă și — dacă ești autoritate publică sau entitate care prestează servicii publice — să realizezi o evaluare a impactului asupra drepturilor fundamentale (FRIA).

Atenție la o capcană majoră: articolul 25 spune că un deployer devine furnizor dacă își pune numele pe sistem, îi modifică scopul preconizat sau aduce o modificare substanțială. Fine-tuning-ul agresiv al unui model pentru o utilizare de risc ridicat te poate transforma, legal, din client în producător.

5. Treapta a treia: transparența — regula care se aplică ACUM

Aceasta este partea la care trebuie să fii atent în această vară, pentru că, spre deosebire de restul, nu a fost amânată.

Articolul 50 se aplică de la 2 august 2026 și impune patru obligații:

1. Interacțiunea om–mașină. Dacă o persoană vorbește cu un chatbot, trebuie să știe. Excepție: când e evident din context.

2. Marcarea conținutului sintetic. Furnizorii de sisteme care generează audio, imagine, video sau text trebuie să încorporeze marcaje citibile de mașină (watermarking, metadate, amprente criptografice) care permit detectarea originii artificiale.

3. Deepfake-uri. Cine folosește un sistem AI pentru a genera sau manipula conținut care seamănă cu persoane, obiecte, locuri sau evenimente reale trebuie să dezvăluie că materialul a fost generat artificial. Există derogări pentru operele evident artistice, satirice sau fictive — dar dezvăluirea trebuie făcută într-un mod care nu împiedică fruirea operei.

4. Text de interes public. Textul generat de AI publicat pentru a informa publicul despre chestiuni de interes public trebuie marcat, cu excepția cazului în care a fost supus revizuirii editoriale umane și cineva își asumă răspunderea.

Perioada de grație pentru watermarking

Aici Omnibus a adus o singură ușurare, dar semnificativă: sistemele puse pe piață înainte de 2 august 2026 au timp până la 2 decembrie 2026 pentru a se conforma obligației de marcare din art. 50(2). Sistemele lansate de la 2 august 2026 încolo trebuie să fie conforme de la prima zi.

Restul articolului 50 — inclusiv obligația de a dezvălui că utilizatorul vorbește cu o mașină — se aplică fără grație.

6. Modelele de uz general: capitolul scris în ultimul moment

Când textul a fost conceput în 2021, nimeni nu se gândea la modele fundaționale antrenate pe jumătate de internet. Capitolul V a fost adăugat în ultima fază a negocierilor și tratează modelele AI de uz general (GPAI) — GPT, Gemini, Claude, Llama, Mistral și rudele lor.

Regulile se aplică din 2 august 2025.

Nivelul de bază: toți furnizorii de GPAI

• documentație tehnică a modelului (arhitectură, date de antrenare, consum energetic);
• informații pentru furnizorii din aval care integrează modelul;
• politică de respectare a drepturilor de autor, inclusiv respectarea rezervelor de tip opt-out pentru text and data mining;
• un sumar public suficient de detaliat al datelor de antrenare, conform unui șablon publicat de Comisie.

Furnizorii de modele open-source cu licență liberă beneficiază de scutiri parțiale — dar nu de la obligațiile privind drepturile de autor și sumarul datelor.

Nivelul superior: modele cu risc sistemic

Un model este prezumat a prezenta risc sistemic dacă puterea de calcul cumulată folosită la antrenare depășește pragul:

$$
\text{FLOP}_{\text{antrenare}} > 10^{25}
$$

Comisia poate ajusta acest prag prin acte delegate — și e de așteptat că o va face, pe măsură ce hardware-ul devine mai ieftin. Un model poate fi desemnat cu risc sistemic și pe baza altor criterii calitative.

Pentru aceste modele apar obligații suplimentare grele: evaluare a modelului cu testare adversarială (red-teaming), evaluarea și atenuarea riscurilor sistemice la nivel european, raportarea incidentelor grave către Oficiul AI, și un nivel adecvat de protecție a securității cibernetice.

Instrumentul practic de conformare este Codul de bune practici pentru GPAI, finalizat în iulie 2025 și structurat pe trei capitole: transparență, drepturi de autor, siguranță și securitate. Semnarea lui nu e obligatorie, dar oferă prezumția de conformitate și un tratament mai blând din partea autorităților.

Amenzi pentru GPAI: până la 15 milioane de euro sau 3% din cifra de afaceri globală.

7. Arhitectura de putere: cine păzește păzitorii

Un regulament fără executor este literatură. AI Act a construit o structură instituțională pe mai multe niveluri:

Ce a schimbat Omnibus: puterile Oficiului AI au fost întărite considerabil. Are acum instrumente de investigație, inspecții la fața locului, posibilitatea de a accepta angajamente obligatorii și de a impune amenzi. Competența s-a extins și asupra sistemelor AI furnizate de același operator care furnizează modelul de bază, precum și asupra AI-ului integrat în platformele foarte mari. Autoritățile naționale rămân competente pentru aplicarea legii, gestionarea frontierelor, autoritățile judiciare și instituțiile financiare.

Grila completă a sancțiunilor

Pentru IMM-uri și întreprinderi mici cu capitalizare medie se aplică plafonul cel mai mic dintre valoarea absolută și procentul — o inversare deliberată a logicii, gândită să nu ucidă startup-urile.

8. Cotitura din 2026: „Digital Omnibus” sau cum Europa a apăsat pedala de frână

Aceasta este partea din poveste pe care mulți nu au observat-o, dar care schimbă totul din punct de vedere practic.

Spre finalul anului 2025, devenise vizibil că implementarea era în afara graficului. Standardele tehnice armonizate — piesele de bază fără care nicio companie nu poate demonstra conformitatea — nu erau gata. Organismele notificate nu erau desemnate. Ghidurile Comisiei întârziau. Iar termenul de 2 august 2026 se apropia ca un tren.

Pe 19 noiembrie 2025, Comisia a pus pe masă pachetul Digital Omnibus, o operațiune de simplificare care viza AI Act, GDPR, Directiva ePrivacy, NIS2 și Data Act. Reacțiile au fost violente în ambele direcții: industria a salutat, organizațiile de drepturi digitale au vorbit despre „cea mai mare retragere din protecția drepturilor digitale din istoria UE”.

Negocierile au fost dure. O primă rundă de trilog a eșuat pe 28 aprilie 2026. Acord politic provizoriu pe 6 mai, confirmat de Consiliu pe 13 mai. Componenta AI a fost desprinsă din pachet și trecută pe procedură accelerată, exact pentru a ajunge la timp. Semnare pe 8 iulie, publicare în Jurnalul Oficial pe 24 iulie, intrare în vigoare pe 27 iulie 2026 ca Regulamentul (UE) 2026/1744.

Restul pachetului — GDPR, ePrivacy, NIS2, Data Act — este încă în negociere.

Ce s-a schimbat, concret

⚠️ Amânarea termenelor pentru risc ridicat. Mecanismul condiționat propus inițial de Comisie (legat de disponibilitatea standardelor) a fost înlocuit cu date fixe:

• 2 decembrie 2027 pentru sistemele autonome din Anexa III;
• 2 august 2028 pentru AI încorporat în produse reglementate (Anexa I).

Alte modificări:

• reducerea suprapunerii cu legislația sectorială — Comisia poate limita aplicarea AI Act unde legea sectorială impune deja cerințe echivalente;
• evaluare de conformitate simplificată — o singură cerere și o singură procedură pentru desemnarea unui organism atât sub AI Act cât și sub legislația de armonizare; organismele notificate deja existente pot lucra tranzitoriu;
• ușurări pentru IMM-uri și întreprinderi mici cu capitalizare medie — documentație tehnică simplificată, obligații proporționale de management al calității, sancțiuni atenuate, acces prioritar la sandbox-uri;
• alfabetizarea AI relaxată — articolul 4 nu mai cere să asiguri un nivel suficient de alfabetizare AI, ci să susții dezvoltarea acestuia. Comisia și statele membre au obligația corelativă de a ajuta cu exemple practice;
• detectarea prejudecăților extinsă — baza legală pentru prelucrarea datelor din categorii speciale în scopul detectării și corectării bias-ului se extinde de la sistemele de risc ridicat la toate sistemele AI și modelele GPAI, sub un standard strict de necesitate;
• sandbox-urile de reglementare — termenul pentru statele membre de a le înființa a fost mutat la 2 august 2027.

Calendarul consolidat, august 2026

Mesajul-cheie: amânare nu înseamnă anulare. Arhitectura regulamentului — abordarea bazată pe risc, structura de guvernanță, obligațiile de fond — a rămas intactă. Iar 2 august 2026 este o dată de conformare activă.

9. Ce înseamnă asta în România

România nu are nevoie de o lege de transpunere — un regulament european se aplică direct. Dar are nevoie de instituții care să îl aplice, iar aici drumul a fost lent.

Pe 12 martie 2026, Guvernul a publicat un memorandum care propune arhitectura instituțională de aplicare a Regulamentului (UE) 2024/1689. Rolul de autoritate principală de supraveghere a pieței a fost atribuit ANCOM — autoritatea de comunicații — cu competențe sectoriale distribuite către ASF și BNR pentru AI-ul din domeniul financiar și către ANSPDCP pentru componenta de protecție a datelor. ANCOM a confirmat public stadiul cadrului de implementare în iulie 2026.

Legislația națională de punere în aplicare — cea care va stabili procedurile concrete de control și cuantumurile sancțiunilor în plan intern — este, la momentul redactării acestui articol, încă în lucru.

Ce înseamnă practic pentru o companie din România:

1. Regulamentul te obligă deja, indiferent de stadiul legislației naționale.
2. Se aplică extrateritorial: dacă rezultatul sistemului tău e folosit în UE, ești în perimetru — chiar dacă societatea e înregistrată în afara Uniunii. Și invers: dacă folosești un instrument american, ai obligații de deployer.
3. Zonele de expunere cea mai probabilă pentru firmele românești: recrutare (filtrare CV-uri), scoring de credit, monitorizarea angajaților, chatboți de relații cu clienții, conținut generat de AI în marketing.
4. Cel mai urgent lucru de făcut: inventarul sistemelor AI. Nu poți clasifica ce nu știi că ai. Iar în majoritatea organizațiilor, AI-ul a intrat pe uși laterale — prin abonamente SaaS, plugin-uri și instrumente aduse de angajați.