AI în afaceri? Cum îți influențează activitatea noul regulament european?

Noile reglementări europene în materie de inteligență artificială, stabilite prin Regulamentul (UE) 2024/1689, impun un cadru unitar pentru dezvoltarea, comercializarea și utilizarea sistemelor de IA în Uniunea Europeană. Aplicabil progresiv până în 2026, acest regulament introduce cerințe stricte pentru sistemele cu risc ridicat, interdicții clare pentru utilizările abuzive și obligații specifice pentru furnizorii și utilizatorii de IA.

Într-un context în care inteligența artificială joacă un rol din ce în ce mai important în multiple industrii, este esențial ca atât dezvoltatorii, cât și utilizatorii acestor tehnologii să cunoască noile norme pentru a evita sancțiuni și pentru a asigura conformitatea cu legislația europeană. Blaj Law oferă consultanță juridică specializată pentru companiile și persoanele care dezvoltă, implementează sau utilizează soluții de inteligență artificială, astfel încât acestea să opereze în conformitate cu reglementările în vigoare.

Inteligența artificială (IA) reprezintă una dintre cele mai transformative și revoluționare tehnologii ale epocii contemporane, având capacitatea de a influența profund sectoare economice, sociale și juridice. Pe fondul dezvoltării accelerate a sistemelor de IA și al utilizării acestora într-o gamă variată de aplicații, Uniunea Europeană a considerat imperios să instituie un cadru juridic uniform care să reglementeze această tehnologie într-o manieră coerentă, echilibrată și în conformitate cu valorile și drepturile fundamentale protejate la nivel european. Astfel, Regulamentul (UE) 2024/1689 a fost adoptat în scopul stabilirii unor norme armonizate aplicabile dezvoltării, introducerii pe piață, punerii în funcțiune și utilizării sistemelor de inteligență artificială în Uniune, asigurând un echilibru între stimularea inovării și protecția interesului public.

Regulamentul urmărește să creeze un cadru legislativ care să sprijine adoptarea unei inteligențe artificiale de încredere, centrate pe factorul uman, garantând, în același timp, un nivel ridicat de protecție a sănătății, siguranței și drepturilor fundamentale consacrate în Carta drepturilor fundamentale a Uniunii Europene. Prin măsurile sale, acesta vizează prevenirea efectelor dăunătoare ale sistemelor de IA, evitând riscurile asociate utilizării necontrolate a acestei tehnologii, și totodată sprijină inovarea și dezvoltarea responsabilă a ecosistemului digital european.

Unul dintre aspectele esențiale ale regulamentului constă în stabilirea unui mecanism etapizat de aplicare, care permite operatorilor economici și autorităților publice să se alinieze treptat la noile cerințe legale. Conform dispozițiilor actului normativ, regulamentul a intrat în vigoare în a douăzecea zi de la publicarea sa în Jurnalul Oficial al Uniunii Europene, însă aplicabilitatea acestuia este eșalonată în timp până la data de 2 august 2026. Astfel, ținând seama de riscul inacceptabil asociat utilizării IA în anumite moduri, s-a considerat necesar ca interdicțiile și dispozițiile cu caracter general să se aplice începând cu 2 februarie 2025. Prin urmare, în prezent sunt aplicabile doar Capitolele I și II, care vizează, în principal, obiectivele și domeniul de aplicare al regulamentului, precum și practicile interzise în domeniul inteligenței artificiale. Restul prevederilor vor deveni aplicabile în etape distincte, în funcție de complexitatea și impactul reglementărilor impuse.

Prin această abordare progresivă, Uniunea Europeană își propune să faciliteze tranziția către un ecosistem IA sigur, etic și predictibil, permițând operatorilor economici să își ajusteze procesele tehnologice și operaționale în conformitate cu noile cerințe. Regulamentul nu doar că instituie obligații clare pentru dezvoltatorii și utilizatorii de sisteme IA, dar și previne fragmentarea pieței interne prin stabilirea unor norme uniforme la nivelul întregii Uniuni. În acest fel, se asigură libera circulație a bunurilor și serviciilor bazate pe inteligență artificială, eliminând riscul unor reglementări divergente la nivel național care ar putea împiedica dezvoltarea și implementarea AI într-un mod echitabil și controlat.

Obiectivele și domeniul de aplicare ale Regulamentului 2024/1689

Așa cum a fost menționat anterior, Capitolul I al Regulamentului (UE) 2024/1689, care a intrat în vigoare la 2 februarie 2025, stabilește dispozițiile generale care guvernează aplicarea acestui act normativ. Prin prevederile sale, acest capitol definește obiectivele esențiale ale regulamentului, domeniul său de aplicare, precum și conceptele fundamentale care vor sta la baza interpretării și implementării reglementărilor impuse de Uniunea Europeană în domeniul inteligenței artificiale. Întrucât aceste dispoziții sunt deja în vigoare, toate obligațiile și cerințele impuse prin Capitolul I sunt aplicabile și trebuie respectate de către toate entitățile vizate de regulament.

În general, Regulamentul (UE) 2024/1689 stabilește un cadru juridic armonizat la nivelul Uniunii Europene, având drept scop principal asigurarea unui nivel ridicat de protecție a sănătății, a siguranței și a drepturilor fundamentale, inclusiv a principiilor democratice, a statului de drept și a protecției mediului împotriva efectelor dăunătoare ale sistemelor de inteligență artificială, contribuind, în același timp, la funcționarea eficientă și competitivă a pieței interne. Prin adoptarea acestui act normativ, Uniunea Europeană urmărește să asigure dezvoltarea și utilizarea responsabilă a sistemelor de inteligență artificială, prevenind utilizările abuzive și garantând siguranța utilizatorilor în fața posibilelor riscuri asociate utilizării tehnologiilor avansate bazate pe IA.

În vederea atingerii acestui obiectiv general, regulamentul instituie o serie de norme armonizate care vizează reglementarea dezvoltării, introducerii pe piață, punerii în funcțiune și utilizării sistemelor de inteligență artificială în Uniunea Europeană. Printre măsurile prevăzute se numără interdicțiile privind anumite practici considerate periculoase sau abuzive în domeniul IA, stabilirea unor cerințe stricte pentru sistemele de inteligență artificială cu grad ridicat de risc, impunerea unor obligații pentru operatorii acestor sisteme, definirea unor norme de transparență specifice pentru anumite tipuri de IA și instituirea unui cadru de monitorizare a pieței, supraveghere, guvernanță și aplicare a regulamentului. Totodată, în vederea stimulării inovării și a competitivității la nivel european, regulamentul include măsuri de sprijin dedicate întreprinderilor mici și mijlocii, precum și întreprinderilor nou-înființate, facilitând astfel dezvoltarea unor soluții bazate pe inteligență artificială într-un cadru sigur și reglementat.

Din punct de vedere al domeniului de aplicare, regulamentul instituie norme obligatorii pentru toate entitățile implicate în dezvoltarea, comercializarea sau utilizarea sistemelor de inteligență artificială, indiferent dacă acestea sunt stabilite în Uniunea Europeană sau într-o țară terță. În mod concret, actul normativ se aplică furnizorilor care introduc pe piață sau pun în funcțiune sisteme de IA sau modele de IA de uz general în Uniune, indiferent de locul în care aceștia își au sediul sau desfășoară activitatea economică. De asemenea, regulamentul vizează persoanele care implementează sisteme de IA și care își desfășoară activitatea pe teritoriul Uniunii, precum și furnizorii și implementatorii stabiliți în afara Uniunii, în măsura în care rezultatele generate de sistemele de IA sunt utilizate în spațiul european. Totodată, regulamentul se aplică importatorilor și distribuitorilor de sisteme de inteligență artificială care operează pe piața europeană, precum și fabricanților de produse care integrează astfel de sisteme în produsele lor și le comercializează sub propriul nume sau marcă.

În vederea asigurării respectării dispozițiilor regulamentului de către entitățile din afara Uniunii, actul normativ impune obligația ca furnizorii care nu sunt stabiliți în UE să desemneze un reprezentant autorizat pe teritoriul Uniunii, acesta având responsabilitatea de a asigura conformitatea produselor introduse pe piață cu cerințele prevăzute de regulament. De asemenea, regulamentul se aplică instituțiilor, organelor, oficiilor și agențiilor Uniunii Europene atunci când acestea acționează ca furnizori sau utilizatori de sisteme de inteligență artificială. Mai mult, Regulamentul în mod evident se aplică și persoanelor afectate de sistemele de IA, în măsura în care acestea se află pe teritoriul Uniunii.

Regulamentul stabilește, de asemenea, o serie de excepții, fiind astfel excluse din domeniul său de aplicare:

• Sistemele de IA utilizate exclusiv în scopuri militare, de apărare sau de securitate națională;
• Sistemele de IA dezvoltate și utilizate strict în scopuri de cercetare și dezvoltare științifică;
• Activitățile de testare și experimentare a IA, înainte ca aceste sisteme să fie introduse pe piață;
• Autoritățile publice din țări terțe și organizațiile internaționale, atunci când utilizează sisteme de IA în cadrul cooperării internaționale în materie de aplicare a legii.

Pentru a asigura o aplicare uniformă și clară a dispozițiilor sale, regulamentul definește o serie de concepte, care sunt utilizate în mod constant în cadrul dispozițiilor sale și care servesc drept referință pentru interpretarea și aplicarea normelor stabilite. Astfel, noțiunea de „sistem de inteligență artificială” este definită ca un sistem bazat pe tehnologii informatice, conceput să opereze cu diferite niveluri de autonomie și adaptabilitate având capacitatea de a genera din datele de intrare pe care le primește, rezultate, cum ar fi previziuni, conținut, recomandări sau decizii care pot influența mediile fizice sau virtuale. Această definiție subliniază faptul că inteligența artificială nu se limitează la algoritmi deterministici sau la simple sisteme informatice automate, ci implică utilizarea unor modele complexe de procesare a datelor, capabile să se adapteze și să învețe din interacțiuni.

De asemenea, regulamentul introduce conceptul de „risc ridicat”, care caracterizează acele sisteme de inteligență artificială ce pot afecta în mod semnificativ sănătatea, siguranța sau drepturile fundamentale ale persoanelor și care, din acest motiv, sunt supuse unor cerințe suplimentare de transparență, siguranță și monitorizare. Aceste sisteme includ, de exemplu, aplicații utilizate în sectoare critice, cum ar fi sănătatea, educația, infrastructurile esențiale, aplicarea legii sau recrutarea forței de muncă.

În ceea ce privește actorii implicați în lanțul de dezvoltare și utilizare a sistemelor de IA, regulamentul introduce definiții clare pentru furnizor, definit ca orice persoană fizică sau juridică, inclusiv o autoritate publică, un organism sau o agenție, care dezvoltă sau pune pe piață un sistem de inteligență artificială sub propriul nume sau propria marcă comercială, contra cost sau gratuit. În paralel, termenul implementator desemnează orice entitate care utilizează un astfel de sistem în cadrul activităților sale economice, administrative sau profesionale, cu excepția activităților personale.

În același timp, regulamentul introduce noțiunea de deepfake, desemnând o imagine ori un conținut audio sau video generat sau manipulat de inteligența artificială care creează o reprezentare falsă, dar aparent autentică a unor persoane, obiecte, locuri sau alte entități ori evenimente existente, având potențialul de a induce în eroare utilizatorii. Având în vedere impactul major pe care deepfake-urile îl pot avea asupra opiniei publice, regulamentul introduce cerințe stricte de transparență pentru utilizarea acestora, impunând furnizorilor să eticheteze clar conținutul generat de IA pentru a preveni dezinformarea și manipularea publicului.

Prin stabilirea acestor definiții și prin extinderea domeniului de aplicare asupra tuturor actorilor implicați în dezvoltarea și utilizarea inteligenței artificiale, regulamentul asigură un cadru juridic clar, menit să garanteze protecția drepturilor fundamentale, să prevină riscurile asociate utilizării sistemelor de inteligență artificială și să faciliteze, în același timp, dezvoltarea unui ecosistem AI sigur, etic și competitiv la nivel european. Întrucât dispozițiile Capitolului I sunt deja aplicabile începând cu 2 februarie 2025, toți operatorii implicați în dezvoltarea și utilizarea inteligenței artificiale sunt obligați să se conformeze prevederilor acestuia, asigurând astfel o implementare progresivă și eficientă a întregului regulament.

Practici interzise în domeniul inteligenței artificiale

În continuarea cadrului normativ stabilit prin Capitolul I al Regulamentului (UE) 2024/1689, care definește obiectivele generale, domeniul de aplicare și conceptele fundamentale, Capitolul II introduce interdicții privind anumite practici asociate utilizării sistemelor de inteligență artificială. Având în vedere intrarea în vigoare a prezentului capitol la data de 2 februarie 2025, toate entitățile care dezvoltă, furnizează sau utilizează sisteme de IA pe teritoriul Uniunii Europene sunt obligate să respecte interdicțiile stabilite, întrucât acestea vizează eliminarea riscurilor semnificative pe care anumite utilizări ale IA le pot avea asupra drepturilor fundamentale, siguranței și ordinii publice.

Prin dispozițiile acestui capitol, Uniunea Europeană urmărește să interzică utilizările inacceptabile ale inteligenței artificiale, care pot aduce prejudicii grave indivizilor și societății în ansamblu. Astfel, sunt excluse de pe piață sau din utilizare acele sisteme de IA care exploatează vulnerabilitățile utilizatorilor, manipulează comportamentul acestora într-un mod care împiedică luarea unor decizii în cunoștință de cauză, creează mecanisme de clasificare socială discriminatorie sau facilitează supravegherea intruzivă și nejustificată a persoanelor. Interdicțiile impuse de prezentul capitol reflectă principiile fundamentale ale Uniunii Europene în materie de protecție a drepturilor omului și promovarea unei societăți digitale etice, transparente și echitabile.

Regulamentul interzice în mod expres introducerea pe piață, punerea în funcțiune și utilizarea oricărui sistem de inteligență artificială care se bazează pe tehnici subliminale, imposibil de perceput în mod conștient de către utilizatori, și care au scopul sau efectul de a influența comportamentul persoanelor într-un mod semnificativ, împiedicându-le să ia decizii informate. O astfel de manipulare, prin care utilizatorii sunt determinați să acționeze într-un mod pe care, în mod normal, nu l-ar fi ales, este considerată un risc major pentru autonomia și demnitatea individului și, prin urmare, este interzisă în toate circumstanțele.

În egală măsură, regulamentul interzice utilizarea sistemelor de IA care exploatează vulnerabilitățile anumitor categorii de persoane, inclusiv cele legate de vârstă, dizabilități sau statut socio-economic. În situațiile în care un sistem de IA este conceput pentru a profita de aceste vulnerabilități, denaturând astfel comportamentul utilizatorilor și determinându-i să ia decizii nefavorabile, există un risc considerabil de discriminare sistematică și de încălcare a drepturilor fundamentale. Prin urmare, Uniunea Europeană a considerat necesar să instituie o interdicție fermă asupra unor astfel de practici, având în vedere potențialul ridicat de prejudiciere a indivizilor afectați.

O altă practică interzisă o constituie utilizarea sistemelor de inteligență artificială pentru atribuirea unui scor social persoanelor fizice sau grupurilor de persoane, pe baza comportamentului lor sau a caracteristicilor personale. Aceste mecanisme, similare celor utilizate în unele state pentru clasificarea cetățenilor pe criterii de conformitate socială, sunt interzise deoarece pot conduce la tratamente discriminatorii, creând dezechilibre majore între indivizi în diferite contexte sociale, economice sau politice. O astfel de practică ar putea duce la restricționarea accesului persoanelor la oportunități, precum ocuparea unui loc de muncă, accesul la servicii financiare sau utilizarea unor facilități publice, în baza unor criterii arbitrare și nejustificate.

De asemenea, regulamentul interzice utilizarea sistemelor de IA pentru evaluarea riscului ca o persoană să comită o infracțiune, atunci când această evaluare se bazează exclusiv pe profilarea automatizată a individului, fără a exista fapte obiective și verificabile care să indice implicarea acestuia într-o activitate infracțională. Această măsură este fundamentată pe riscul major de stigmatizare și pe posibilitatea ca astfel de sisteme să producă erori grave în evaluarea comportamentului uman, conducând la încălcarea principiilor fundamentale de prezumție de nevinovăție și de proces echitabil.

În ceea ce privește supravegherea biometrică, regulamentul interzice utilizarea sistemelor de recunoaștere facială care creează sau extind bazele de date de recunoaștere facială prin extragerea fără scop precis a imaginilor faciale de pe internet sau de pe înregistrările TVCI. În mod similar, este interzisă utilizarea sistemelor de IA pentru detectarea emoțiilor unei persoane fizice în sfera locului de muncă și a instituțiilor de învățământ, cu excepția cazurilor în care această tehnologie este utilizată în scopuri medicale sau pentru siguranța persoanelor. O altă interdicție deosebit de importantă vizează utilizarea sistemelor de clasificare biometrică pentru a deduce caracteristici sensibile ale unei persoane, precum rasa, opiniile politice, apartenența la sindicate, convingerile religioase, viața sexuală sau orientarea sexuală. Aceste tehnologii prezintă un risc ridicat de discriminare și încălcare a drepturilor fundamentale, fiind considerate incompatibile cu principiile statului de drept și ale protecției vieții private. De asemenea, regulamentul interzice utilizarea sistemelor de identificare biometrică la distanță în timp real în spații publice, în scopul aplicării legii, cu excepția unor cazuri specifice, precum:

• căutarea anumitor victime ale răpirii, traficului de persoane sau exploatării sexuale a persoanelor, precum și căutarea persoanelor dispărute;
• prevenirea unei amenințări specifice, substanțiale și iminente care vizează viața sau siguranța fizică a persoanelor fizice sau a unei amenințări reale și prezente sau reale și previzibile de atac terorist;
• localizarea sau identificarea unei persoane suspectate de săvârșirea unei infracțiuni, în scopul desfășurării unei investigații penale sau al urmăririi penale ori al executării unor sancțiuni penale pentru infracțiuni pasibile, în statul membru în cauză, de o pedeapsă privativă de libertate sau o măsură de siguranță privativă de libertate pentru o perioadă maximă de cel puțin patru ani.

Chiar și în aceste situații excepționale, utilizarea unor astfel de sisteme trebuie să respecte garanții stricte privind protecția drepturilor fundamentale, incluzând limitări clare în ceea ce privește durata, aria geografică și scopul utilizării. Mai mult, sistemele de identificare biometrică la distanță în timp real în spațiile accesibile publicului în scopul aplicării legii pentru oricare dintre obiectivele menționate mai sus, pot fi utilizate numai ținându-se seama de natura situației care determină posibila utilizare, în special gravitatea, probabilitatea și amploarea prejudiciului care ar fi cauzat dacă sistemul nu ar fi utilizat, respectiv consecințele utilizării sistemului asupra drepturilor și libertăților tuturor persoanelor vizate, în special gravitatea, probabilitatea și amploarea acestor consecințe. În plus, orice utilizare a acestor sisteme trebuie să fie autorizată de o autoritate judiciară sau administrativă independentă și să fie notificată autorităților de supraveghere a pieței și de protecție a datelor.

Prin adoptarea acestor măsuri, Uniunea Europeană urmărește să stabilească un cadru strict de reglementare a utilizării inteligenței artificiale, asigurând că tehnologiile emergente sunt dezvoltate și utilizate într-un mod etic, transparent și responsabil. Având în vedere faptul că interdicțiile stabilite prin Capitolul II al Regulamentului (UE) 2024/1689 sunt deja aplicabile începând cu 2 februarie 2025, toate entitățile implicate în utilizarea inteligenței artificiale trebuie să adopte măsuri imediate pentru conformarea la aceste prevederi, evitând astfel utilizarea unor sisteme de IA care contravin normelor impuse de legislația europeană. Aceste interdicții reflectă angajamentul Uniunii Europene de a asigura un echilibru între dezvoltarea tehnologică și protecția drepturilor fundamentale, consolidând, în același timp, încrederea publicului în utilizarea sistemelor de inteligență artificială în viața cotidiană.

Reglementări viitoare aplicabile sistemelor de inteligență artificială

În completarea dispozițiilor deja aplicabile ale Regulamentului (UE) 2024/1689, cadrul normativ privind inteligența artificială urmează să fie extins treptat prin punerea în aplicare a unor reglementări suplimentare, care vizează consolidarea mecanismelor de control, supraveghere și transparență în utilizarea sistemelor de inteligență artificială, precum și impunerea unor cerințe tehnice stricte pentru operatorii implicați în dezvoltarea, distribuția și utilizarea acestora. Deși aceste prevederi nu sunt încă aplicabile, ele vor juca un rol important în asigurarea unei utilizări conforme și responsabile a inteligenței artificiale în Uniunea Europeană, prevenind riscurile asociate unor implementări necontrolate sau abuzive ale acestei tehnologii.

Printre reglementările deosebit de importante care urmează să se aplice, o atenție specială este acordată sistemelor de inteligență artificială considerate ca având un grad ridicat de risc, pentru care regulamentul stabilește cerințe detaliate, menite să garanteze siguranța, transparența și conformitatea acestora cu principiile fundamentale de protecție a drepturilor și libertăților cetățenilor Uniunii Europene. În acest sens, furnizorii acestor sisteme vor fi obligați să implementeze mecanisme  de gestionare a riscurilor, care să includă proceduri de testare, evaluare și monitorizare a performanței acestora pe întreaga durată a utilizării lor. În plus, obligațiile impuse furnizorilor se vor extinde și asupra documentării întregului proces de dezvoltare și antrenare a sistemelor de inteligență artificială, astfel încât să fie asigurată o trasabilitate completă a algoritmilor și a datelor utilizate, permițând autorităților competente să efectueze verificări și să identifice eventualele disfuncționalități sau riscuri sistemice.

Unul dintre principalele obiective ale regulamentului este creșterea nivelului de transparență în utilizarea inteligenței artificiale, astfel încât utilizatorii să fie informați în mod clar despre interacțiunea cu un sistem IA și despre caracteristicile acestuia. În acest sens, furnizorii de sisteme IA destinate interacțiunii directe cu persoane fizice vor avea obligația de a notifica utilizatorii că interacționează cu un sistem automatizat, cu excepția cazurilor în care acest aspect este evident pentru o persoană rezonabil informată și atentă.

De asemenea, furnizorii de sisteme IA capabile să genereze conținut sintetic, fie că este vorba de text, imagini, audio sau video, vor trebui să implementeze mecanisme de marcare automată a conținutului, astfel încât acesta să fie identificabil ca fiind generat artificial. Această cerință este menită să reducă riscul de dezinformare și manipulare a utilizatorilor prin conținut creat cu ajutorul inteligenței artificiale, prevenind astfel utilizările abuzive ale acestor tehnologii. Totodată, modelele de IA generative de mari dimensiuni, care permit crearea de text, imagini, conținut video sau audio, vor fi reglementate prin norme specifice privind utilizarea drepturilor de autor, având în vedere că aceste modele necesită acces la volume mari de date pentru antrenare. Furnizorii vor trebui să asigure că modelele lor nu încalcă drepturile de autor și să prezinte un rezumat transparent al conținutului utilizat pentru antrenarea modelelor.

În cazul sistemelor IA utilizate în domenii sensibile, cum ar fi aplicarea legii, migrația și gestionarea frontierelor, regulamentul prevede înregistrarea acestor sisteme într-o bază de date la nivelul Uniunii Europene, iar utilizarea lor va fi condiționată de respectarea unor standarde stricte de siguranță și control.

În ceea ce privește modelele de inteligență artificială de uz general, care prezintă o capacitate extinsă de utilizare în diverse domenii și pot influența semnificativ funcționarea unor sectoare esențiale ale economiei și societății, regulamentul prevede impunerea unor cerințe suplimentare de transparență, responsabilitate și siguranță, care vor asigura că aceste modele sunt dezvoltate și utilizate în conformitate cu standardele de siguranță și protecție a datelor stabilite la nivelul Uniunii Europene. În acest context, furnizorii vor fi obligați să întocmească și să actualizeze documentația tehnică privind sursa și caracteristicile datelor utilizate în procesul de antrenare a modelelor, să implementeze măsuri de prevenire a utilizării acestora în scopuri abuzive sau ilegale și să asigure informarea corespunzătoare a utilizatorilor cu privire la limitările tehnologice ale sistemelor implementate.

Un alt aspect fundamental care va face obiectul unor reglementări detaliate privește cerințele de securitate cibernetică aplicabile sistemelor de inteligență artificială, având în vedere riscurile semnificative pe care atacurile cibernetice le pot reprezenta pentru integritatea, funcționarea și fiabilitatea acestor tehnologii. În acest sens, regulamentul va impune operatorilor economici obligația de a implementa măsuri avansate de protecție împotriva vulnerabilităților cibernetice, asigurând securitatea infrastructurilor digitale și prevenind orice formă de utilizare neautorizată sau modificare necontrolată a sistemelor IA. Printre obligațiile prevăzute se numără cerința de adoptare a unor mecanisme de detectare și răspuns rapid la incidente de securitate, precum și instituirea unor proceduri de raportare obligatorie a oricăror atacuri cibernetice care ar putea compromite integritatea sistemelor IA și afecta utilizatorii finali. Aceste măsuri sunt esențiale în special pentru sistemele utilizate în sectoare critice, precum domeniul financiar, cel medical sau infrastructurile publice esențiale, unde o defecțiune sau o manipulare a unui sistem IA ar putea avea consecințe grave asupra siguranței și stabilității sociale și economice. Prin urmare, sistemele IA utilizate în aceste infrastructuri vor fi supuse unor teste de rezistență și evaluări periodice ale vulnerabilităților.

Regulamentul prevede, de asemenea, măsuri de sprijinire a inovării și a întreprinderilor mici și mijlocii, astfel încât companiile din Uniunea Europeană să poată dezvolta și implementa soluții AI responsabile, într-un cadru reglementat clar și previzibil. Aceste măsuri includ reglementări privind mediile de testare reglementată (sandbox-uri AI), care vor permite dezvoltatorilor să își testeze sistemele într-un mediu controlat, fără a fi supuși imediat tuturor cerințelor de reglementare aplicabile pe piața largă.

Totodată, furnizorii vor avea obligația de a notifica autoritățile competente în cazul unor incidente de securitate, astfel încât să fie luate măsuri rapide de remediere. În cazul în care un sistem IA este compromis și generează rezultate eronate care ar putea afecta siguranța utilizatorilor, furnizorul va trebui să oprească utilizarea acestuia și să implementeze măsuri corective într-un termen stabilit de autoritățile de supraveghere.

În continuare, în vederea asigurării unei aplicări efective a tuturor cerințelor prevăzute de regulament, Uniunea Europeană va institui un mecanism de monitorizare și supraveghere, care va include atât autoritățile naționale competente, cât și organisme de control la nivelul Uniunii, cu atribuții specifice în ceea ce privește verificarea conformității sistemelor IA cu standardele stabilite și aplicarea sancțiunilor în cazul încălcării obligațiilor impuse de regulament. Acest mecanism va implica, de asemenea, crearea unei baze de date la nivelul Uniunii Europene, în care vor fi înregistrate toate sistemele de inteligență artificială cu grad ridicat de risc, oferind astfel autorităților o imagine clară asupra utilizării acestor tehnologii și facilitând procesul de identificare și eliminare a eventualelor neconformități. În cazul în care un sistem IA este considerat neconform și prezintă riscuri pentru siguranța utilizatorilor, autoritățile vor putea impune măsuri de retragere a acestuia de pe piață, iar furnizorii vor fi obligați să remedieze deficiențele identificate. De asemenea, regulamentul prevede aplicarea unor sancțiuni financiare, care pot ajunge până la sume considerabile, similare celor impuse prin Regulamentul General privind Protecția Datelor (GDPR), pentru entitățile care nu respectă cerințele impuse.

Regulamentul privind inteligența artificială urmărește, astfel, să asigure un echilibru între dezvoltarea tehnologică și protecția utilizatorilor, introducând reguli clare și sancțiuni severe pentru nerespectarea acestora. Implementarea treptată a acestor reglementări va permite operatorilor economici să se adapteze la noile cerințe, iar autoritățile europene să stabilească un mecanism eficient de control și supraveghere a utilizării inteligenței artificiale în Uniune. Pe măsură ce aceste norme vor deveni aplicabile, toți operatorii implicați în ecosistemul IA vor trebui să adopte măsuri proactive pentru a asigura conformitatea cu cerințele impuse, contribuind astfel la construirea unui mediu digital mai transparent, previzibil și centrat pe protecția utilizatorilor.

Concluzii

Adoptarea Regulamentului (UE) 2024/1689 marchează un moment definitoriu în reglementarea inteligenței artificiale la nivel european, stabilind un cadru normativ detaliat și armonizat care urmărește să asigure utilizarea etică, transparentă și sigură a acestei tehnologii. Prin intermediul acestui act legislativ, Uniunea Europeană nu doar că introduce norme menite să prevină utilizările abuzive ale inteligenței artificiale, dar oferă și un set clar de obligații pentru toți actorii implicați în dezvoltarea, furnizarea și utilizarea acestor sisteme, asigurând astfel protejarea drepturilor fundamentale, siguranța utilizatorilor și funcționarea echilibrată a pieței interne.

În ceea ce privește monitorizarea și revizuirea regulamentului, Comisia Europeană va efectua o evaluare detaliată a impactului acestuia până la 2 august 2028, urmând să prezinte rapoarte periodice privind implementarea sa și posibilele necesități de ajustare. Această analiză va permite Uniunii Europene să adapteze reglementările în funcție de evoluțiile tehnologice și de nevoile pieței, menținând astfel un cadru juridic flexibil, dar eficient. Mai mult, până în 2031, Uniunea Europeană va realiza o analiză completă a aplicării regulamentului, în vederea stabilirii unor eventuale modificări legislative sau a introducerii unor mecanisme de supraveghere îmbunătățite, inclusiv posibilitatea creării unei agenții specializate în reglementarea inteligenței artificiale la nivel european.

Astfel, Regulamentul (UE) 2024/1689 nu doar că oferă un cadru solid pentru utilizarea responsabilă a inteligenței artificiale, dar și creează mecanisme de control și ajustare. Întrucât inteligența artificială continuă să se dezvolte rapid și să influențeze multiple aspecte ale vieții sociale și economice, este important ca acest cadru legislativ să fie aplicat eficient și actualizat constant, astfel încât să se asigure echilibrul între inovare, protecția drepturilor fundamentale și securitatea utilizatorilor.