Mihai ACSINTE, Avocat – Cyberlaw & HighTech Consultant – Acsinte & Partners @ Conferința CUM FOLOSIM AI ÎN AFACERILE DE ZI CU ZI, organizată de Digital Transformation Council pe 30 octombrie 2024 și moderată de Ion Vaciu și Roxana Onea
În cadrul conferinței Cum folosim AI în afacerile de zi cu zi doresc să discutăm despre un subiect esențial: provocările aduse de noul regulament european privind inteligența artificială (IA), care intră în vigoare curând.
O reglementare globală cu impact semnificativ
Acest regulament este prima reglementare cuprinzătoare din lume în domeniul IA, având potențialul de a influența legislația globală. Companiile americane și asiatice care doresc să opereze pe piața europeană vor trebui să își conformeze produsele la noile standarde. Deja avem un precedent comparabil în GDPR, care a stabilit un standard global pentru protecția datelor. Regulamentul privind IA va avea un impact similar, punând un accent deosebit pe etica și protecția persoanelor.
Standardizare și complexitate
Regulamentul aduce claritate și standardizare, definind un set de reguli uniforme pentru dezvoltatorii de sisteme IA. Cu toate acestea, vine și cu proceduri complexe, în special în privința certificării sistemelor cu grad ridicat de risc. Aceste proceduri vor implica costuri semnificative și un efort considerabil din partea companiilor.
Riscurile și etica în IA
Unul dintre principalele scopuri ale regulamentului este să protejeze persoanele și societatea de riscurile asociate utilizării IA. Printre acestea se numără:
– Identificarea biometrică în timp real în spații publice, care este strict reglementată.
– Bias-ul algoritmic, un exemplu fiind discriminarea pe criterii de etnie sau venit în evaluarea cererilor de credit.
– Transparența și explicabilitatea deciziilor IA, esențiale în domenii precum medicina, unde diagnosticul oferit de un sistem IA trebuie să fie clar explicat și verificabil de către medici.
Sisteme cu grad ridicat de risc
Regulamentul clasifică aplicațiile IA în funcție de riscuri. Sistemele cu grad ridicat de risc includ domenii precum sănătatea, infrastructura critică, educația, aplicarea legii și administrația justiției. În aceste cazuri, este esențială supravegherea umană pentru a asigura un control adecvat al deciziilor.
Obligații pentru dezvoltatori și implementatori
Regulamentul impune obligații clare tuturor actorilor implicați:
– Furnizorii de IA trebuie să garanteze calitatea datelor, transparența și siguranța produselor.
– Distribuitorii și implementatorii au responsabilități în ceea ce privește etichetarea corectă, trasabilitatea și raportarea incidentelor.
– Utilizatorii finali trebuie să fie instruiți corespunzător pentru a putea evalua și interpreta corect rezultatele oferite de sistemele IA.
Sancțiuni semnificative
Nerespectarea regulamentului poate atrage sancțiuni severe:
– Până la 35 de milioane de euro sau 7% din cifra de afaceri globală pentru încălcări grave.
– 15 milioane de euro sau 4% din cifra de afaceri pentru furnizarea de informații incorecte către autorități.
Așadar. regulamentul privind IA este un pas major în reglementarea unei tehnologii revoluționare, dar vine cu provocări semnificative și va fi esențial pentru companii să investească în conformitate, educație și infrastructură.
