Un incident recent implicând Lia, asistentul virtual al Libra Internet Bank, a atras atenția publică asupra unei probleme tot mai frecvente: ce se întâmplă legal atunci când un sistem de inteligență artificială integrat într-un serviciu propriu are un comportament problematic. Incidentul nu stabilește, prin el însuși, rolul juridic al băncii potrivit AI Act. Această calificare depinde de modul în care sistemul a fost dezvoltat, integrat și pus în funcțiune, precum și de relațiile contractuale dintre entitățile implicate. Cazul ilustrează însă riscurile practice pe care companiile trebuie să le gestioneze atunci când includ sisteme de AI în propriile servicii.
Miza crește pe măsură ce adopția AI se extinde: deși doar 5,2% dintre companiile din România folosesc tehnologii AI, față de media europeană de 20%, potrivit Raportului Eurostat privind companiile care utilizează tehnologii de inteligență artificială, iar numărul celor care integrează astfel de sisteme direct în servicii crește accelerat.
Ioana Chiper Zah, Managing Associate, Hațegan Attorneys, spune că: „Incidente precum cel al asistentului virtual Lia arată de ce stabilirea rolurilor și responsabilităților legale nu mai sunt o discuție pur teoretică. O companie care integrează un model de AI într-un produs propriu, fie el un chatbot bancar sau orice alt serviciu, poate deveni furnizor din aval și poate avea obligații privind conformitatea sistemului final, chiar dacă nu a dezvoltat modelul de bază. Acest lucru nu înseamnă că orice companie care utilizează GPT, Claude sau un alt model devine automat furnizor din aval. Această calificare nu intervine însă automat, ci depinde de modul în care sistemul a fost dezvoltat, integrat și oferit. Cu cât mai multe companii românești își integrează serviciile cu AI, cu atât mai importantă devine înțelegerea acestui regim juridic, înainte ca un incident să devină o problemă de conformitate.„
Tot mai multe companii integrează modele de AI de uz general, precum GPT, Claude sau Gemini, în produse și servicii proprii. Potrivit AI Act, acest lucru le poate scoate din statutul de simplu utilizator: dacă dezvoltă sau comandă dezvoltarea sistemului final și îl introduc pe piață ori îl pun în funcțiune sub numele sau marca proprie, ele pot devini furnizor din aval (art. 3 pct. 68) și devin responsabile pentru respectarea obligațiilor aplicabile sistemului final, indiferent dacă au dezvoltat sau nu modelul de bază.
Reperul e simplu: o companie care integrează un model într-un chatbot medical, o platformă de recrutare sau o aplicație de analiză contractuală și îl oferă sub propria marcă poate intra sub acest regim, în funcție de contribuția sa la dezvoltarea și punerea pe piață a sistemului final. Simpla folosire internă a unui instrument precum ChatGPT, în schimb, nu declanșează automat această calitate.
Obligațiile depind de caracteristicile și clasificarea sitemului final, nu de faptul integrării în sine. Furnizorul din aval trebuie să verifice dacă sistemul rezultat implică o practică interzisă (art. 5), este clasificat drept sistem cu risc ridicat (art. 6, anexele I sau III) sau intră sub incidența obligațiilor de transparență (art. 50).
De exemplu, furnizorul unui chatbot destinat interacțiunii cu publicul trebuie, în principiu, să informeze persoanele că interacționează cu un sistem de AI, cu excepția cazului în care acest lucru este evident, conform art. 50 alin. (1). Această obligație este deja aplicabilă din 2 august 2026.
Pentru sistemele cu risc ridicat, obligațiile sunt semnificative: management al riscurilor, guvernanța datelor, documentație tehnică și supraveghere umană, plus evaluare de conformitate (art. 8-16 și art. 43). Potrivit calendarului prevăzut de art. 113 din versiunea consolidată, aceste cerințe se vor aplica de la 2 decembrie 2027 sistemelor high-risk din anexa III și de la 2 august 2028 sistemelor asociate produselor reglementate din anexa I.
Un obstacol practic rămâne accesul la informație. Fără date suficiente despre modelul integrat, furnizorul din aval nu poate documenta corect sistemul final. AI Act îi obligă pe furnizorii de modele de uz general să pună la dispoziție informații tehnice esențiale furnizorilor care integrează modelul într-un sistem de AI (art. 53), iar pentru sistemele high-risk furnizorul sistemului și terții care furnizează modele, instrumente, servicii, componente sau procese utilizate în sistem trebuie să stabilească prin acord scris informațiile, capacitățile, accesul tehnic și asistența necesare (art. 25). Dacă furnizorul modelului nu cooperează și nu își respectă obligațiile aplicabile, există totuși o cale de plângere la Oficiul pentru AI (art. 89).
În concluzie, integrarea unui model extern de AI nu transferă automat răspunderea către compania care l-a creat, întrucât conformitatea se evaluează separat, pentru fiecare sistem final, în funcție de scopul, modul de integrare și contextul în care ajunge pe piață. Astfel, orice companie care „îmbracă” un model AI într-un produs propriu trebuie să-și pună, de pe acum, întrebarea dacă îndeplinește condițiile pentru a fi considerată furnizor din aval și ce obligații îi revin în această calitate.
COMMENTS