Dirbtinis intelektas nebėra nauja technologija. Jis naudojamas darbuotojų atrankai, paskolų tvirtinimui, sukčiavimo atvejų nustatymui ir yra pagrindas jūsų komandos kasdien naudojamiems įrankiams. Daug metų DI buvo naudojamas be jokio privalomo teisinio pagrindo, kuris reglamentuotų, kaip jis turėtų veikti, kas atsako, kai jis neveikia, ar kokias teises turi žmonės, kuriems jis daro įtaką.
Tai pasikeitė 2024 m. Dabar galioja ES DI įstatymas – pirmasis pasaulyje išsamus dirbtinio intelekto teisinis pagrindas. Jei jūsų organizacija kuria, parduoda ar naudoja DI sistemas, kurios paveikia žmones Europos Sąjungoje, šis įstatymas taikomas ir jums.
Kaip jis veikia
Įstatyme taikomas rizika grindžiamas požiūris: kuo didesnė galimo pavojaus tikimybė, tuo griežtesnės taisyklės. Kiekvienai dirbtinio intelekto sistemai, kuriai taikomas šis reglamentas, priskiriamas vienas iš keturių rizikos lygių, o šis lygis nulemia, kokių veiksmų turi imtis jūsų organizacija.
-
Nepriimtina rizika: visiškai draudžiama. Tai – DI praktikos, kurias ES laiko esmine grėsme žmonių teisėms ir saugumui. Jos yra visiškai uždraustos. Pavyzdžiai apima socialinio vertinimo sistemos, vertinančios piliečius pagal jų elgesį, DI, kuris psichologiškai manipuliuoja žmonėmis, siekiant paveikti jų sprendimus, ir veido atpažinimą realiuoju laiku viešose erdvėse.
-
Didelė rizika: leidžiama, bet griežtai reguliuojama. Tai lygis, į kurį dauguma organizacijų turi atkreipti ypatingą dėmesį. Didelės rizikos DI sistemos yra leidžiamos, tačiau joms taikomi reikšmingi atitikties reikalavimai. Tai apima DI, naudojamą įdarbinant ir atrenkant darbuotojus, kredito reitingavimui, sveikatos priežiūrai, švietimui, pasienio kontrolei ir teisėsaugai. Jei veikiate bet kurioje iš šių sričių, beveik neabejotinai patenkate į didelės rizikos kategoriją.
-
Ribota rizika: tik skaidrumo įsipareigojimai. Šios sistemos gali veikti laisvai, tačiau vartotojams turi būti pranešta, kad jie sąveikauja su DI. Dažniausias pavyzdys – pokalbių robotai. DI sukurtas turinys (pavyzdžiui, tekstas, vaizdai, vaizdo įrašai) taip pat turi būti pažymėtas.
-
Minimali rizika: iš esmės nereguliuojama. Į šią kategoriją patenka dauguma kasdienio DI: šlamšto filtrai, rekomendacijų varikliai, DI funkcijos produktyvumo įrankiuose. Nėra taikomi jokie konkretūs įsipareigojimai.
Dar viena kategorija, apie kurią verta žinoti: bendrosios paskirties DI modeliai, tokie kaip „ChatGPT" ar „Claude". Trečiosios šalies DI modelio naudojimas neatleidžia jūsų nuo DI akto laikymosi, tačiau jūs esate atsakingi tik už tai, kaip jūsų programa naudoja išorinį modelį, o ne už paties modelio veikimą.
Kam taikomas DI aktas
Šis įstatymas taikomas visiems dirbtinio intelekto tiekimo grandinės dalyviams: įmonėms, kurios kuria dirbtinio intelekto sistemas, įmonėms, kurios jas diegia, ir įmonėms, kurios jas platina. Praktiškai tai apima daugumą šiuo metu veikiančių organizacijų.
Jei kuriate dirbtiniu intelektu pagrįstus produktus, naudojate dirbtinį intelektą priimdami sprendimus dėl klientų ar darbuotojų arba parduodate kito asmens sukurtas dirbtinio intelekto sistemas, tikėtina, kad jums taikomas šis įstatymas. Ligoninė, naudojanti DI diagnozėms patvirtinti, bankas, naudojantis DI paskolų paraiškoms vertinti, mažmenininkas, naudojantis DI pasiūlymams personalizuoti, įdarbinimo platforma, atrenkanti CV – visi jie patenka į šio įstatymo taikymo sritį.
Tai apima ir organizacijas, įsikūrusias už ES ribų. Kaip ir BDAR, šis įstatymas turi ekstrateritorinę galią – jei jūsų DI sistemos daro poveikį žmonėms Europos Sąjungoje, šis reglamentas jums taikomas nepriklausomai nuo to, kur yra įsikūrusi jūsų įmonė.
Kokie reikalavimai keliami
Įstatymas nenumato, kokias DI priemones naudoti ar kaip jas kurti. Jis reikalauja, kad organizacijos suprastų, kaip veikia jų naudojamas DI, galėtų įrodyti, jog jis yra saugus ir tinkamas numatytam tikslui, bei turėtų nustatytus procesus, jei kas nors nepavyktų. Praktikoje tai reiškia:
-
Rizikos klasifikavimas. Kiekviena organizacija privalo įvertinti ir suskirstyti į kategorijas DI sistemas, kurias kuria ar naudoja. Tai yra būtina – klasifikacija lemia visas kitas tolesnes prievoles.
-
Atitikties vertinimai. Didelės rizikos DI sistemų teikėjai prieš diegimą privalo įrodyti, kad jų sistemos atitinka įstatymo reikalavimus. Tai apima duomenų kokybę, techninę dokumentaciją ir įrodymus apie žmogaus priežiūros mechanizmus.
-
Žmogaus priežiūra. Didelės rizikos DI sistemos turi būti suprojektuotos taip, kad žmonės galėtų stebėti, suprasti ir pakeisti jų rezultatus. Tai reiškia, kad sistemų priežiūrai turi būti paskirtas tinkamų žinių ir įgūdžių turintis personalas.
-
Skaidrumas. Vartotojams turi būti pranešama, kai jie sąveikauja su DI. DI sukurtas turinys turi būti pažymėtas. Didelės rizikos sistemų teikėjai privalo pateikti išsamią dokumentaciją apie tai, kaip veikia jų sistema ir kam jos neturėtų būti naudojamos.
-
DI raštingumas. Organizacijos, diegiančios DI, privalo užtikrinti, kad jų darbuotojai suprastų sistemų galimybes, apribojimus ir susijusią riziką.
Konkretūs įsipareigojimai priklauso nuo jūsų veiklos sektoriaus, jūsų vaidmens tiekimo grandinėje ir jūsų sistemų rizikos lygio. Tačiau bet kuriai organizacijai, šiuo metu naudojančiai DI, klausimas jau nebėra tas, ar ES DI įstatymas jai taikomas. Klausimas yra, kaip ir ką reikia padaryti, kad būtų laikomasi jo nuostatų.