ES DI aktas nustato griežtus reikalavimus visoms organizacijoms, kurios kuria, diegia ar platina dirbtinį intelektą, turintį įtakos ES gyventojams. Už reikalavimų nesilaikymą gali būti skiriamos baudos, siekiančios iki 7% metinės apyvartos, o finansinės baudos retai būna vienintelė pasekmė. Supratimas, kiek iš tikrųjų kainuoja reikalavimų nesilaikymas, yra pirmasis žingsnis siekiant rimtai vertinti atitikties reikalavimams klausimą.
Kokios numatomos ES DI akto nesilaikymo baudos?
Baudos skiriamos nevienodai. Reguliavimo institucijos atsižvelgia į pažeidimo sunkumą, trukmę, tyčinį pobūdį ir finansinę naudą, nukentėjusių asmenų skaičių bei organizacijos bendradarbiavimą su valdžios institucijomis. Kiekvienoje kategorijoje tiksli suma nustatoma kiekvienu konkrečiu atveju atskirai.
Išskiriami trys baudų lygiai:
-
7% pasaulinės apyvartos arba 35 mln. eurų (didesnė iš šių dviejų sumų). Aukščiausias lygis, skirtas patiems sunkiausiems pažeidimams. Tai taikoma organizacijoms, kurios diegia pagal įstatymą visiškai uždraustas DI sistemas: socialinį vertinimą, biometrinę stebėseną realiuoju laiku, manipuliatyvų DI.
-
3% metinės apyvartos arba 15 mln. eurų (didesnė iš šių dviejų sumų). Vidurinis lygis, apimantis pagrindinių įsipareigojimų, taikomų didelės rizikos sistemoms ir bendrosios paskirties DI modeliams, pažeidimus. Tai apima atitikties vertinimų neatlikimą, netinkamą žmogiškąją priežiūrą, nepakankamą techninę dokumentaciją arba skaidrumo reikalavimų nesilaikymą.
-
1% pasaulinės metinės apyvartos arba 7,5 mln. eurų (didesnė iš šių dviejų sumų). Žemiausias lygis, taikomas, kai organizacijos tyrimo ar audito metu reguliavimo institucijoms pateikiama neteisinga, neišsami ar klaidinanti informacija.
Visais atvejais baudos skaičiuojamos remiantis bendra metine apyvarta, o ne pajamomis Europos Sąjungoje. Didelių tarptautinių įmonių atveju sumos gali būti didelės net ir taikant žemiausią baudos lygį. Mažesnėms organizacijoms nustatytos fiksuotos sumos eurais reiškia, kad net ir nedideles pajamas gaunančios įmonės turės sumokėti dideles baudas.
Papildomos rizikos jūsų organizacijai
Finansinės baudos yra labiausiai matoma neatitikties reikalavimams pasekmė, tačiau jos retai būna vienintelė pasekmė. Organizacijos, kurios neatsakingai diegia DI, susidurs su daugiau rizikų.
-
Reputacinė žala. Kai su DI susijusios nesėkmės paplinta viešoje erdvėje, reputacinės pasekmės gali padaryti didesnę žalą nei bet kokia finansinė bauda. Atsistatyti po prarasto klientų pasitikėjimo, neigiamo žiniasklaidos dėmesio ir ilgalaikio įmonės susiejimo su nesaugiu DI naudojimu yra itin sudėtinga.
-
Priverstinis sistemos išjungimas. Reguliavimo institucijos gali įpareigoti nedelsiant iš rinkos pašalinti reikalavimų neatitinkančias DI sistemas. Organizacijoms, kurių produktai ar veikla priklauso nuo tų sistemų, tai gali reikšti paslaugų sustabdymą ir klientų praradimą per vieną naktį.
-
Dažnesni ir intensyvesni atitikties patikrinimai. Nustatytas reikalavimų nesilaikymas nesibaigia bauda. Organizacijos, kurių netinkama veikla buvo pastebėta, ateityje bus atidžiau stebimos, o pakartotiniai pažeidimai aiškiai laikomi sunkinančia aplinkybe nustatant būsimų baudų dydį.
Kaip tai atrodo praktikoje
Norėdami geriau suprasti baudų sistemą, pasinaudokime ES įsikūrusios HR technologijų įmonės pavyzdžiu. Ji kuria DI įrankius įdarbinimui, savo veikloje naudoja trečiųjų šalių DI ir kasdien pasitelkia DI vidiniam našumui didinti.
-
Įmonė sukūrė CV atrankos įrankį, kuris automatiškai vertina ir atrenka kandidatus į darbo vietas – tai yra didelės rizikos DI sistema. Jei sistema įdiegta be atitikties vertinimo, žmogiškosios priežiūros mechanizmų ar tinkamos dokumentacijos, įmonė pažeidžia savo kaip teikėjo įsipareigojimus. Tai patenka į 3% baudų lygį: iki 15 mln. eurų arba 3% pasaulinės metinės apyvartos, priklausomai nuo to, kuri suma yra didesnė. Jei taip pat nustatoma, kad sistema yra šališka saugomų grupių atžvilgiu, civiliniai skundai ir žiniasklaidos dėmesys greičiausiai sustiprins reguliavimo institucijos skirtos baudos neigiamą poveikį.
-
Jie naudoja trečiosios šalies DI pokalbių robotą bendravimui su kandidatais, o tai yra ribotos rizikos sistema ir diegėjo pareiga. Jei kandidatams nepranešama, kad jie bendrauja su DI, įmonė pažeidžia skaidrumo reikalavimus. Tai taip pat patenka į 3% lygį: iki 15 mln. eurų arba 3% pasaulinės metinės apyvartos, priklausomai nuo to, kuri suma yra didesnė.
-
Jie naudoja DI gramatikos klaidų taisymo įrankį, kuris yra minimalios rizikos sistema. Nėra jokių konkrečių įsipareigojimų, išskyrus pagrindinius DI raštingumo reikalavimus, dėl kurių trūkumo organizacija nesulauktų jokių griežtų pasekmių.
Baudos, numatytos ES dirbtinio intelekto akte, yra didelės, tačiau jų galima išvengti. Organizacijos, kurios anksti įvertina savo dirbtinio intelekto sistemas ir aktyviai šalina atitikties trūkumus, susidurs su kur kas mažiau sunkumų, kai pilnai įsigalios ES DI akto reikalavimai.