2025 m. vasario 2 d. priimtas Europos dirbtinio intelekto įstatymas įvedė didelių pakeitimų, dėl kurių tam tikra dirbtinio intelekto praktika visoje ES tapo nelegali. Nyderlandų įmonės dabar privalo laikytis griežtų taisyklių, kurias dirbtinio intelekto sistemas jos gali naudoti.
Įmonėms, kurios nepašalins uždraustų dirbtinio intelekto įrankių, gresia didelės baudos ir galimi teisiniai veiksmai iš visų, nukentėjusių nuo žalos.
Nuo 2025 m. vasario mėn. Nyderlanduose draudžiamos dirbtinio intelekto sistemos, kurios manipuliuoja žmonėmis, naudoja socialinį vertinimą, suskirsto asmenis pagal biometrinius duomenis arba naudoja veido atpažinimą realiuoju laiku viešose erdvėse. Šie draudimai taip pat apima emocijų atpažinimo technologijas darbo vietose ir mokyklose, taip pat netikslinį veido atvaizdų rinkimą iš interneto, siekiant sukurti atpažinimo duomenų bazes.
Taisyklės įsigalioja nedelsiant, nesuteikiant įmonėms jokio lengvatinio laikotarpio palaipsniui atsisakyti šių sistemų. Norint išvengti baudų, labai svarbu suprasti, kurios dirbtinio intelekto praktikos yra draudžiamos ir kokių veiksmų turi imtis jūsų organizacija.
Šiame vadove paaiškinami konkretūs draudimai, apibrėžiamos jūsų, kaip Nyderlandų įmonės, atitikties pareigos ir aptariami mokymo reikalavimai, reikalingi norint, kad jūsų veikla būtų teisėta pagal naująjį įstatymą.
Ką apima draudimai
Reglamentas (ES) 2024/1689, žinomas kaip ES Dirbtinio intelekto įstatymas , nustatė konkrečius tam tikrų dirbtinio intelekto praktikų draudimus, kurie įsigaliojo 2025 m. vasario 2 d. Šios taisyklės taikomos jūsų Nyderlandų verslui, jei kuriate, diegiate ar naudojate dirbtinio intelekto sistemas Nyderlanduose arba visoje Europos Sąjungoje.
Draudžiamos dirbtinio intelekto praktikos taikymo sritis
Dirbtinio intelekto įstatymas draudžia tam tikrą dirbtinio intelekto praktiką, kuri kelia nepriimtiną riziką pagrindinėms teisėms ir Europos vertybėms. Reglamento (ES) 2024/1689 5 straipsnyje ši draudžiama praktika nustatoma remiantis jos galima žala, o ne pačia technologija.
Pagrindinės draudžiamos kategorijos apima:
- Manipuliacinės dirbtinio intelekto sistemos kurie išnaudoja konkrečių grupių pažeidžiamumą
- Socialinės vertinimo sistemos, nesvarbu, ar ją valdo valdžios institucija, ar privati įmonė
- Nuotolinis biometrinis identifikavimas realiuoju laiku viešai prieinamose teisėsaugos institucijoms skirtose erdvėse (išskyrus ribotas išimtis)
- Biometrinės kategorizavimo sistemos kurie numano jautrius požymius
- Netikslinis grandymas veido atvaizdai iš interneto arba vaizdo stebėjimo kamerų įrašai
Jūsų verslui taikomi šie draudimai, nepriklausomai nuo to, ar Nyderlanduose veikiate kaip dirbtinio intelekto teikėjas, diegėjas ar platintojas. Nyderlandų duomenų apsaugos institucija bendradarbiauja su kitomis Europos Sąjungos teisėsaugos institucijomis, kad užtikrintų atitiktį reikalavimams.
Už draudimų nesilaikymą gresia baudos iki trisdešimt penkių milijonų eurų arba septynių procentų metinės pasaulinės apyvartos, atsižvelgiant į tai, kuri suma didesnė.
Įsigaliojimo datos ir pereinamieji laikotarpiai
5 straipsnio draudimai įsigaliojo 2025 m. vasario 2 d. Tai reiškia, kad jūsų įmonė privalo nedelsdama laikytis šių taisyklių, jei naudoja arba kuria atitinkamas dirbtinio intelekto sistemas.
Vykdymo užtikrinimo sistema taikoma pagal laipsnišką tvarkaraštį. Visos baudos, valdymo struktūros ir konfidencialumo nuostatos įsigalioja nuo 2025 m. rugpjūčio 2 d.
Tai suteikia jūsų organizacijai šešių mėnesių laikotarpį, per kurį taisyklės galioja, tačiau visi vykdymo užtikrinimo mechanizmai dar kuriami. Europos Komisija 2025 m. vasario 4 d. paskelbė oficialias gaires, kuriose paaiškinama, kaip šie draudimai veikia praktiškai.
Vykdymo užtikrinimą organizuoja nacionalinės rinkos priežiūros institucijos, kurias turi paskirti kiekviena valstybė narė. Nyderlandai dar nebaigė įgyvendinimo akto, kuriuo jos būtų oficialiai paskirtos; parengiamajame etape Nyderlandų duomenų apsaugos institucija ir Nyderlandų skaitmeninės infrastruktūros institucija veikia kaip koordinuojančios institucijos, o sektoriaus reguliavimo institucijos prižiūri dirbtinį intelektą savo srityse. Pats draudimas taikomas nepaisant to: tai, kad vykdymo užtikrinimo struktūra vis dar baigiama kurti, nepadaro draudžiamos praktikos teisėta, o sistema, pažeidžianti 5 straipsnį, daugeliu atvejų taip pat pažeidžia BDAR, kurį Nyderlandų duomenų apsaugos institucija gali įgyvendinti jau šiandien.
Pagrindinės apibrėžtys: dirbtinio intelekto sistemos ir praktika
Reglamento 3 straipsnyje dirbtinio intelekto sistema apibrėžiama kaip mašininė sistema, sukurta veikti su įvairiais autonomijos lygiais, po įdiegimo galinti prisitaikyti ir remiantis gauta įvestimi daranti išvadas, kaip generuoti rezultatus, tokius kaip prognozės, turinys, rekomendacijos ar sprendimai, galintys paveikti fizinę ar virtualią aplinką. Šiame apibrėžime veikiantis elementas yra išvados darymas: sistema, kuri tik taiko asmens parašytas taisykles, nėra dirbtinio intelekto sistema, o modelis, kuris savo sprendimų taisyklę išveda iš duomenų, yra.
Draudžiama dirbtinio intelekto praktika reiškia konkrečius dirbtinio intelekto diegimo ar naudojimo būdus, kuriuos Europos Sąjunga pripažino nepriimtinais. Draudimas taikomas pačiai praktikai, o ne pagrindinei technologijai.
Tai reiškia, kad tą pačią dirbtinio intelekto sistemą galite naudoti leidžiamais tikslais, tačiau jums gali būti uždrausta naudotis tam tikromis programomis. Jūsų įmonė turi atskirti dirbtinio intelekto sistemą (technologiją) nuo jos praktikos (kaip ją naudojate).
Dirbtinio intelekto veido atpažinimo sistema gali būti teisėta pastatų prieigos kontrolei, tačiau draudžiama stebėti realiuoju laiku viešąsias erdves. Pagal Reglamentą (ES) 2024/1689 teisėtumą lemia kontekstas ir taikymas.
Išsamus draudžiamų dirbtinio intelekto praktikų sąrašas
ES Dirbtinio intelekto įstatymas draudžia konkrečias dirbtinio intelekto programas, kurios kelia nepriimtiną riziką pagrindinėms teisėms ir saugumui. Ši draudžiama praktika skirstoma į tris pagrindines kategorijas: sistemas, kurios manipuliuoja žmonių elgesiu, tas, kurios išnaudoja pažeidžiamas grupes , ir mechanizmus, kurie leidžia vykdyti masinį stebėjimą naudojant socialinį vertinimą.
Manipuliuojančios ir apgaulingos sistemos
Dirbtinio intelekto įstatymas draudžia bet kokią dirbtinio intelekto sistemą, kuri naudoja pasąmonines technikas, kad iš esmės iškreiptų žmogaus elgesį taip, kad padarytų žalą. Tai metodai, kurie veikia ne tik jūsų sąmoningumo ribose, bet ir daro įtaką jūsų sprendimams ar veiksmams.
Draudžiamos manipuliavimo praktikos apima:
- Dirbtinio intelekto sistemos, kurios diegia pasąmoninius komponentus, kurių negalite aptikti
- Sistemos, sukurtos išnaudoti su amžiumi susijusį vaikų pažeidžiamumą
- Technologijos, kurios manipuliuoja elgesiu, siekdamos sukelti fizinę ar psichologinę žalą
Negalite naudoti dirbtinio intelekto sąmoningai apgaudinėdami žmones taip, kad tai padarytų didelę žalą . Tai reiškia, kad jūsų įmonė negali diegti pokalbių robotų ar virtualių asistentų, kurie klaidina vartotojus apie savo dirbtinio intelekto prigimtį, kai ši apgaulė gali sukelti žalos.
Draudimas taikomas ir dirbtinio intelekto sistemoms, kurios naudoja tamsius modelius arba psichologinę manipuliaciją, kad paskatintų vartotojus priimti žalingus sprendimus. Įstatymas apsaugo asmenis nuo dirbtinio intelekto praktikos, kuri apeina racionalų sprendimų priėmimą.
Jei jūsų dirbtinio intelekto sistema daro įtaką elgesiui per paslėptą manipuliavimą, o ne skaidrią informaciją, ji pažeidžia Įstatymą.
Pažeidžiamų asmenų išnaudojimas
Griežtai draudžiamos dirbtinio intelekto sistemos, kurios išnaudoja su amžiumi, negalia ar socialinėmis ar ekonominėmis aplinkybėmis susijusius pažeidžiamumus. Negalima naudoti dirbtinio intelekto siekiant pasinaudoti žmonėmis, kurie nesugeba suprasti manipuliacijų ar joms atsispirti.
Šis draudimas taikomas dirbtiniam intelektui, kuris taikomas vaikų nepatyrimui arba pagyvenusių žmonių kognityviniam nuosmukiui. Jūsų įmonė negali diegti sistemų, kurios išnaudoja fizinę ar psichinę negalią, kad manipuliuotų elgesiu.
Šis draudimas taip pat taikomas dirbtiniam intelektui, kuris išnaudoja ekonominę neviltį ar socialinę izoliaciją.
Saugomos pažeidžiamos grupės apima:
- Vaikai ir nepilnamečiai
- Senyvo amžiaus žmonės, turintys kognityvinių sutrikimų
- Žmonės su fizine ar psichine negalia
- Asmenys, susiduriantys su ekonominiais sunkumais
Draudimas taikomas, kai jūsų dirbtinio intelekto sistema sukelia arba gali sukelti didelę žalą dėl jos išnaudojimo. Turite įvertinti, ar jūsų dirbtinio intelekto programos galėtų būti nesąžiningai nukreiptos į pažeidžiamas gyventojų grupes.
Socialinis vertinimas ir elgesio profiliavimas
Dirbtinio intelekto įstatymas draudžia dirbtinio intelekto sistemas, kurios vertina arba klasifikuoja žmones pagal jų socialinį elgesį ar asmenines savybes. Draudžiama naudoti socialinio vertinimo mechanizmus, kurie gali sukelti nesąžiningą elgesį ar žalą.
Socialinis vertinimas apima asmenų vertinimą pagal jų elgesį, santykius ar numatomą elgesį. Taip sukuriami profiliai, kurie lemia prieigą prie paslaugų, galimybių ar teisių.
Draudžiama socialinio vertinimo veikla apima:
- Piliečių vertinimas pagal socialinį ar profesinį elgesį
- Patikimumo balų kūrimas iš asmeninių duomenų
- Nusikalstamo elgesio prognozavimas remiantis profiliavimu
- Paslaugų atsisakymas remiantis elgesio vertinimais
Negalima diegti dirbtinio intelekto sistemų, kurios priskiria balus, pagal kuriuos nustatoma, ar asmuo gauna sveikatos priežiūros, švietimo, įdarbinimo ar finansines paslaugas. Draudimas taikomas nepriklausomai nuo to, ar šias sistemas valdote kaip valdžios institucija, ar kaip privatus verslas.
Nuotolinis biometrinis identifikavimas realiuoju laiku viešose erdvėse taip pat griežtai draudžiamas, o teisėsaugos institucijoms taikomos ribotos išimtys.
Biometrinio, veido atpažinimo ir emocijų dirbtinio intelekto draudimai
ES Dirbtinio intelekto įstatymas draudžia kelių tipų biometrinius ir veido atpažinimo sistemas, kurios kelia grėsmę pagrindinėms teisėms . Šie draudimai turi įtakos tam, kaip Nyderlandų įmonės gali naudoti biometrinius duomenis , veido atpažinimo duomenų bazes, emocijų atpažinimo įrankius ir realaus laiko identifikavimo sistemas viešosiose erdvėse.
Biometrinis suskirstymas į kategorijas
Negalima naudoti dirbtinio intelekto sistemų, kurios žmones suskirsto pagal jų biometrinius duomenis, siekiant nustatyti jų rasę, politines pažiūras, narystę profesinėse sąjungose, religinius įsitikinimus ar seksualinę orientaciją. Šis draudimas taikomas, kai šias sistemas pateikiate rinkai, pradedate jas naudoti arba naudojate šiam konkrečiam tikslui.
Draudimas taikomas sistemoms, kurios daro jautrias išvadas apie asmenis naudodamos biometrinę analizę. Jūsų įmonei gresia baudos iki 7 % metinės pasaulinės apyvartos už neatitikimą.
Šiai taisyklei yra viena išimtis. Teisėtai gautus biometrinius duomenų rinkinius, pvz., vaizdus, galite žymėti arba filtruoti remdamiesi biometriniais duomenimis teisėsaugos kontekste.
Už teisėsaugos ribų ši kategorizavimo praktika tebėra visiškai draudžiama.
Veido atpažinimo technologijų apribojimai
Veido atpažinimo duomenų bazių negalima kurti ar plėsti netiksliniu būdu iš interneto ar vaizdo stebėjimo kamerų įrašų ištrinant veido atvaizdus. Šis draudimas įsigaliojo 2025 m. vasario 2 d.
Kad šis draudimas įsigaliotų, turi būti įvykdytos keturios sąlygos:
- Praktika apima dirbtinio intelekto sistemos įrengimą, aptarnavimą ar naudojimą.
- Tikslas yra sukurti arba išplėsti veido atpažinimo duomenų bazes.
- Metodas naudoja netikslinį veido atvaizdų išgrandymą
- Duomenų šaltiniai yra internetas arba vaizdo stebėjimo kamerų įrašai.
Pagrindinis žodis yra „nekategorizuotas“. Veido atvaizdų negalima rinkti plačiai ir be atrankos.
Tai reiškia, kad prekybos centruose ar viešose vietose negalima dislokuoti kamerų, kurios automatiškai nuskaito veidus, kad sukurtų atpažinimo duomenų bazes be konkrečių taikymo kriterijų.
Emocijų atpažinimas užimtumo ir švietimo srityse
Dirbtinio intelekto sistemų negalima naudoti žmonių emocijoms nustatyti darbo vietose ir švietimo įstaigose. Šis draudimas tiesiogiai veikia personalo skyrius, mokyklas ir mokymo įstaigas, kurios gali svarstyti emocijų atpažinimo įrankius.
Draudimas taikomas bet kokiai dirbtinio intelekto sistemai, skirtai emocinėms būsenoms skaityti ar interpretuoti šiose konkrečiose aplinkose. Nesvarbu, ar naudojate veido analizę, balso atpažinimą ar kitus biometrinius rodiklius.
Yra viena siaura išimtis. Galite naudoti emocijų atpažinimo dirbtinį intelektą, jei jis tarnauja medicininiais ar saugumo tikslais.
Pavyzdžiui, ši išimtis gali būti taikoma vairuotojo budrumo stebėjimui saugumo sumetimais arba pacientų kančios nustatymui sveikatos priežiūros įstaigose.
Nuotolinio biometrinio identifikavimo apribojimai
Viešai prieinamose vietose teisėsaugos tikslais negalima naudoti nuotolinių biometrinių identifikavimo sistemų realiuoju laiku, išskyrus griežtai apibrėžtas aplinkybes. Šios išimtys apima pagrobimo ar prekybos žmonėmis aukų paiešką, tiesioginės grėsmės gyvybei ar teroristinių išpuolių prevenciją ir įtariamųjų, padariusių sunkius nusikaltimus, už kuriuos baudžiama mažiausiai ketverių metų laisvės atėmimu, paiešką.
Kiekvienam naudojimui reikalingas išankstinis teisminės institucijos arba nepriklausomos administracinės įstaigos leidimas . Skubiais atvejais galite pradėti naudoti be leidimo, tačiau turite paprašyti patvirtinimo per 24 valandas.
Jei valdžios institucijos atmeta leidimą, privalote nedelsdami nutraukti sistemos naudojimą ir ištrinti visus duomenis. Nyderlandai gali nustatyti savo išsamias šių išimčių taisykles pagal nacionalinę teisę.
Jūsų įmonė privalo pranešti atitinkamai rinkos priežiūros institucijai ir nacionalinei duomenų apsaugos institucijai apie kiekvieną naudojimo būdą. Valstybės narės teikia Europos Komisijai metines ataskaitas apie nuotolinio biometrinio identifikavimo realiuoju laiku naudojimą.
Nyderlandų įmonių atitikties įsipareigojimai
Nyderlandų įmonės privalo imtis konkrečių veiksmų, kad atitiktų dirbtinio intelekto reikalavimus, nustatydamos uždraustas sistemas, pašalindamos jas iš veiklos ir tvarkydamos tinkamą dokumentaciją. Nyderlandų duomenų apsaugos institucija ir Nyderlandų skaitmeninės infrastruktūros institucija užtikrins šių reikalavimų laikymąsi, taikydamos dideles baudas už pažeidimus.
Draudžiamo dirbtinio intelekto identifikavimas operacijose
Turite atlikti išsamius rizikos vertinimus visoje savo organizacijoje, kad nustatytumėte dirbtinio intelekto sistemas, kurios gali pažeisti naujas taisykles. Tai reiškia, kad reikia ištirti bet kokią technologiją, kuri naudoja manipuliavimo metodus, išnaudoja pažeidžiamumus, įdiegia socialinį vertinimą arba atlieka biometrinį identifikavimą realiuoju laiku viešose erdvėse.
Pradėkite nuo visų šiuo metu naudojamų dirbtinio intelekto sistemų inventoriaus sudarymo. Dokumentuokite, ką kiekviena sistema veikia, kaip ji apdoroja duomenis ir kam tai daro įtaką.
Ypatingą dėmesį atkreipkite į sistemoms, kurios sąveikauja su klientais, darbuotojais ar visuomene. Jūsų rizikos vertinimuose turėtų būti įvertinta, ar kuri nors sistema galėtų pakenkti pagrindinėms teisėms.
Tai apima patikrinimą, ar dirbtinio intelekto sistemos priima sprendimus apie žmones remdamosi jų elgesiu, asmeninėmis savybėmis ar socialiniais ryšiais. Sistemas, kurios neskaidriai seka arba profiliuoja asmenis, reikia nedelsiant peržiūrėti.
Bendradarbiaukite su savo techninėmis komandomis, kad suprastumėte, kaip veikia kiekviena dirbtinio intelekto sistema. Negalite pasikliauti vien tiekėjų aprašymais.
Nyderlandų duomenų apsaugos institucija aiškiai nurodė, kad jūs esate atsakingi už atitiktį reikalavimams, nepriklausomai nuo to, ar sistemą sukūrėte jūs, ar įsigijote ją iš trečiosios šalies.
Laipsniškas uždraustų dirbtinio intelekto sistemų atsisakymas arba pašalinimas
Privalote nedelsdami nutraukti draudžiamų dirbtinio intelekto praktikų naudojimą. Įstatymas nenumato jokio atidėjimo laikotarpio draudžiamoms sistemoms.
Jei rizikos vertinime nustatyta draudžiama praktika, turite ją nedelsdami deaktyvuoti. Sukurkite pašalinimo planą, kuriame būtų atsižvelgta tiek į techninį, tiek į operacinį poveikį.
Kai kurios sistemos gali būti įterptos į didesnes platformas arba prijungtos prie kelių procesų. Turėsite užtikrinti, kad draudžiamų elementų pašalinimas netrikdytų esminių verslo funkcijų.
Prieš išjungdami sistemą, nustatykite, kaip tvarkysite anksčiau jos atliktas užduotis. Tai gali reikšti grįžimą prie rankinių procesų, skirtingų technologijų diegimą arba visišką darbo eigų pertvarkymą.
Dokumentuokite kiekvieną pašalinimo proceso žingsnį. Užrašykite, kada atradote draudžiamą praktiką, kokių veiksmų atlikote ir kada sistema buvo visiškai išjungta.
Reguliavimo institucijos tikėsis aiškių įrodymų, kad ėmėtės veiksmų nedelsdami, kai tik nustatėte pažeidimą.
Įrašai ir dokumentacija
Privalote saugoti techninius dokumentus, įrodančius draudimo taisyklių laikymąsi. Tai apima jūsų rizikos vertinimų įrašus, sprendimus dėl dirbtinio intelekto sistemų ir visus pakeitimus, kuriuos atlikote siekdami atitikties.
Jūsų dokumentuose turėtų būti nurodyta:
- Sistemos inventoriai su kiekvienos dirbtinio intelekto programos aprašymais
- Rizikos vertinimo ataskaitos rodoma jūsų galimų pažeidimų analizė
- Pašalinimo įrašai išsamiai aprašant, kada ir kaip išjungėte draudžiamas sistemas
- Pagrindinių teisių poveikio vertinimai bet kokiems ribiniams atvejams
Dirbtinio intelekto įstatyme nenustatytas fiksuotas šios medžiagos saugojimo laikotarpis, susijęs su draudžiamos praktikos laikymusi; jame nustatyti įrašų saugojimo laikotarpiai, pavyzdžiui, dešimt metų didelės rizikos sistemos techninei dokumentacijai ir minimalus automatiškai generuojamų žurnalų laikotarpis, yra didelės rizikos skyriuje. Savo vertinimus saugokite tol, kol jų dar galima pareikalauti, o tai praktiškai reiškia bet kokio ieškinio, kuris gali kilti dėl sistemos, senaties terminą, ir turėkite galimybę juos pateikti paprašius. Už neteisingos, neišsamios ar klaidinančios informacijos pateikimą institucijai yra atskirai baudžiama pagal reglamento 99 straipsnį.
Bendriniai aprašymai ar rinkodaros medžiaga neatitinka šio reikalavimo. Pateikite technines specifikacijas, duomenų srautus ir sprendimų priėmimo procesus.
Atnaujinkite savo dokumentaciją kaskart, kai modifikuojate dirbtinio intelekto sistemas arba diegiate naujas. Jums reikia nuolatinių procesų, siekiant užtikrinti, kad būsimose sistemose nebūtų įvesta draudžiama praktika.
Dirbtinio intelekto raštingumo reikalavimai ir darbuotojų mokymai
Nuo 2025 m. vasario 2 d. Nyderlandų įmonės, teikiančios arba diegiančios dirbtinio intelekto sistemas, privalo užtikrinti, kad jų darbuotojai turėtų tinkamą dirbtinio intelekto raštingumą. Ši prievolė taikoma neatsižvelgiant į tai, ar naudojate didelės, ar mažesnės rizikos dirbtinio intelekto sistemas.
Dokumentuotos mokymo programos turi būti pritaikytos prie jūsų darbuotojų vaidmenų ir techninio išsilavinimo.
Dirbtinio intelekto raštingumo prievolės paaiškinimas
ES Dirbtinio intelekto įstatymo 4 straipsnyje nustatytas teisinis reikalavimas visiems dirbtinio intelekto teikėjams ir diegėjams užtikrinti pakankamą savo darbuotojų dirbtinio intelekto raštingumą. Privalote imtis priemonių, kad su dirbtinio intelekto sistemomis dirbantys darbuotojai ir rangovai suprastų technologiją, su kuria dirba.
Dirbtinio intelekto raštingumo prievolė taikoma visiems, kurie jūsų vardu valdo, naudoja ar priima sprendimus dėl dirbtinio intelekto sistemų. Tai apima techninius darbuotojus, kurie kuria ar prižiūri dirbtinio intelekto sistemas, taip pat netechninius darbuotojus, kurie kasdieniame darbe naudoja dirbtinio intelekto įrankius.
Dirbtinio intelekto raštingumo mokymus turite pritaikyti prie kiekvieno asmens vaidmens, techninių žinių, patirties, išsilavinimo ir konkretaus konteksto, kuriame jie naudoja dirbtinio intelekto sistemas. Programinės įrangos kūrėjui, diegiančiam dirbtinio intelekto modelius, reikalingi kitokie mokymai nei klientų aptarnavimo atstovui, naudojantiam dirbtinio intelekto valdomus pokalbių robotus.
Šis įsipareigojimas reikalauja, kad dėtumėte „visas pastangas“, kad užtikrintumėte tinkamą raštingumo lygį. Negalite tiesiog siūlyti simbolinių mokymų ir teigti, kad laikotės reikalavimų.
Veiksmingų mokymo programų kūrimas
Jūsų dirbtinio intelekto raštingumo programa turėtų būti skirta konkrečioms jūsų organizacijos naudojamoms dirbtinio intelekto sistemoms, o ne teikti bendro pobūdžio informaciją. Darbuotojai turi suprasti, kaip veikia konkretūs dirbtinio intelekto įrankiai, su kuriais jie dirba, jų apribojimus ir galimą riziką.
Mokymo turinys turėtų apimti:
- Pagrindinės dirbtinio intelekto sąvokos, susijusios su jūsų sistemomis
- Kaip teisingai valdyti dirbtinio intelekto įrankius
- Galimi DI išvesties šališkumai ir klaidos
- Kai būtina žmogaus priežiūra
- Jūsų organizacijos dirbtinio intelekto politika ir procedūros
Turite atsižvelgti į kiekvieno darbuotojo pradinį žinių lygį. Techniniam personalui gali prireikti išplėstinių mokymų apie modelių kūrimą ir testavimą, o paprastiems vartotojams reikia praktinių nurodymų, kaip interpretuoti dirbtinio intelekto rezultatus ir atpažinti, kada rezultatai atrodo neteisingi.
Mokymai gali būti teikiami įvairiomis formomis, įskaitant seminarus, internetinius kursus, konsultavimą darbo vietoje arba išorines programas. Formatas yra mažiau svarbus nei tai, kad darbuotojai iš tikrųjų įgytų reikiamų žinių ir įgūdžių.
Dirbtinio intelekto raštingumo veiklos dokumentavimas
Privalote saugoti savo dirbtinio intelekto raštingumo mokymo veiklos įrašus, kad įrodytumėte, jog laikotės ES Dirbtinio intelekto įstatymo. Šie dokumentai yra įrodymas, kad įvykdėte savo teisinius įsipareigojimus.
Jūsų įrašuose turėtų būti:
- Mokymo programos turinys ir medžiaga
- Mokymus baigusių darbuotojų sąrašai
- Mokymų datos ir trukmė
- Vertinimo rezultatai (jei taikoma)
- Kaip nustatėte tinkamą raštingumo lygį skirtingiems vaidmenims
Dokumentuokite savo DI raštingumo poreikių nustatymo procesą visoje organizacijoje. Tai apima, kaip įvertinote, kuriems darbuotojams reikia mokymų ir kokių konkrečių žinių jiems reikia, atsižvelgiant į jų sąveiką su DI sistemomis.
Registruokite, kaip atnaujinate mokymus, kai keičiasi jūsų dirbtinio intelekto sistemos arba į organizaciją ateina naujų darbuotojų. Dirbtinio intelekto raštingumas nėra vienkartinis reikalavimas, o nuolatinė prievolė, kurią reikia pritaikyti prie jūsų besikeičiančio dirbtinio intelekto technologijų naudojimo.
Priežiūra, vykdymo užtikrinimas ir baudos
ES Dirbtinio intelekto įstatymas nustato daugiapakopę vykdymo užtikrinimo struktūrą su didelėmis finansinėmis baudomis už neatitikimą. Nyderlandų įmonėms taikoma tiek nacionalinių, tiek Europos institucijų priežiūra, o už draudžiamą dirbtinio intelekto praktiką skiriamos baudos, siekiančios iki 7 % pasaulinės metinės apyvartos.
Nyderlandų ir ES priežiūros institucijos
Nyderlanduose priežiūros architektūra vis dar kuriama. Nyderlandų duomenų apsaugos institucija atlieka koordinuojantį vaidmenį ir kartu su Nyderlandų skaitmeninės infrastruktūros institucija parengė rinkos priežiūros sistemą, tačiau įstatymas, kuriuo būtų paskirtos kompetentingos institucijos ir suteikti joms įgaliojimai pagal reglamentą, dar nėra baigtas rengti. Kol tai nebus padaryta, esami reguliavimo institucijos vykdo savo įgaliojimus, o Nyderlandų duomenų apsaugos institucija išlieka institucija, su kuria reikia susidurti visur, kur dirbtinio intelekto sistema tvarko asmens duomenis.
Europos lygmeniu Europos Komisija prižiūri Dirbtinio intelekto įstatymo įgyvendinimą visose valstybėse narėse. Komisijoje įsteigtas Europos dirbtinio intelekto biuras koordinuoja vykdymo užtikrinimo veiklą ir teikia technines konsultacijas.
Europos dirbtinio intelekto valdyba, sudaryta iš valstybių narių atstovų, remia nuoseklų reglamento taikymą ir konsultuoja Komisiją, taip pat bendradarbiauja su duomenų apsaugos institucijomis tais atvejais, kai dirbtinio intelekto sistemos tvarko asmens duomenis.
Jei valdote dirbtinio intelekto sistemas keliose ES šalyse, galite susidurti su priežiūros institucijų tikrinimu kiekvienoje jurisdikcijoje, kurioje jūsų sistemos yra diegiamos arba veikia.
Sankcijos ir civilinė atsakomybė
Už 5 straipsnyje numatytų draudžiamų praktikų pažeidimus skiriamos baudos iki 35 mln. EUR arba 7 % jūsų bendros metinės pasaulinės apyvartos, atsižvelgiant į tai, kuri suma didesnė. Pats draudimas taikomas nuo 2025 m. vasario 2 d., tačiau reglamento nuostatos dėl baudų taikomos nuo 2025 m. rugpjūčio 2 d., todėl bauda gali būti skiriama už elgesį nuo tos datos. Už kitų įsipareigojimų pažeidimus taikomos mažesnės ribos: penkiolika milijonų eurų arba trys procentai už didelės rizikos reikalavimų nesilaikymą ir septyni su puse milijono eurų arba vienas procentas už neteisingos ar klaidinančios informacijos pateikimą institucijai.
ES Teisingumo Teismas (ESTT) turi galutinę teisę aiškinti Dirbtinio intelekto įstatymo nuostatas. Nacionaliniai teismai gali perduoti klausimus ESTT, kai kyla ginčų dėl to, kas laikoma draudžiama praktika.
Be administracinių baudų, asmuo, nukentėjęs nuo draudžiamos sistemos, gali pareikšti civilinį ieškinį. Tam nėra suderintos Europos sistemos: siūloma Dirbtinio intelekto atsakomybės direktyva buvo atšaukta, todėl ieškinys Nyderlanduose pareiškiamas pagal Nyderlandų teisę, paprastai kaip neteisėtas veiksmas pagal Civilinio kodekso 6:162 straipsnį, o 5 straipsnio pažeidimas yra įrodymas, kad buvo pažeista įstatymų nustatyta pareiga. Valstybės narės taip pat gali nustatyti papildomas baudas nacionalinėje teisėje.
Europos ir nacionalinių įstaigų gairės
Europos Komisija 2025 m. vasario 4 d. paskelbė draudžiamos dirbtinio intelekto praktikos gaires. Šiuose dokumentuose paaiškinama, kaip valdžios institucijos aiškins 5 straipsnio draudimus, ir pateikiami praktiniai atitikties pavyzdžiai.
Nors šios gairės nėra privalomos, jos suteikia vertingų įžvalgų apie vykdymo užtikrinimo prioritetus. Tik ESTT gali teikti autoritetingus teisinius aiškinimus.
Nyderlandų priežiūros institucijos gali išleisti papildomas nacionalines gaires, pritaikytas prie vietos verslo aplinkybių. Turėtumėte stebėti tiek Europos, tiek Nyderlandų įstaigų atnaujinimus, atsižvelgiant į kintančius vykdymo užtikrinimo metodus.
Gairės yra prieinamos visomis ES kalbomis, siekiant palengvinti tarpvalstybinį supratimą.
Dažnai užduodami klausimai
Europos dirbtinio intelekto įstatymas nustato konkrečius reikalavimus ir apribojimus, kurie nuo 2025 m. vasario mėn. galios Nyderlandų įmonėms. Šie reglamentai draudžia tam tikrą dirbtinio intelekto praktiką, reikalauja atitikties priemonių ir nustato baudas už pažeidimus.
Kokie nauji dirbtinio intelekto naudojimo Nyderlandų įmonėse reglamentai įsigaliojo nuo vasario mėnesio?
Europos dirbtinio intelekto įstatymas įsigaliojo 2024 m. rugpjūčio 1 d., o pirmasis draudimų rinkinys įsigaliojo 2025 m. vasario 2 d. Šie reglamentai taikomi visoms Nyderlandų įmonėms, kurios kuria, diegia ar naudoja dirbtinio intelekto sistemas Europos Sąjungoje.
Įstatymas draudžia manipuliuojančias dirbtinio intelekto sistemas, kurios naudoja pasąmonines technikas, kad paveiktų sprendimus, kurių žmonės paprastai nepriimtų. Taip pat draudžiamos dirbtinio intelekto sistemos, kurios išnaudoja pažeidžiamumus dėl amžiaus, negalios ar socialinės bei ekonominės padėties.
Socialinio vertinimo sistemos, kurios vertina asmenis pagal jų socialinį elgesį ar asmenines savybes, yra visiškai uždraustos. Reglamentai taip pat draudžia dirbtiniu intelektu pagrįstus rizikos vertinimus, kurie numato nusikaltimus vien tik remiantis profiliavimu ar asmenybės bruožų analize, o ne su nusikalstama veikla susijusiais faktais.
Draudžiamos biometrinės kategorizavimo sistemos, kurios pagal veido atvaizdus ar pirštų atspaudus nustato rasę, politines pažiūras, narystę profesinėse sąjungose, religinius įsitikinimus ar seksualinę orientaciją. Draudžiama nuotolinė biometrinė identifikacija realiuoju laiku viešose erdvėse, išskyrus griežtai apibrėžtas situacijas, kai tam yra konkretus teisinis leidimas.
Kaip 2025 m. vasario mėn. Nyderlandų dirbtinio intelekto gairės veikia duomenų privatumą ir vartotojų apsaugą?
Dirbtinio intelekto įstatymas veikia kartu su galiojančiais duomenų apsaugos reglamentais, įskaitant BDAR. Nyderlandų duomenų apsaugos institucija teikia rekomendacijas, kaip dirbtinio intelekto sistemos turi atitikti duomenų apsaugos taisykles, ypač susijusias su automatizuotu sprendimų priėmimu.
Draudžiama netiksliniu būdu iš interneto ar kamerų filmuotos medžiagos išgauti veido atvaizdus, siekiant sukurti ar išplėsti veido atpažinimo duomenų bazes. Šis apribojimas apsaugo asmenų teises į privatumą ir užkerta kelią neteisėtam biometrinių duomenų rinkimui.
Dirbtinio intelekto sistemos visą savo gyvavimo ciklą turi gerbti pagrindines teises. Valdžios institucijos ir viešąsias paslaugas teikiantys subjektai, naudodami didelės rizikos dirbtinio intelekto sistemas, privalo atlikti poveikio pagrindinėms teisėms vertinimą.
Kokiomis dirbtiniu intelektu pagrįstomis veiklomis Nyderlandų įmonėms nebeleidžiama užsiimti dėl neseniai įvykusių teisės aktų pakeitimų?
Jūsų įmonė negali naudoti emocijų atpažinimo sistemų darbo vietoje ar švietimo aplinkoje. Šios sistemos yra draudžiamos, nepaisant deklaruojamos naudos ar naudojimo atvejų.
Negalima diegti dirbtinio intelekto sistemų, kurios manipuliuoja žmonėmis pasąmoninėmis technikomis arba išnaudoja jų pažeidžiamumą. Tai apima sistemas, kurios taikosi į asmenis pagal jų negalią, socialinę padėtį ar amžių, siekdamos paveikti jų elgesį.
Draudžiamos biometrinės kategorizavimo sistemos, kurios klasifikuoja žmones pagal jautrias charakteristikas. Negalima naudoti dirbtinio intelekto, kad iš biometrinių duomenų nustatytumėte asmens rasę, politines pažiūras, religinius įsitikinimus ar seksualinę orientaciją.
Socialinio vertinimo sistemos yra visiškai uždraustos. Negalima diegti dirbtinio intelekto, kuris vertintų ar klasifikuotų žmones pagal jų socialinį elgesį ar asmenines savybes.
Viešai prieinamose vietose draudžiama komerciniais tikslais naudoti nuotolinį biometrinį identifikavimą realiuoju laiku . Teisėsaugos institucijos gali naudoti tokias sistemas tik griežtai apibrėžtomis aplinkybėmis ir gavusios tinkamą teisinį leidimą.
Kokių veiksmų turi imtis Nyderlandų korporacijos, kad suderintų savo dirbtinio intelekto sistemas su vasarį nustatytais atitikties standartais?
Turite identifikuoti visas dirbtinio intelekto sistemas, kurias jūsų organizacija šiuo metu naudoja arba diegia. Šiame inventoriuje kiekviena sistema turėtų būti suskirstyta į kategorijas pagal Dirbtinio intelekto įstatyme apibrėžtas rizikos klasifikacijas.
Peržiūrėkite savo dirbtinio intelekto sistemas pagal draudžiamų praktikų sąrašą. Jei naudojate kokias nors draudžiamas sistemas, turite nedelsdami jas palaipsniui nutraukti, kad išvengtumėte reguliavimo sankcijų.
Dokumentuokite savo dirbtinio intelekto sistemų tikslus, duomenų šaltinius ir sprendimų priėmimo procesus. Ši dokumentacija padeda įrodyti atitiktį reikalavimams ir pagrindžia visus reikiamus poveikio vertinimus.
Didelės rizikos sistemoms taikomi atskiri įpareigojimai, įskaitant registraciją Europos duomenų bazėje, o viešosioms įstaigoms ir viešųjų paslaugų teikėjams – poveikio pagrindinėms teisėms vertinimą. Ši tvarka buvo atidėta: III priede išvardytoms sistemoms, tokioms kaip įdarbinimo, kreditingumo vertinimo ir užimtumo valdymo priemonės, ji įsigalios 2027 m. gruodžio 2 d., o didelės rizikos sistemoms, kurios yra reglamentuojamų produktų saugos komponentai, – 2028 m. rugpjūčio 2 d.
Apmokykite savo darbuotojus naujų reikalavimų ir nustatykite vidinius nuolatinės atitikties stebėsenos procesus. Jūsų atitikties programa turėtų apimti reguliarias dirbtinio intelekto sistemų peržiūras, siekiant užtikrinti, kad jos atitiktų reguliavimo ribas.
Ar yra kokių nors konkrečiam sektoriui taikomų dirbtinio intelekto draudimų, apie kuriuos Nyderlandų įmonės turėtų žinoti vadovaudamosi naujais reglamentais?
Švietimo sektoriaus organizacijos susiduria su specifiniais apribojimais. Jūs negalite naudoti emocijų atpažinimo sistemų mokiniams stebėti ar jų emocinei būsenai vertinti, nepaisant numatomos edukacinės naudos.
Darbo aplinka turi panašių apribojimų. Darbdaviai negali naudoti emocijų atpažinimo dirbtinio intelekto, kad stebėtų darbuotojų emocines būsenas ar reakcijas darbo metu.
Teisėsaugos institucijos taiko ribotas išimtis biometrinių identifikavimo sistemų atžvilgiu. Šioms išimtims reikalingas griežtas teisinis leidimas ir jos taikomos tik konkrečiose situacijose, pavyzdžiui, pagrobimo aukų paieškai, neišvengiamų grėsmių prevencijai arba įtariamųjų sunkių nusikaltimų sekimui.
Viešąsias paslaugas teikiančioms valdžios institucijoms taikomi papildomi reikalavimai, be bendrųjų draudimų. Privalote atlikti visų didelės rizikos dirbtinio intelekto sistemų poveikio pagrindinėms teisėms vertinimus ir užregistruoti šias sistemas Europos duomenų bazėje.
Kokios baudos taikomos už 2025 m. vasario mėn. įvestų Nyderlandų dirbtinio intelekto apribojimų nesilaikymą?
Reguliavimo institucijos gali skirti dideles baudas už Dirbtinio intelekto įstatymo nesilaikymą. Baudų struktūra yra pakopinė, atsižvelgiant į pažeidimo sunkumą.
Draudžiamų dirbtinio intelekto sistemų naudojimas yra rimčiausia pažeidimų kategorija. Jūsų organizacijai gresia didelės finansinės baudos, jei ir toliau naudosite uždraustas sistemas po 2025 m. vasario mėn. termino.
Tikslios baudos dydžiai priklauso nuo to, ar jūsų organizacija atitinka mažos ir vidutinės įmonės, ar didesnės įmonės kriterijus. Reguliavimo institucijos atsižvelgia į tokius veiksnius kaip pažeidimo pobūdis, jo trukmė ir bet kokia padaryta žala.
Be finansinių baudų, neatitikimas reikalavimams gali pakenkti jūsų organizacijos reputacijai. Asmenys, nukentėję nuo draudžiamų dirbtinio intelekto sistemų, gali siekti papildomų teisių gynimo priemonių civilinio proceso tvarka.
Nyderlandų duomenų apsaugos institucija ir kitos reguliavimo institucijos turi vykdymo užtikrinimo įgaliojimus. Jos gali tirti skundus, atlikti auditus ir reikalauti nedelsiant nutraukti draudžiamą praktiką.
Law & More konsultuoja įmones Dirbtinio intelekto įstatymo taikymo klausimais: tikrina jau naudojamas sistemas pagal 5 straipsnio draudimus, vertina, ar naudojimo atvejis yra arti ribos tarp leidžiamos ir draudžiamos praktikos, nustato 4 straipsnyje reikalaujamas dirbtinio intelekto raštingumo priemones ir ruošiasi didelės rizikos įsipareigojimams, kurie įsigalios 2027 m. gruodžio mėn. Kai dirbtinio intelekto sistema taip pat tvarko asmens duomenis, tuo pačiu metu vertiname ir BDAR poziciją, nes būtent ten šiandien galima užtikrinti vykdymą.
