Europos Sąjungos Dirbtinio intelekto įstatymas jau įsigaliojo, ir Nyderlandų įmonės, naudojančios dirbtinio intelekto pokalbių robotus, turi pasiruošti naujiems atitikties įsipareigojimams. Jei jūsų įmonė naudoja dirbtiniu intelektu paremtus klientų aptarnavimo įrankius, virtualius asistentus arba automatizuotas pokalbių sistemas, kurios aptarnauja ES klientus, turite atitikti konkrečius skaidrumo, priežiūros ir dokumentacijos reikalavimus pagal ES AI aktas.
Reglamentas taikomas jūsų verslui, neatsižvelgiant į jūsų įsikūrimo vietą, jei jūsų dirbtinio intelekto sistemas naudoja ES gyventojai arba jos sukuria rezultatus, naudojamus Sąjungoje.
Dauguma su klientais bendraujančių pokalbių robotų patenka į ribotos rizikos dirbtinio intelekto reglamento kategoriją, o tai reiškia, kad galite toliau juos naudoti be sudėtingų patvirtinimų. Tačiau vis tiek turite laikytis aiškių skaidrumo, žmogaus priežiūros ir įrašų tvarkymo taisyklių.
Kai kuriems pokalbių robotams, naudojamiems tokiuose sektoriuose kaip finansai, sveikatos apsauga ar teisinės paslaugos, gali būti taikomi griežtesni reikalavimai, jei jie daro įtaką sprendimams, kurie daro didelę įtaką žmonių teisėms ar galimybėms gauti paslaugas.
Šis vadovas padės jums atlikti ES Dirbtinio intelekto įstatymo reikalavimai pokalbių robotams. Jame paaiškinama, kaip klasifikuoti dirbtinio intelekto sistemas pagal rizikos lygį, ir pateikiamas praktinis atitikties kontrolinis sąrašas Nyderlandų įmonėms.
Sužinosite, kokių veiksmų imtis dabar, kurie terminai yra svarbiausi ir kaip sukurti reikalavimus atitinkančias dirbtinio intelekto klientų aptarnavimo sistemas, kurios apsaugotų ir jūsų verslą, ir klientus.
ES Dirbtinio intelekto įstatymo ir jo taikymo srities supratimas
ES dirbtinio intelekto įstatymas nustato pirmąjį pasaulyje visapusišką Teisinė sistema Dirbtinio intelekto srityje, taikant rizika pagrįstą požiūrį dirbtinio intelekto sistemoms reguliuoti visoje Europos Sąjungoje. Tai daro įtaką įmonėms, veikiančioms ES rinkoje arba aptarnaujančioms ją, o vykdymo užtikrinimas bus pradėtas etapais nuo 2025 iki 2027 m.
Pagrindiniai ES dirbtinio intelekto įstatymo tikslai
Europos Komisija parengė Dirbtinio intelekto įstatymą, siekdama užtikrinti, kad dirbtinio intelekto sistemos būtų saugios, skaidrios ir jose būtų gerbiamos pagrindinės teisės. Reglamento tikslas – apsaugoti piliečius nuo žalingų dirbtinio intelekto programų, kartu remiant inovacijas ir ekonomikos augimą.
Dirbtinio intelekto įstatyme naudojama keturių pakopų rizikos klasifikavimo sistema. Juo draudžiamos dirbtinio intelekto sistemos, keliančios nepriimtiną riziką, pavyzdžiui, socialinis vertinimas ar manipuliavimo metodai.
Didelės rizikos sistemoms keliami griežti reikalavimai. Ribotos rizikos programoms reikalingos skaidrumo priemonės.
Minimaliai rizikingos dirbtinio intelekto sistemos neturi jokių konkrečių įsipareigojimų. Jūsų įmonė turi suprasti, kuriai kategorijai priklauso jūsų pokalbių robotas.
Dauguma klientų aptarnavimo pokalbių robotų priskiriami prie ribotos arba minimalios rizikos sistemų. Tačiau pokalbių robotai, naudojami įdarbinimui, kreditų vertinimui ar esminėms paslaugoms, gali būti priskiriami prie didelės rizikos sistemų.
Reglamentu taip pat nustatomos valdymo struktūros ir vykdymo užtikrinimo mechanizmai. Nacionalinės valdžios institucijos stebės atitiktį reikalavimams ir galės skirti baudas už pažeidimus.
Teritorinis ir sektorinis taikymas
Dirbtinio intelekto įstatymas jums taikomas, jei teikiate arba naudojate dirbtinio intelekto sistemas ES, nepriklausomai nuo to, kur yra jūsų įmonė. Nyderlandų įmonės, aptarnaujančios klientus kitose ES šalyse, privalo laikytis visų reglamento reikalavimų.
Jums taip pat taikoma ši direktyva, jei esate už ES ribų, bet jūsų dirbtinio intelekto sistemos rezultatai naudojami Europos Sąjungoje. Ši ekstrateritorinė aprėptis reiškia, kad pokalbių robotai, diegiami visame pasaulyje, bet pasiekiami ES vartotojų, patenka į šios direktyvos taikymo sritį.
Reglamentas taikomas visiems sektoriams, kuriuose veikia dirbtinio intelekto sistemos, įskaitant elektroninę prekybą, sveikatos priežiūrą, finansus ir klientų aptarnavimą. Jokia pramonės šaka negauna visuotinių išimčių.
Jūsų pokalbių roboto rizikos klasifikacija priklauso nuo konkretaus jo naudojimo atvejo, o ne nuo jūsų verslo sektoriaus.
Įgyvendinimo grafikas ir laipsniškas vykdymas
ES Dirbtinio intelekto įstatymas įgyvendinamas pagal laipsnišką grafiką. Draudimai dėl nepriimtinos rizikos dirbtinio intelekto sistemų įsigaliojo 2025 m. vasario 2 d.
Turite užtikrinti, kad jūsų pokalbių robotas dabar nenaudotų jokių draudžiamų praktikų. Reikalavimai didelės rizikos dirbtinio intelekto sistemoms įsigalios 2027 m. rugpjūčio 2 d.
Nuo šios datos taip pat taikomi skaidrumo įpareigojimai ribotos rizikos sistemoms, įskaitant daugumą pokalbių robotų. Turite laiko pasiruošti, tačiau ankstyvi veiksmai sumažina paskutinės minutės atitikties spaudimą.
Bendrosios paskirties dirbtinio intelekto modeliams reikalavimai įsigalioja nuo 2025 m. rugpjūčio 2 d. Jei jūsų pokalbių robotas naudoja pagrindinius modelius, tokius kaip GPT, jūsų paslaugų teikėjas turėtų prisiimti atsakomybę už jo įsipareigojimus.
Jūs liekate atsakingi už savo pokalbių roboto diegimą ir naudojimą.
Dirbtinio intelekto pokalbių robotų apibrėžimas ir klasifikavimas pagal įstatymą
ES Dirbtinio intelekto įstatymas grupuoja dirbtinio intelekto sistemas pagal rizikos lygį, o tai, kur patenka jūsų pokalbių robotas, lemia jūsų atitikties pareigosSupratimas, kaip Įstatymas apibrėžia dirbtinio intelekto pokalbių robotus, ir konkrečių naudojimo atvejų įvertinimas padės jums parengti tinkamą dokumentaciją ir apsaugos priemones.
Kas yra dirbtinio intelekto pokalbių robotas pagal ES dirbtinio intelekto įstatymą?
ES Dirbtinio intelekto įstatymas apibrėžia dirbtinio intelekto sistemas kaip programinę įrangą, galinčią generuoti tokius rezultatus kaip prognozės, rekomendacijos ar sprendimai, turintys įtakos realiai arba virtualiai aplinkai. Jūsų pokalbių robotas laikomas dirbtinio intelekto sistema, jei apdoroja naudotojų įvestis ir pateikia atsakymus naudodamas mašininį mokymąsi, natūralios kalbos apdorojimą arba generatyvinius dirbtinio intelekto modelius.
Dauguma dirbtinio intelekto pokalbių robotų klientų aptarnavimo srityje patenka į šią kategoriją: ribotos rizikos kategorijaŠios sistemos turi atitikti skaidrumo reikalavimus, tačiau joms nereikia išsamių patvirtinimų.
Jūsų pokalbių robotas persikelia į didelė rizika jei tai daro įtaką sprendimams dėl:
- Kredito patvirtinimas arba tinkamumas draudimui
- Užimtumo arba darbuotojų valdymas
- Galimybė naudotis pagrindinėmis paslaugomis
- Teisė vykdymo užtikrinimo veikla
Nuo 2025 m. rugpjūčio mėn. generatyviniams dirbtinio intelekto pokalbių robotams, naudojantiems didelius kalbos modelius, taikomos papildomos taisyklės. Tai apima mokymo duomenų dokumentavimą ir autorių teisių laikymosi.
Sistemos, naudojančios paieškos papildytos generacijos (RAG) duomenis, kurie išgauna duomenis iš jūsų žinių bazės, pagal Įstatymą vis tiek laikomos dirbtinio intelekto sistemomis.
Pokalbių robotų naudojimo atvejai Nyderlandų verslo kontekste
Nyderlandų įmonės naudoja dirbtinio intelekto pokalbių robotus įvairiuose sektoriuose, o jūsų rizikos klasifikacija priklauso nuo to, ką daro jūsų sistema. El. prekybos pokalbių robotas, atsakantis į klausimus apie produktus, išlieka ribotos rizikos.
Pokalbių robotas, tikrinantis darbo ieškančius asmenis arba vertinantis paskolų paraiškas, tampa labai rizikingas.
Įprasti ribotos rizikos naudojimo būdai:
- Klientų palaikymas ir DUK
- Užsakymų sekimas ir rezervavimas
- Produkto rekomendacijos
- Bendro pobūdžio informacijos teikimas
Galimi didelės rizikos panaudojimo būdai:
- Finansinių produktų tinkamumo patikrinimai
- Sveikatos priežiūros triažas arba patarimai
- Įdarbinimo atrankos įrankiai
- Draudimo išmokų vertinimas
Jei jūsų pokalbių robotas priima automatizuotus sprendimus, turinčius įtakos asmens prieigai prie paslaugų, teisių ar galimybių, jums reikia griežtesnės atitikties priemonėsTai apima rizikos vertinimus, žmonių priežiūros protokolus ir išsamią techninę dokumentaciją.
Kiekvieną diegimą peržiūrėkite atskirai, nes ta pati dirbtinio intelekto technologija gali pakeisti rizikos lygius, atsižvelgiant į jos taikymą.
Dirbtinio intelekto sistemų skirstymas į kategorijas pagal riziką
ES Dirbtinio intelekto įstatymas taiko rizika pagrįstą metodą, kad nustatytų jūsų pokalbių roboto atitikties įsipareigojimus. Jūsų reikalavimai priklauso nuo to, kuriai iš keturių rizikos kategorijų priklauso jūsų sistema, o už neatitikimą taikomos baudos, siekiančios iki 35 mln. EUR arba 7 % pasaulinės apyvartos.
Rizikos kategorijos: nepriimtina, didelė, ribota ir minimali
Dirbtinio intelekto įstatymas visas dirbtinio intelekto sistemas suskirsto į keturias atskiras kategorijas. Kiekviena kategorija turi skirtingus įsipareigojimus ir apribojimus.
Draudžiama dirbtinė intelektinė intelektas kelia nepriimtiną riziką ir yra visiškai uždrausta ES. Tai apima vyriausybių naudojamas socialinio vertinimo sistemas, dirbtinį intelektą, kuris išnaudoja pažeidžiamas grupes, ir biometrinį identifikavimą realiuoju laiku viešose erdvėse (su ribotomis išimtimis).
Jei jūsų pokalbių robotas patenka į šią kategoriją, jo diegti negalite.
Didelės rizikos AI sistemos susiduria su griežčiausiais atitikties reikalavimais. Šios sistemos turi atitikti privalomus reikalavimus, įskaitant atitikties vertinimus, techninę dokumentaciją, žmogaus priežiūrą ir tikslumo standartus.
Didelės rizikos dirbtinio intelekto sistemos apima tas, kurios naudojamos priimant sprendimus dėl įdarbinimo, kreditingumo vertinimo, teisėsaugos ir ypatingos svarbos infrastruktūros srityse.
Ribotos rizikos dirbtinis intelektas Sistemos turi atitikti skaidrumo įsipareigojimus. Jūsų pokalbių robotas turi informuoti vartotojus, kad jie sąveikauja su dirbtiniu intelektu, nebent tai akivaizdu iš konteksto.
Dauguma klientų aptarnavimo pokalbių robotų patenka į šią kategoriją.
Minimalaus rizikos dirbtinis intelektas neturi jokių konkrečių įsipareigojimų pagal Įstatymą. Šios sistemos nekelia didelio arba visai nekelia pavojaus pagrindinėms teisėms ar saugumui.
Paprasti taisyklėmis pagrįsti pokalbių robotai dažnai laikomi minimalios rizikos.
Jūsų pokalbių roboto rizikos lygio vertinimas
Pradėkite kurdami DI inventorius visų jūsų įmonės naudojamų pokalbių robotų. Dokumentuokite kiekvienos sistemos paskirtį, duomenų šaltinius ir sprendimų priėmimo galimybes.
Patikrinkite, ar jūsų pokalbių robotas yra įtrauktas į Dirbtinio intelekto įstatymo III priedą kaip didelės rizikos sistema. Jūsų pokalbių robotas atitinka reikalavimus. didelės rizikos dirbtinis intelektas jei ji priima arba daro didelę įtaką sprendimams dėl įdarbinimo, darbuotojų valdymo, galimybės naudotis pagrindinėmis paslaugomis, kreditingumo vertinimo ar švietimo galimybių.
Dauguma el. prekybos ir klientų aptarnavimo pokalbių robotų patenka į ribotos rizikos kategoriją. Tačiau jei jūsų pokalbių robotas tikrina darbo ieškančius asmenis arba atlieka kreditingumo vertinimus, jis tampa didelės rizikos.
Šis skirtumas yra svarbus, nes didelės rizikos sistemoms reikalingas išsamus rizikos valdymo sistema, atitikties vertinimus ir nuolatinę stebėseną.
Sistemos, kurios atsako tik į pagrindinius klausimus naudodamos iš anksto užprogramuotus atsakymus, paprastai priskiriamos prie minimalios rizikos sistemų. Kuo daugiau autonominių sprendimų priėmimo galių turi jūsų pokalbių robotas, tuo aukštesnė jo rizikos klasė.
Nyderlandų verslui aktualūs pavyzdžiai
Mažmeninės prekybos pokalbių robotas, kuris rekomenduoja produktus arba atsako į klausimus apie pristatymą, yra ribotos rizikos dirbtinis intelektasTurite užtikrinti, kad klientai žinotų, jog kalbasi su dirbtiniu intelektu, ir saugoti jūsų sistemos projekto įrašus.
Jei valdote įdarbinimo pokalbių robotą, kuris filtruoja gyvenimo aprašymus arba reitinguoja kandidatus, tai tampa didelės rizikos dirbtinis intelektasJums reikia išsamios techninės dokumentacijos, žmonių priežiūros procedūrų ir reguliarių auditų.
Tas pats pasakytina ir apie pokalbių robotus, kurie vertina darbuotojų našumą arba priima sprendimus dėl paaukštinimo.
Nyderlandų finansinių paslaugų įmonės, naudojančios pokalbių robotus kredito vertinimams, susiduria su didelės rizikos įsipareigojimais. Jūsų sistemai reikalingas tikslumo testavimas, šališkumo stebėjimas ir išsamus visų sprendimų registravimas.
Pokalbių robotas, kuris tik suplanuoja susitikimus su žmonių patarėjais, išlieka ribotos rizikos.
Sveikatos priežiūros klientų aptarnavimo pokalbių robotai, kurie atlieka pacientų atranką arba rekomenduoja gydymą, gali būti laikomi didelės rizikos veiksniais. Paprastos vizitų registravimo sistemos to nedaro.
Svarbiausias veiksnys yra tai, ar jūsų pokalbių robotas daro įtaką sprendimams, susijusiems su žmonių teisėmis ar saugumu.
Atitikties kontrolinis sąrašas Nyderlandų pokalbių robotų operatoriams
Nyderlandų įmonės, naudojančios dirbtinio intelekto pokalbių robotus, privalo laikytis konkrečių veiksmų, kad atitiktų ES dirbtinio intelekto įstatymo reikalavimus. Tinkama dokumentacija, aiškūs skaidrumo įsipareigojimai. žmogaus priežiūra sistemos ir nuolatinė stebėsena sudaro pokalbių robotų atitikties pagrindą.
Dirbtinio intelekto inventorius ir dokumentacija
Turite sukurti išsamų visų jūsų įmonėje veikiančių dirbtinio intelekto pokalbių robotų sąrašą. Išvardykite kiekvieno pokalbių roboto paskirtį, rizikos klasifikaciją ir technines specifikacijas.
Šis inventorius yra jūsų pirmoji gynybos linija atliekant reguliavimo auditus. techninę dokumentaciją turi apimti pokalbių roboto mokymo duomenų šaltinius, naudojamus algoritmus ir sprendimų priėmimo logiką.
Užrašykite visus sistemos apribojimus ar žinomus šališkumus. Tokios priemonės kaip „Vanta“ gali padėti automatizuoti kai kurias šio dokumentavimo proceso dalis, tačiau vis tiek reikės žmogaus atliktos peržiūros, kad būtų užtikrintas tikslumas.
Saugokite įrašus apie tai, kaip buvo kuriamas ir testuojamas jūsų pokalbių robotas. Įtraukite versijų istoriją ir visus atnaujinimus, atliktus po diegimo.
Jei jūsų pokalbių robotas apdoroja klientų duomenys, dokumentuokite, kokią informaciją jis renka ir kiek laiko ją saugote. Visus dokumentus nuolat atnaujinkite ir pasirūpinkite, kad juos turėtų prieinami atitinkami komandos nariai ir institucijos.
Pokalbių robotų skaidrumo įsipareigojimai
Jūsų pokalbių robotas turi aiškiai identifikuoti save kaip dirbtinį intelektą visiems vartotojams. Šį atskleidimą pateikite kiekvieno pokalbio pradžioje, o ne paslėptą sąlygose.
Vartokite aiškią kalbą, pavyzdžiui, „Jūs kalbatės su dirbtinio intelekto asistentu“, o ne miglotas frazes. Informuokite vartotojus apie pokalbių roboto galimybes ir apribojimus.
Jei jis negali apdoroti tam tikrų užklausų ar temų, tai aiškiai nurodykite iš anksto. Pateikite informaciją apie duomenų rinkimo praktika prieš vartotojams bendrinant asmeninę informaciją.
Sukurkite vartotojams matomą būdą gauti informaciją apie pokalbių roboto veikimą. Tai galėtų būti pagalbos skyrius arba informacijos piktograma pokalbių sąsajoje.
Jūsų skaidrumo reikalavimai apima daugiau nei vien tik ženklinimą – turite paaiškinti dirbtinio intelekto vaidmenį priimant bet kokius sprendimus ar teikiant rekomendacijas.
Žmogaus priežiūros ir intervencijos mechanizmai
Sukurkite eskalavimo kelius, leidžiančius vartotojams susisiekti su personalu, kai to reikia. Jūsų pokalbių robotas turėtų atpažinti, kada negali išspręsti problemos, ir pasiūlyti tiesioginį žmogiškąjį kontaktą.
Prieš pateikdami šią parinktį, neverskite vartotojų atlikti kelių nepavykusių dirbtinio intelekto sąveikų. Apmokykite darbuotojus prižiūrėti pokalbių robotų veikimą ir peržiūrėti pažymėtus pokalbius.
Paskirkite konkrečius komandos narius, atsakingus už dirbtinio intelekto rezultatų stebėjimą ir klaidų taisymą. Šie priežiūros darbuotojai turi turėti įgaliojimus pristabdyti arba modifikuoti pokalbių robotą, jei iškyla problemų.
Nustatykite įspėjimus, kurie praneštų jūsų komandai, kai pokalbių robotas susiduria su neįprastomis situacijomis arba pateikia potencialiai žalingas rekomendacijas. Reguliarus žmogaus atliekamas pokalbių roboto pokalbių peržiūrėjimas padeda nustatyti modelius, kurių dirbtinis intelektas gali nepastebėti.
Dokumentuokite visas žmonių intervencijas ir panaudokite jas atsakingam dirbtinio intelekto valdymui tobulinti.
Nuolatinis stebėjimas ir įrašų tvarkymas
Įdiekite sistemas, kurios kasdien stebi jūsų pokalbių roboto našumą. Stebėkite tokius rodiklius kaip atsakymų tikslumas, vartotojų pasitenkinimas ir klaidų dažnis.
Nustatykite slenksčius, kurie inicijuoja peržiūras, kai našumas nukrenta žemiau priimtino lygio. Saugokite visų pokalbių robotų sąveikų žurnalus laikotarpį, kurio reikalaujama Dirbtinio intelekto įstatymo.
Šiuose įrašuose turi būti vartotojų užklausos, pokalbių robotų atsakymai ir bet kokie pranešimai žmonėms. Apsaugokite šiuos žurnalus tinkamomis saugumo priemonėmis, kartu užtikrindami, kad jie liktų prieinami atitikties vertinimo tikslais.
Kas ketvirtį atlikite savo pokalbių roboto rezultatų peržiūrą, kad patikrintumėte, ar nėra šališkumo, klaidų ar nukrypimų nuo numatyto veikimo. Palyginkite dabartinį našumą su pradiniu rizikos vertinimu, kad įsitikintumėte, jog jūsų rizikos klasifikacija išlieka tiksli.
Atnaujinkite techninę dokumentaciją kaskart, kai atliekate reikšmingų pokalbių roboto mokymo ar funkcionalumo pakeitimų.
Duomenų apsauga, privatumas ir saugumas
ES Dirbtinio intelekto įstatymas veikia kartu su BDAR, kad sukurtų dvigubą pokalbių robotų atitikties sistemą. Nyderlandų įmonės turi suprasti, kaip šie reglamentai sutampa, ir tinkamai įgyvendinti... duomenų valdymas struktūras ir apsaugoti naudotojų teises, kartu valdant saugumo riziką.
BDAR ir Dirbtinio intelekto įstatymas: sankirta ir pagrindiniai skirtumai
BDAR daugiausia dėmesio skiria apsaugai Asmeniniai duomenys, o ES Dirbtinio intelekto įstatymas reglamentuoja dirbtinio intelekto sistemas pagal rizikos lygius. Jūsų pokalbių robotas turi atitikti abu reglamentus vienu metu.
Pagal BDAR, jums reikia teisėto pagrindo tvarkyti asmens duomenis per pokalbių robotą. Tai reiškia gauti tinkamą sutikimą, dokumentuoti duomenų apdorojimas veiklą ir užtikrinant duomenų kiekio mažinimą.
Dirbtinio intelekto įstatymas papildo reikalavimus, pagrįstus jūsų pokalbių roboto rizikos klasifikacija.
Pagrindiniai persidengimo reikalavimai:
- Duomenų apsauga pagal dizainą ir numatytuosius nustatymus
- Duomenų tvarkymo skaidrumas
- Žmonių priežiūros mechanizmai
- Įrašų tvarkymo įsipareigojimai
Pagrindinis skirtumas yra taikymo sritis. BDAR taikomas bet kokiam asmens duomenų tvarkymui, nepriklausomai nuo technologijų.
Dirbtinio intelekto įstatymas yra konkrečiai skirtas dirbtinio intelekto sistemoms ir nustato rizika pagrįstus įpareigojimus. Didelės rizikos pokalbių robotams taikomi griežtesni reikalavimai, įskaitant atitikties vertinimus ir kokybės valdymo sistemas.
Duomenų valdymas pokalbių robotams
Jums reikia aiškios politikos, kaip jūsų pokalbių robotas renka, saugo ir apdoroja duomenis. Tai apima vaidmenų, atsakomybių ir duomenų srautų apibrėžimą jūsų organizacijoje.
Pradėkite nuo to, kokius duomenis renka jūsų pokalbių robotas. Dokumentuokite, kur šie duomenys patenka, kas prie jų prisijungia ir kiek laiko juos saugote.
Jūsų duomenų valdymo sistema turėtų apimti mokymo duomenis, naudotojų įvestis, pokalbių žurnalus ir bet kokią asmeninę informaciją, apdorojamą sąveikų metu.
Įgyvendinti technines duomenų apsaugos priemones:
- Šifravimas perduodamiems ir saugomiems duomenims
- Prieigos valdikliai apriboti, kas gali peržiūrėti pokalbių robotų duomenis
- Duomenų anonimizavimas kur įmanoma
- Reguliarus saugumo auditas nustatyti pažeidžiamumus
Taip pat turite nustatyti duomenų saugumo pažeidimų procedūras. Tai apima aptikimo sistemas, pranešimų procesus ir padarinių šalinimo planus.
BDAR reikalauja pranešti apie asmens duomenų pažeidimą per 72 valandas, jei asmens duomenys buvo pažeisti.
Vartotojų teisės ir vartotojų apsauga
Jūsų pokalbių robotas turi gerbti asmenų teises pagal BDAR. Vartotojai gali prašyti prieigos prie savo duomenų, reikalauti pataisymų arba ištrinti duomenis.
Jums reikia sistemų, kurios efektyviai apdorotų šias užklausas. Pateikite aiškią informaciją apie duomenų apdorojimą prieš vartotojams sąveikaujant su jūsų pokalbių robotu.
Tai apima informaciją apie tai, kokius duomenis renkate, kodėl juos renkate ir kiek laiko juos saugote. Jūsų privatumo pranešimas turi būti lengvai prieinamas ir parašytas aiškia kalba.
Svarbiausios naudotojų teisės, reikalingos palaikymui:
- Teisė susipažinti su asmens duomenimis
- Teisė reikalauti ištaisyti netikslius duomenis
- Teisė į ištrynimą („teisė būti pamirštam“)
- Teisė į duomenų perkeliamumą
- Teisė nesutikti su tvarkymu
Vartotojų apsauga apima daugiau nei duomenų privatumą. Jūsų pokalbių robotas neturi naudoti manipuliacinių šablonų ar išnaudoti pažeidžiamumų.
Dirbtinio intelekto įstatymas draudžia tam tikrą praktiką, įskaitant dirbtinio intelekto sistemas, kurios naudoja pasąmonines technikas arba išnaudoja su amžiumi susijusius pažeidžiamumus.
Geriausia praktika ir strateginiai aspektai
Jums reikia apmokytų komandų, kurios supranta dirbtinio intelekto galimybes ir ribas, tiekėjų, kurie atitinka reguliavimo standartusir sistemas, kurios nuo pat pradžių integruoja patikimą dirbtinį intelektą į jūsų operacijas.
Dirbtinio intelekto raštingumas ir darbuotojų mokymai
Nuo 2025 m. vasario mėn. ES Dirbtinio intelekto įstatymas įpareigoja visus su dirbtinio intelekto sistemomis dirbančius darbuotojus turėti pakankamai dirbtinio intelekto raštingumo. Tai taikoma klientų aptarnavimo agentams, vadovams, techninėms komandoms ir visiems, dalyvaujantiems pokalbių robotų sistemų diegime ar stebėsenoje.
Jūsų mokymo programoje turėtų būti aptarta, kaip veikia jūsų pokalbių robotas, įskaitant jo galimybes ir ribas. Darbuotojai turi atpažinti, kada sistemai reikalingas žmogaus įsikišimas ir kaip tinkamai perduoti problemą.
Jie turėtų suprasti, kokius duomenis naudoja jūsų dirbtinis intelektas ir kaip jis priima sprendimus. Jūsų pokalbių robotui tobulėjant ir pridedant naujų funkcijų, turite atitinkamai atnaujinti mokymus.
Dokumentuokite visus mokymo užsiėmimus ir saugokite įrašus apie tai, kas ir kada dalyvavo mokymuose. Šie dokumentai įrodo atitiktį reikalavimams, jei reguliavimo institucijos atlieka jūsų veiklos auditą.
Reguliarūs kvalifikacijos kėlimo kursai padeda darbuotojams neatsilikti nuo sistemų atnaujinimų ir reguliavimo pakeitimų. Apsvarstykite galimybę sukurti konkrečiam vaidmeniui skirtus mokymo modulius, kuriuose būtų aptarti konkretūs skirtingų komandos narių sąveikos su jūsų dirbtinio intelekto sistemomis būdai.
Tiekėjų ir pardavėjų deramas patikrinimas
Jūsų pokalbių roboto teikėjas tiesiogiai veikia jūsų gebėjimą laikytis ES Dirbtinio intelekto įstatymo. Jei naudojate bendrosios paskirties dirbtinio intelekto modelį (GPAI), pavyzdžiui, didelių technologijų įmonių modelius, jūs dalijatės atsakomybe už atitiktį reikalavimams su savo tiekėju.
Turite patikrinti, ar jūsų tiekėjas pateikia aiškią techninę dokumentaciją apie savo dirbtinio intelekto modelį. Tai apima informaciją apie mokymo duomenis, testavimo procedūras ir saugos priemones.
Paprašykite įrodymų apie jų pačių atitikties užtikrinimo pastangas ir rizikos valdymo procesus. Reikalaukite skaidrumo apie tai, kaip modelis tvarko olandų kalbos įvestis ir klientų duomenis.
Jūsų tiekėjas turėtų paaiškinti savo duomenų valdymo metodą ir kaip jis užkerta kelią šališkumui ar diskriminaciniams rezultatams. Dokumentuokite visą su atitiktimi susijusį bendravimą su tiekėju ir susitarimus.
Į sutartis įtraukti konkrečias sąlygas, kurios reikalauja nuolatinis atitikimas laikantis ES Dirbtinio intelekto įstatymo. Nustatykite aiškius procesus, kaip spręsti problemas, jei jūsų tiekėjo dirbtinio intelekto sistema sukelia problemų arba pažeidžia norminius reikalavimus.
Bent kartą per metus peržiūrėkite savo tiekėjų santykius. Artėjant vykdymo terminams 2026 ir 2027 m., jums reikės patvirtinimo, kad jūsų tiekėjai laikosi kintančių įsipareigojimų.
Standartų ir sistemų taikymas
ISO 42001 standartas pateikia struktūrizuotą požiūrį į dirbtinio intelekto valdymo sistemas, kuris atitinka ES dirbtinio intelekto įstatymo reikalavimus. Šis tarptautinis standartas padeda jums nustatyti dirbtinio intelekto kūrimo ir diegimo valdymo procesus.
Įdiegę ISO 42001 standartą, parodote savo įsipareigojimą taikyti patikimas dirbtinio intelekto praktikas. Ši sistema apima rizikos valdymą, skaidrumą ir žmonių priežiūrą – visus pagrindinius įstatymo reikalavimus.
Tai taip pat padeda tvarkyti dokumentaciją, kurios tikisi reguliavimo institucijos. Galite naudoti konkrečiai pramonei skirtas sistemas kartu su ISO 42001.
Finansinių paslaugų, sveikatos priežiūros ir mažmeninės prekybos sektoriai parengė savo dirbtinio intelekto valdymo gaires, kurios skirtos konkrečiam sektoriui būdingai rizikai spręsti ir kartu padeda laikytis platesnio reguliavimo reikalavimų.
Pradėkite nuo dabartinės dirbtinio intelekto diegimo praktikos palyginimo su šiais standartais. Nustatykite spragas, kur jūsų procesai neatitinka reikalavimų.
Sukurkite veiksmų planą, kuriame būtų teikiama pirmenybė didelės rizikos sritims ir nustatyti realūs įgyvendinimo terminai. Šios sistemos taip pat suteikia bendrą kalbą aptariant dirbtinio intelekto valdymą visoje jūsų organizacijoje.
Jie palengvina teisinių, techninių ir verslo komandų, kurios visos atlieka atitikties užtikrinimo vaidmenį, koordinavimą.
Dažnai užduodami klausimai
Kokie yra esminiai žingsniai siekiant užtikrinti, kad mano pokalbių robotas atitiktų ES dirbtinio intelekto įstatymą?
Pradėkite klasifikuodami savo pokalbių robotą pagal ES Dirbtinio intelekto įstatymo rizikos kategorijas. Dauguma el. prekybos ir klientų aptarnavimo pokalbių robotų patenka į ribotos rizikos kategoriją, o tai reiškia, kad jie turi atitikti skaidrumo reikalavimus.
Dokumentuokite savo pokalbių roboto paskirtį, funkcionalumą ir apdorojamus duomenis. Šioje dokumentacijoje turėtų būti išsami informacija apie tai, kaip sistema priima sprendimus ir kokią informaciją ji naudoja atsakymams generuoti.
Įdiegti aiškius atskleidimo mechanizmus, kurie informuotų naudotojus, kad jie sąveikauja su dirbtinio intelekto sistema. Šis ženklinimo reikalavimas taikomas nuo pirmosios sąveikos ir negali būti paslėptas sąlygose.
Nustatykite žmogaus priežiūros procedūras sudėtingoms ar jautrioms užklausoms. Jūsų pokalbių robotas turėtų turėti eskalavimo kelius, kurie prireikus perkeltų vartotojus pas žmones.
Reguliariai atlikite savo pokalbių roboto veikimo auditą. Peržiūrėkite pokalbių žurnalus, stebėkite, ar nėra šališkų rezultatų, ir patikrinkite, ar produkto informacija išlieka tiksli.
Kaip siūlomi ES dirbtinio intelekto teisės aktai paveiks pokalbių robotų diegimą Nyderlandų įmonėse?
ES Dirbtinio intelekto įstatymas įsigaliojo 2024 m. rugpjūčio 1 d., o skirtingi atitikties terminai taikomi atsižvelgiant į jūsų pokalbių roboto rizikos klasifikaciją. Ribotos rizikos pokalbių robotai privalo laikytis skaidrumo įsipareigojimų, o didelės rizikos sistemoms taikomi griežtesni reikalavimai.
Nyderlandų įmonės, diegiančios pokalbių robotus, turi įvertinti, ar jų sistemos apdoroja jautrius duomenis arba priima sprendimus, turinčius įtakos vartotojų teisėms. Pokalbių robotas, rekomenduojantis produktus, paprastai laikomas ribotos rizikos robotu, tačiau medicinines konsultacijas ar finansinius vertinimus teikiantis robotas gali būti laikomas didelės rizikos robotu.
Turite atsižvelgti tiek į ES Dirbtinio intelekto įstatymą, tiek į galiojančius Nyderlandų vartotojų teisių apsaugos įstatymus. Jei jūsų pokalbių robotas pateikia neteisingą informaciją apie produktą, jūs išliekate atsakingi pagal vartotojų teisių apsaugos reglamentus, neatsižvelgiant į tai, ar laikomasi Dirbtinio intelekto įstatymo.
Šis teisės aktas taikomas visoms įmonėms, teikiančioms paslaugas ES, net jei jūsų įmonė yra įsikūrusi ne Nyderlanduose. Tai reiškia, kad jūsų pokalbių robotas turi atitikti reikalavimus, jei aptarnauja Nyderlandų ar kitų ES šalių klientus.
Kokios atitikties priemonės turi būti įgyvendintos, kad pokalbių robotai atitiktų ES dirbtinio intelekto reguliavimo sistemą?
Įdiekite paieškos papildytos generavimo (RAG) arba panašius įžeminimo metodus, kad jūsų pokalbių robotas negeneruotų klaidingos informacijos. Ši technologija apriboja dirbtinį intelektą, leisdamas jam naudoti tik patikrintus duomenis iš jūsų produktų duomenų bazės arba žinių bazės.
Steigti duomenų apsaugos priemones kurie atitinka ir BDAR, ir ES Dirbtinio intelekto įstatymą. Jūsų pokalbių robotas turi saugiai tvarkyti asmens duomenis ir rinkti tik informaciją, būtiną nurodytam tikslui pasiekti.
Kurkite skaidrumo pranešimus, kuriuose būtų aiškiai nurodyta, kad jūsų sistema veikia dirbtinio intelekto pagrindu. Atitinkamų pasisveikinimų pavyzdžiai: „Aš esu jūsų virtualus produkto asistentas (DI)“ arba „DI robotas: kuo galiu jums šiandien padėti?“
Venkite naudoti žmonių vardus, nuotraukas ar kalbą, kuri leistų manyti, kad vartotojai kalba su asmeniu. Pasisveikinimas, pvz., „Sveiki, aš esu Hansas iš palaikymo tarnybos!“, su žmogaus nuotrauka pažeidžia skaidrumo reikalavimus.
Sukurkite stebėjimo sistemas, skirtas sekti pokalbių roboto rezultatus, ieškant diskriminacinio turinio ar šališkumo. Reguliarios peržiūros padės nustatyti ir ištaisyti probleminius atsakymus, kol jie nepaveikė klientų.
Kokių dokumentų reikia, kad įrodyčiau, jog mano pokalbių robotas laikosi ES Dirbtinio intelekto įstatymo reikalavimų?
Tvarkykite techninę dokumentaciją, kurioje aprašoma jūsų pokalbių roboto architektūra, mokymo duomenys ir sprendimų priėmimo procesai. Ši dokumentacija turi būti pakankamai išsami, kad valdžios institucijos suprastų, kaip veikia jūsų sistema.
Saugokite savo rizikos vertinimo įrašus, įskaitant pokalbių roboto klasifikavimo metodiką ir įvertintus kriterijus. Dokumentuokite visus pokalbių roboto funkcionalumo ar paskirties pokyčius laikui bėgant.
Sukurkite vartotojams skirtą dokumentaciją, kurioje suprantama kalba paaiškintumėte, kaip veikia jūsų pokalbių robotas. Joje turėtų būti informacija apie duomenų apdorojimą, užklausų tipus, kuriuos jis gali apdoroti, ir kaip vartotojai gali perduoti užklausas žmogiškiesiems palaikymo specialistams.
Dokumentuokite savo duomenų valdymo procedūras, įskaitant tai, kur duomenys saugomi, kiek laiko jie saugomi ir kas turi prieigą prie jų. Ši informacija atitinka tiek ES Dirbtinio intelekto įstatymo, tiek BDAR atitikties reikalavimus.
Tvarkykite atitikties auditų ir visų atliktų taisomųjų veiksmų žurnalus. Šie įrašai rodo jūsų nuolatinį įsipareigojimą laikytis atitikties standartų.
Ar pagal naujuosius ES reglamentus yra konkrečių skaidrumo įpareigojimų dirbtinio intelekto sistemoms, tokioms kaip pokalbių robotai?
ES Dirbtinio intelekto įstatymas reikalauja informuoti naudotojus, kad jie sąveikauja su dirbtinio intelekto sistema, o ne su žmogumi. Šis atskleidimas turi įvykti sąveikos pradžioje ir būti aiškiai matomas.
Negalite naudoti dizaino šablonų, kurie klaidina vartotojus apie jūsų pokalbių roboto prigimtį. Tamsūs šablonai, kurie apgauna vartotojus, priversdami juos manyti, kad jie kalbasi su žmogumi, pažeidžia skaidrumo reikalavimus.
Jūsų pokalbių robotas turi nuosekliai save identifikuoti viso pokalbio metu. Vieno paminėjimo pradžioje nepakanka, jei sistemos atsakymai vėliau gali suklaidinti vartotojus dėl jo dirbtinio intelekto pobūdžio.
Ribotos rizikos pokalbių robotai privalo atitikti bent šiuos skaidrumo reikalavimus. Didelės rizikos sistemoms taikomi papildomi įpareigojimai, įskaitant informacijos apie sistemos galimybes ir apribojimus teikimą.
Skaidrumas apima ir paaiškinimą, kaip jūsų pokalbių robotas naudoja klientų duomenis. Vartotojai turėtų suprasti, kokia informacija renkama, kaip ji veikia atsakymus ir ar pokalbiai saugomi, ar analizuojami.
Kaip galiu įvertinti ir sušvelninti su pokalbių robotų naudojimu susijusią riziką ES Dirbtinio intelekto įstatymo kontekste?
Pradėkite nuo struktūrizuoto rizikos vertinimo, kuriame nagrinėjamas jūsų pokalbių roboto tikslas ir tikslinė auditorija. Apsvarstykite, ar jūsų sistema aptarnauja pažeidžiamas grupes, pvz., vaikus ar vyresnio amžiaus vartotojus, nes tai padidina rizikos klasifikaciją.
Įvertinkite savo pokalbių roboto autonomiją ir mokymosi galimybes. Sistemos, kurios priima savarankiškus sprendimus arba nuolat mokosi iš sąveikos, kelia didesnę riziką nei taisyklėmis pagrįsti pokalbių robotai su ribotomis funkcijomis.
Įvertinkite galimas pasekmes, jei jūsų pokalbių robotas pateiks neteisingą informaciją. Pokalbių robotas, nurodantis neteisingus produkto matmenis, sukuria kitokią atsakomybę nei robotas, teikiantis neteisingą medicininę ar finansinę konsultaciją.
Įdiekite technines apsaugos priemones, tokias kaip RAG, kad jūsų pokalbių roboto atsakymai būtų pagrįsti patikrintais duomenimis. Tai neleis sistemai generuoti melagingų teiginių apie produktus ar paslaugas.
Sukurkite stebėjimo procesus, kurie stebi jūsų pokalbių roboto našumą ir nustato probleminius rezultatus. Reguliarios peržiūros leidžia spręsti problemas, kol jos nepablogėjo.
Sukurkite aiškias eskalavimo procedūras situacijoms, kurių jūsų pokalbių robotas negali tinkamai išspręsti. Žmonių priežiūra išlieka būtina, ypač jautrių ar sudėtingų klientų užklausų atveju.
