Taip, algoritmas gali įvertinti jūsų darbo rezultatus. Tiesą sakant, tai jau vyksta darbovietėse visoje šalyje. Šis perėjimas nuo tradicinės žmonių priežiūros prie dirbtinio intelekto valdomo valdymo atneša neįtikėtiną efektyvumą, tačiau kartu kelia ir didelių teisinių bei etinių klausimų. Darbuotojams ši nauja realybė reikalauja naujo savo teisių supratimo.
Algoritminio valdymo realybė
„DI kaip jūsų vadovo“ idėja nebėra kažkokia tolima koncepcija; tai kasdienė realybė vis daugiau žmonių. Įmonės vis dažniau naudoja automatizuotas sistemas savo darbuotojams stebėti, vertinti ir net vadovauti, o visa tai skatina nešališkų, duomenimis pagrįstų įžvalgų, kurios gali padidinti produktyvumą, pažadas.
Įsivaizduokite dirbtinio intelekto vadybininką kaip nenuilstantį sporto žvalgą. Jis gali sekti kiekvieną išmatuojamą detalę: per valandą atliktas užduotis, klientų pasitenkinimo balus, klaviatūros aktyvumą ir tai, kaip tiksliai laikomasi scenarijų. Šis skaitmeninis žvalgas niekada nemiega ir gali apdoroti didžiulius duomenų kiekius per kelias sekundes, pastebėdamas modelius, kuriuos žmogui vadybininkui pastebėti prireiktų mėnesių. Tačiau kyla esminis klausimas: ar šis žvalgas iš tikrųjų gali matyti visą žaidimą?
Pagrindinis konfliktas: duomenys ir kontekstas
Pagrindinė algoritminio valdymo problema yra ta, kad šios sistemos negali lengvai išmatuojama. Dirbtinis intelektas gali užregistruoti darbuotojo našumo sumažėjimą, bet nesupras konteksto. Galbūt tas darbuotojas padėjo naujam kolegai įsibėgėti, bendravo su ypač sudėtingu klientu arba rado kūrybišką sprendimą sudėtingai problemai. Tai yra nematerialūs indėliai, kurie iš tikrųjų apibrėžia vertingą komandos narį.
Tai sukuria centrinį konfliktą tarp dviejų priešingų jėgų:
Verslo efektyvumo siekis: Siekis naudoti duomenis siekiant optimizuoti kiekvieną našumo aspektą, vadovaujantis išmatuojamais pagrindiniais našumo rodikliais (KPI).
Žmogaus poreikis teisingumui: Teisė būti vertinamam atsižvelgiant į kontekstą, empatiją ir supratimą apie kokybinį darbą, kurio algoritmai dažnai nepastebi.
Tikrasis klausimas yra ne tas, ar algoritmas galima įvertinti veiklos rezultatus – ar jų vertinimas yra išsamus, sąžiningas ir teisiškai pagrįstas be reikšmingos žmogaus priežiūros.
Plačiai paplitęs įvaikinimas Nyderlanduose
Tai nėra tolima tendencija. Nyderlandų darbo jėga jau yra šios transformacijos įkarštyje. Tyrimai rodo, kad 61 % Nyderlandų darbuotojų jau jaučia dirbtinio intelekto poveikį savo darbui. Tai nestebina, atsižvelgiant į tai, kad 95 % Nyderlandų organizacijų dabar vykdo dirbtinio intelekto programas – tai didžiausias rodiklis Europoje.
Dirbtinio intelekto naudojimas darbuotojų vertinimui yra ypač dažnas didesnėse įmonėse. Iš tiesų, 48 % įmonių, kuriose dirba 500 ar daugiau darbuotojų naudoti dirbtinio intelekto technologijas tokioms funkcijoms kaip našumo vertinimas. Galite sužinoti daugiau apie tai, kaip Nyderlandų įmonės pirmauja Europos automatizavimo revoliucijoje.
Kaip dirbtinio intelekto sistemos iš tikrųjų įvertina jūsų našumą
Žinia, kad algoritmas gali vertinti jūsų našumą, gali atrodyti abstrakti ir netgi šiek tiek nerami. Taigi, panagrinėkime, kaip šie „algoritminiai valdytojai“ iš tikrųjų veikia. Kalbama ne apie vieną paslaptingą vertinimą, o apie nuolatinį duomenų rinkimo ir analizės ciklą.
Kad iš tikrųjų suprastumėte, pirmiausia turite suprasti Pagrindinės stebėjimo ir matavimo sąvokosDirbtinio intelekto vadovas yra sukurtas taip, kad puikiai veiktų abiejose srityse – nenuilstamai stebėtų veiklą, kad galėtų ją palyginti su iš anksto nustatytais tikslais.
Paimkime kaip pavyzdį klientų aptarnavimo komandą. Dirbtinis intelektas nėra koks nors tolimas stebėtojas; jis yra įaustas į pačius skaitmeninius įrankius, kuriuos komanda naudoja kiekvieną dieną. Kiekvienas paspaudimas, kiekvienas skambutis, kiekvienas išsiųstas el. laiškas sukuria duomenų tašką, kuris maitina sistemą.
Duomenų rinkimo variklis
Pirmas žingsnis – tiesiog surinkti informaciją, dažnai iš daugybės skirtingų vietų. Mūsų klientų aptarnavimo agentui sistema gali rinkti:
Kiekybiniai rodikliai: Tai yra tikslūs skaičiai. Pagalvokite apie tokius dalykus kaip bendras atliktų skambučių skaičius, vidutinė skambučio trukmė ir kiek laiko užtrunka problemai išspręsti.
Kokybiniai duomenys: Dirbtinis intelektas taip pat neria į turinys pokalbių. Naudodama natūralios kalbos apdorojimą (NLP), ji gali nuskaityti el. laiškus ir skambučių transkripcijas pagal konkrečius raktinius žodžius ar frazes.
Nuotaikų balai: Analizuodama kliento vartojamą toną ir kalbą, sistema gali priskirti kiekvienai sąveikai balą – teigiamą, neutralų arba neigiamą.
Šis nuolatinis duomenų srautas kuria jūsų skaitmeninį našumo profilį, sukurdamas daug išsamesnį jūsų kasdienio darbo vaizdą, nei bet kuris žmogus-vadovas kada nors galėtų tikėtis stebėti rankiniu būdu.
Nuo paprastų taisyklių iki mokymosi mašinų
Surinkus visus šiuos duomenis, sistemai reikia būdo juos suprasti. Ne visi dirbtinio intelekto valdytojai yra vienodi; jų vertinimo metodai paprastai skirstomi į dvi pagrindines stovyklas.
1. Taisyklėmis pagrįstos sistemos
Tai yra pati pagrindinė algoritminių vadovų forma. Jie veikia pagal paprastą darbdavio nustatytą „jei tai, tai anas“ logiką. Pavyzdžiui, taisyklėje gali būti nurodyta: „Jei darbuotojo vidutinis skambučio laikas viršija penkias minutes...“ tris kartus per savaitę pažymėkite jų veiklą kaip „reikia tobulinti“. Tai paprasta, bet gali būti gana griežta ir stokojanti niuansų.
2. Mašininio mokymosi modeliai
Čia viskas tampa daug sudėtingiau. Užuot tiesiog laikydamiesi griežtų taisyklių, naudojami mašininio mokymosi (ML) modeliai. treniruotas remiantis didžiuliais istorinių veiklos duomenų rinkiniais. Sistema išmoksta, kurie modeliai ir elgesys koreliuoja su „gerais“ ir „blogais“ rezultatais, analizuodama ankstesnius sėkmingų ir nesėkmingų darbuotojų pavyzdžius.
Dirbtinis intelektas gali pastebėti, kad geriausi darbuotojai nuolat vartoja tam tikras raminančias frazes arba greičiau išsprendžia konkrečias problemas. Tada jis naudoja šiuos išmoktus modelius esamiems darbuotojams įvertinti, iš esmės klausdamas: „Kiek šio asmens elgesys atitinka mūsų idealaus darbuotojo modelį?“
Šis gebėjimas rasti paslėptus ryšius yra galingas, tačiau būtent čia iškyla ir reikšminga problema.
Juodosios dėžės dilema
Taikant pažangesnius mašininio mokymosi modelius, dirbtinio intelekto sprendimų priėmimo procesas gali tapti neįtikėtinai sudėtingas. Tai sukuria vadinamąją „juodosios dėžės“ problemą. Algoritmas apdoroja tūkstančius duomenų taškų ir jų tarpusavio ryšius taip, kad tai nėra lengva suprasti, kartais net jo paties kūrėjams.
Darbuotojas gali gauti žemą našumo balą, tačiau išsiaiškinti tikslią priežastį gali būti beveik neįmanoma. Sistemos logika yra giliai paslėpta sudėtingame neuroniniame tinkle, todėl nepaprastai sunku veiksmingai kvestionuoti sprendimą ar jį apskųsti. Šis skaidrumo trūkumas yra pagrindinė problema, kai... Dirbtinis intelektas yra jūsų vadovas ir yra įpareigotas įvertinkite savo našumą.
Dirbtinio intelekto valdymo teisinės ir etinės rizikos supratimas
Nors dirbtinio intelekto valdomo efektyvumo pažadas vilioja, algoritmo diegimas komandai įvertinti nesuprantant teisinės aplinkos yra tas pats, kas naršyti minų lauke užrištomis akimis. Nyderlanduose ir visoje ES tvirta reglamentų sistema apsaugo darbuotojus nuo tų pačių pavojų, kuriuos gali sukelti prastai įdiegtos dirbtinio intelekto sistemos.
Darbdaviams rizika yra neįtikėtinai didelė. Didžiausia rizika yra ne tik techniniai trikdžiai, bet ir esminiai teisiniai pažeidimai. Dėl jų gali būti skiriamos didžiulės baudos, pakenkta reputacijai ir visiškai sugriautas darbuotojų pasitikėjimas. Pavojai skirstomi į kelias pagrindines, tarpusavyje susijusias sritis.
Paslėpto šališkumo ir diskriminacijos pavojus
Algoritmas yra toks geras, kokie yra duomenys, iš kurių jis mokosi. Jei jūsų istoriniai darbo vietos duomenys atspindi praeities visuomenės šališkumą – o dauguma jų taip ir daro – dirbtinis intelektas gali lengvai išmokti diskriminuoti tam tikras grupes. Jis gali neteisybę įtraukti tiesiai į savo pagrindinę logiką.
Įsivaizduokite dirbtinio intelekto sistemą, apmokytą remiantis daugelio metų našumo ir paaukštinimo duomenimis. Jei istoriškai vyrai darbuotojai būtų dažniau paaukštinami, dirbtinis intelektas galėtų išmokti susieti vyrų bendravimo stilius ar darbo modelius su dideliu potencialu. Koks būtų rezultatas? Ji galėtų nuolat vertinti moteris darbuotojas žemesniu balu, net jei jų faktinis našumas yra toks pat geras.
Tai ne tik neetiška; tai tiesioginis Nyderlandų ir ES antidiskriminacinių įstatymų pažeidimas. Algoritmui nebūtina turėti piktavališkų ketinimų, kad jis būtų diskriminuojantis – svarbiausia yra rezultatas. įstatymas.
- Pavyzdys praktikoje: Dirbtinis intelektas pažymi darbuotojo produktyvumo mažėjimą per šešių mėnesių laikotarpį. Jis neatpažįsta, kad šis laikotarpis sutapo su teisiškai saugomomis tėvystės atostogomis. Sistema neteisingai interpretuoja mažesnį našumą kaip prastą darbo našumą, neteisingai bausdama darbuotoją už tai, kad jis naudojasi savo teisinėmis teisėmis.
Skaidrumo problema ir „juodoji dėžė“
Daugelis pažangių dirbtinio intelekto modelių veikia kaip „juodosios dėžės“. Tai tampa didžiule problema, kai darbuotojas gauna neigiamą įvertinimą ir gana pagrįstai klausia, kodėl. Jei jūsų vienintelis atsakymas yra „nes taip pasakė algoritmas“, jūs neišlaikote esminio sąžiningumo ir teisinio skaidrumo testo.
Šis aiškumo trūkumas sukuria nepasitikėjimo ir bejėgiškumo atmosferą. Darbuotojai negali mokytis iš atsiliepimų, jei atsiliepimai tėra įvertinimas be argumentų, ir jie tikrai negali ginčyti sprendimo, kurio nesupranta.
Pagal ES teisę asmenys turi teisę į aiškų ir prasmingą automatizuotų sprendimų, kurie jiems daro didelį poveikį, paaiškinimą. Sistema, kuri negali to užtikrinti, tiesiog neatitinka teisės aktų.
BDAR pažeidimai ir automatizuotas sprendimų priėmimas
Bendrasis duomenų apsaugos reglamentas (BDAR) yra ES duomenų apsaugos pagrindas ir jame numatytos labai konkrečios automatizuotoms sistemoms taikomos taisyklės. Svarbiausia yra Straipsnis 22, kuris griežtai riboja sprendimus, pagrįstus Išimtinai dėl automatizuoto tvarkymo, kuris turi teisinį arba panašų reikšmingą poveikį asmeniui.
Ką tai reiškia veiklos valdymui?
Reikšmingas poveikis: Sprendimas, dėl kurio gali būti atsisakyta skirti premiją, pažemintas pareigas ar atleistas iš darbo, neabejotinai laikomas turinčiu „reikšmingą poveikį“.
Tik automatizuota: Jei dirbtinis intelektas sugeneruoja našumo balą, o vadovas tiesiog paspaudžia „patvirtinti“ be jokios realios peržiūros – ši praktika vadinama „antspaudavimu“ – tai vis tiek gali būti laikoma visiškai automatizuotu sprendimu.
Teisė į žmogaus įsikišimą: 22 straipsnis suteikia darbuotojams teisę reikalauti žmogaus įsikišimo, pareikšti savo nuomonę ir ginčyti sprendimą.
Darbdavys, naudojantis dirbtinį intelektą veiklos vertinimams, privalo turėti tvirtą prasmingos žmogaus priežiūros procesą. Vadovui reikia įgaliojimų, patirties ir laiko, kad galėtų nepaisyti dirbtinio intelekto rekomendacijos, remdamasis visapusišku darbuotojo darbo vaizdu. To ignoravimas yra ne tik bloga praktika, bet ir tiesioginis BDAR pažeidimas, už kurį gali būti skiriamos baudos iki ... 4 % jūsų įmonės metinės pasaulinės apyvartos.
Žemiau esančioje lentelėje pateikiami pagrindiniai teisiniai iššūkiai darbdaviams.
Pagrindinės algoritminio valdymo teisinės rizikos pagal ES teisę
| Teisinės rizikos sritis | Rizikos aprašymas | Atitinkamas ES / Nyderlandų reglamentas | Galima pasekmė |
|---|---|---|---|
| Diskriminacija | Dirbtinio intelekto sistemos, apmokytos naudoti šališkus istorinius duomenis, gali įtvirtinti arba sustiprinti diskriminaciją prieš saugomas grupes (pvz., dėl lyties, amžiaus, etninės kilmės). | Bendrasis lygių galimybių įstatymas (AWGB), ES direktyvos dėl lygių galimybių. | Teisiniai ginčai, baudos, reputacijos žala ir sprendimų pripažinimas negaliojančiais. |
| Skaidrumas (juodoji dėžė) | Nesugebėjimas paaiškinti kaip dirbtinis intelektas priėjo prie konkrečios išvados, neleisdamas darbuotojams suprasti jiems įtakos turinčių sprendimų pagrindo. | BDAR (60, 71 konstatuojamosios dalys), būsimas ES dirbtinio intelekto įstatymas. | Darbuotojų ginčai, pasitikėjimo praradimas, BDAR sąžiningumo ir skaidrumo principų nesilaikymas. |
| Automatizuotas sprendimų priėmimas | Svarbių sprendimų (pvz., atleidimo, pareigų pažeminimo) priėmimas remiantis vien tik automatizuotu apdorojimu be prasmingos žmogaus priežiūros. | BDAR 22 straipsnis. | Baudos iki 4 % pasaulinės metinės apyvartos, sprendimai yra teisiškai neįvykdomi. |
| Duomenų apsauga ir privatumas | Pernelyg didelis arba neteisėtas darbuotojų duomenų rinkimas ir tvarkymas dirbtinio intelekto veiklos modeliui, pažeidžiant privatumo principus. | BDAR 5, 6 ir 9 straipsniai. | Reikšmingos BDAR baudos, duomenų subjektų prašymai susipažinti su duomenimis ir galimi darbuotojų teisiniai veiksmai. |
Kadangi šie reglamentai keičiasi, labai svarbu būti informuotam. Norėdami suprasti, kaip šios taisyklės taps dar konkretesnės, galite Sužinokite daugiau apie teisinę dirbtinio intelekto pusę ir būsimą ES dirbtinio intelekto įstatymąReguliavimo institucijų žinia aiški: efektyvumas niekada negali būti pasiektas pagrindinių žmogaus teisių sąskaita. Iniciatyvus teisės aktų laikymasis nėra tik varnelių žymėjimas; tai absoliuti verslo būtinybė.
Pamokos iš Nyderlandų ir ES teismų bylų
Teorinė teisinė rizika yra viena, bet kaip teismai iš tikrųjų sprendžia, kai algoritmas įvertina jūsų našumą? Pasirodo, teisinė teorija dabar yra išbandoma realiuose ginčuose. Nyderlandų ir ES teismų praktika siunčia aiškią žinią: teisė į žmogaus priežiūrą ir aiškų paaiškinimą yra ne tik malonumas, bet ir privaloma.
Šios novatoriškos bylos rodo, kad teisėjai vis labiau nori įsikišti ir ginti darbuotojų teises nuo neskaidrių ar nesąžiningų automatizuotų sistemų. Darbdaviams šie sprendimai yra ne tik įspėjimai; tai praktiniai veiksmų planai, rodantys, ko tiksliai nedaryti.
„Uber“ byla: žmogiškosios peržiūros palaikymas
Vienas iš svarbiausių nutarčių buvo priimtas Teismo Amsterdam byloje, susijusioje su „Uber“ vairuotojais. Vairuotojai užprotestavo bendrovės automatinę sistemą, kuri deaktyvavo jų paskyras – faktiškai jas panaikino – remdamasi sukčiavimo aptikimo algoritmu.
Teismas palaikė vairuotojus, sustiprindamas jų teises. Straipsnis 22 BDAR. Jis nusprendė, kad tokio gyvenimą keičiančio sprendimo kaip atleidimas negalima palikti vien algoritmui. Šios svarbios bylos išvados buvo visiškai aiškios:
Teisė į žmogaus įsikišimą: Vairuotojai turi teisę, kad jų deaktyvavimą peržiūrėtų realus asmuo, galintis tinkamai įvertinti situacijos kontekstą.
Teisė į paaiškinimą: „Uber“ buvo įpareigota pateikti prasmingą informaciją apie automatizuotų sprendimų logiką. Neaiški nuoroda į „nesąžiningą veiklą“ tiesiog nebuvo pakankama.
Ši byla sukūrė svarbų precedentą. Ji patvirtino, kad kai Dirbtinis intelektas veikia kaip jūsų vadovas, jos sprendimai turi būti skaidrūs ir jiems turi būti suteiktas tikras žmogiškasis vertinimas, ypač kai nuo to priklauso žmogaus pragyvenimas.
„Teismo sprendimas pabrėžia esminį principą: efektyvumas ir automatizavimas negali viršyti asmens teisės į tinkamą procesą. Darbuotojas turi gebėti suprasti ir užginčyti sprendimą, kuris daro didelę įtaką jo darbui.“
SyRI byla: pasipriešinimas neskaidriems vyriausybės algoritmams
Nors tai nėra tiesioginė su darbu susijusi byla, sprendimas dėl sistemos rizikos indikacijos (SyRI) algoritmo Nyderlanduose turėjo didžiulę įtaką visam automatizuotam sprendimų priėmimui. SyRI buvo vyriausybinė sistema, naudojama socialinės paramos sukčiavimui aptikti, susiejant ir analizuojant asmens duomenis iš įvairių vyriausybinių agentūrų.
Nyderlandų teismas paskelbė SyRI neteisėtu ne tik dėl privatumo problemų, bet ir dėl to, kad jos veikimas iš esmės buvo neskaidrus. Niekas negalėjo tiksliai paaiškinti, kaip šis „juodosios dėžės“ algoritmas asmenis identifikavo kaip didelės rizikos asmenis. Buvo nustatyta, kad šis visiškas skaidrumo trūkumas pažeidžia Europos žmogaus teisių konvenciją, nes piliečiai negalėjo apsiginti nuo sistemos išvadų.
Šis sprendimas signalizavo apie didėjantį teisminį netoleranciją sistemoms, kuriose sprendimų priėmimo procesas yra paslaptingas. Šie principai tiesiogiai taikomi ir darbovietėje. Jei darbdavys negali paaiškinti... kodėl jų našumo algoritmas darbuotojui skyrė žemą balą, todėl jų teisinis pagrindas labai nestabilus. Šie klausimai yra sudėtingi ir apima daugelį sričių, įskaitant klausimus apie tai, kas yra atsakingas, kai mašinos sprendimas sukelia žalą. Šiuos klausimus galite išsamiau išnagrinėti perskaitę mūsų vadovą apie... Dirbtinis intelektas ir baudžiamoji teisė.
Teismų žinutė yra nuosekli: teismai apsaugos asmenis nuo nekontroliuojamos algoritmų galios. Nesvarbu, ar tai būtų laikinai neaktyvuojamas laikinas darbuotojas, ar pilietis, įspėjamas apie sukčiavimą, skaidrumo, sąžiningumo ir prasmingos žmonių priežiūros reikalavimas yra teisinis reikalavimas, kurio darbdaviai negali ignoruoti.
Jūsų praktinis vadovas atsakingam dirbtinio intelekto diegimui
Žinoti teisinę teoriją yra viena, bet pritaikyti ją praktikoje yra svarbiausia, kai algoritmas vertina jūsų komandą. Darbdaviams tai reiškia pereiti nuo abstrakčių rizikų prie konkrečių veiksmų, sukurti aiškią sistemą, kuri subalansuotų technologines ambicijas su teisinėmis pareigomis ir darbuotojų pasitikėjimu.
Kalbama ne apie inovacijų stabdymą, o apie atsakingą jų valdymą. Apgalvotas įgyvendinimo planas ne tik padeda išvengti teisinių problemų. Jis padeda puoselėti kultūrą, kurioje darbuotojai dirbtinį intelektą laiko naudingu įrankiu, o ne naujo tipo skaitmeniniu užduočių vykdytoju. Galutinis tikslas – skaidri, atskaitinga ir, svarbiausia, teisinga sistema.
Geroji pusė yra ta, kad visuomenės požiūris į šias technologijas gerėja. Nyderlandų piliečių pasitikėjimas dirbtinio intelekto sistemomis auga. 90% dabar susipažinęs su dirbtiniu intelektu ir maždaug 50% aktyviai jį naudojant. Suvokimas taip pat pasikeitė: 43% olandų dabar DI mato tik kaip teikiančią galimybes – pastebimas šuolis nuo 36% praėjusiais metais. Šią tendenciją galite išsamiau išnagrinėti Nyderlandai pritaiko dirbtinio intelekto ataskaitąDėl šio augančio pripažinimo sąžiningas ir atviras diegimas yra svarbesnis nei bet kada anksčiau.
Pradėkite nuo duomenų apsaugos poveikio vertinimo
Prieš pradedant galvoti apie naujos dirbtinio intelekto sistemos diegimą, pirmiausia reikia atlikti duomenų apsaugos poveikio vertinimą (DPAV). Tai ne šiaip draugiškas pasiūlymas – pagal BDAR tai yra teisinis reikalavimas bet kokiam duomenų tvarkymui, kuris galėtų kelti didelę riziką žmonių teisėms ir laisvėms. Dirbtiniu intelektu pagrįstas veiklos valdymas neabejotinai patenka į šią kategoriją.
Įsivaizduokite DPAV kaip oficialų asmens duomenų rizikos vertinimą. Jis verčia jus sistemingai suplanuoti, kaip veiks jūsų dirbtinio intelekto sistema ir kas gali nepavykti.
Procesas apima kelis pagrindinius etapus:
Apdorojimo aprašymas: Turite aiškiai apibrėžti, kokius duomenis DI rinks, iš kur jie gaunami ir ką tiksliai planuojate su jais daryti.
Būtinumo ir proporcingumo vertinimas: Turite pagrįsti, kodėl kiekvienas duomenų elementas yra reikalingas, ir įrodyti, kad stebėsenos lygis nėra per didelis jūsų nurodytiems tikslams pasiekti.
Rizikos nustatymas ir vertinimas: Nustatykite visus galimus pavojus savo darbuotojams – nuo diskriminacijos ir šališkumo iki skaidrumo stokos ar klaidų, dėl kurių kyla nesąžiningos pasekmės.
Planavimo švelninimo priemonės: Kiekvienai nustatytai rizikai turite numatyti konkrečius veiksmus jai spręsti, pavyzdžiui, įtraukti žmonių priežiūrą arba, kai įmanoma, naudoti duomenų anonimizavimo metodus.
Ugdykite radikalų skaidrumą su savo komanda
Niekas taip greitai nesunaikina pasitikėjimo, kaip neskaidrumas, ypač kai kalbama apie dirbtinį intelektą. Jūsų darbuotojai turi teisę žinoti, kaip jie yra vertinami, o jūsų teisinė ir etinė pareiga yra pateikti aiškius atsakymus. Miglotos korporacijų kalbos apie „duomenimis pagrįstas įžvalgas“ tiesiog nepakanka.
Jūsų skaidrumo politika turi būti aiški, išsami ir lengvai randama visiems. Joje turėtų būti aiškiai apibrėžta:
Kokie duomenys renkami: Būkite atviri dėl kiekvieno sistemos stebimo duomenų taško, nesvarbu, ar tai būtų el. laiškų atsakymo laikas, parašytos kodo eilutės, ar klientų skambučių nuotaikų analizė.
Kaip veikia algoritmas: Turite pateikti prasmingą sistemos logikos paaiškinimą. Paaiškinkite pagrindinius kriterijus, kuriuos ji naudoja našumui vertinti, ir kaip tie veiksniai yra vertinami.
Žmogaus priežiūros vaidmuo: Aiškiai nurodykite, kas turi teisę peržiūrėti ir pakeisti dirbtinio intelekto išvestis ir kokiomis konkrečiomis aplinkybėmis jie gali įsikišti.
Skaidrus procesas neleidžia sistemai atrodyti kaip neginčijama „juodoji dėžė“. Jis suteikia darbuotojams reikiamą informaciją, kad suprastų jiems taikomus standartus, o tai yra labai svarbu sąžiningumo ir kontrolės jausmui.
Sukurkite patikimą žmogaus priežiūros procesą
Svarbiausia BDAR taisyklė yra ta, kad sprendimas, turintis reikšmingų teisinių ar asmeninių pasekmių, negali būti grindžiamas Išimtinai dėl automatizuoto apdorojimo. Dėl to „reikšmingas žmogaus įsikišimas“ yra neginčijamas teisinis reikalavimas. Ir, kad būtų aišku, vadovo vien tik spustelėjimas „patvirtinti“ dirbtinio intelekto rekomendaciją neskaičiuojamas.
Tikrai patikimam priežiūros procesui reikia kelių pagrindinių komponentų:
Institucija: Asmuo, peržiūrintis dirbtinio intelekto rezultatus, turi turėti realią galią ir autonomiją nesutikti su jo išvada ir ją panaikinti.
Kompetencija: Jiems reikia tinkamų mokymų ir verslo konteksto, kad suprastų tiek įmonės tikslus, tiek individualų darbuotojo individualią situaciją, įskaitant veiksnius, kurių algoritmas galėjo nepastebėti.
Laikas: Peržiūra negali būti skubota, atliekama tik pažymint varneles. Peržiūros atlikėjas turi turėti pakankamai laiko tinkamai apsvarstyti visus įrodymus, prieš priimdamas galutinį, nepriklausomą sprendimą.
Ši „žmogus-ciklo“ sistema yra svarbiausia jūsų apsauga nuo algoritminių klaidų ir paslėptų šališkumų. Ji užtikrina, kad kontekstas, niuansai ir empatija – savybės, kurių dirbtinis intelektas tiesiog neturi – išliktų jūsų žmonių valdymo pagrindas.
Kad visi šie žingsniai būtų sujungti, pateikiame praktinį kontrolinį sąrašą, kurį darbdaviai gali naudoti įgyvendinimo procesui vadovaudamiesi.
Darbdavio atitikties kontrolinis sąrašas dirbtinio intelekto našumo sistemoms
Šis kontrolinis sąrašas suteikia struktūrizuotą metodą darbdaviams, kaip užtikrinti, kad jų dirbtinio intelekto vertinimo įrankiai būtų įdiegti laikantis pagrindinių Nyderlandų ir ES teisinių reikalavimų, įskaitant BDAR ir sąžiningumo bei skaidrumo principus.
| Atitikties žingsnis | Reikalingas pagrindinis veiksmas | Kodėl Tai Svarbu |
|---|---|---|
| 1. Atlikite poveikio duomenų apsaugai vertinimą (DPAV) | Prieš diegdami sistemą, atlikite duomenų apsaugos poveikio vertinimą. Nustatykite ir dokumentuokite visas galimas darbuotojų teisių rizikas. | Pagal BDAR teisiškai privaloma tvarkyti didelės rizikos duomenis. Padeda aktyviai nustatyti ir sušvelninti teisines ir etines spąstus, tokius kaip diskriminacija. |
| 2. Sukurti teisinį pagrindą | Aiškiai apibrėžkite ir dokumentuokite darbuotojų duomenų tvarkymo teisinį pagrindą pagal BDAR 6 straipsnį (pvz., teisėtas interesas, sutartis). | Užtikrina teisėtą duomenų tvarkymą nuo pat pradžių. Norint naudoti „teisėtą interesą“, reikia suderinti darbdavio poreikius su darbuotojų privatumo teisėmis. |
| 3. Užtikrinti visišką skaidrumą | Sukurkite aiškią ir prieinamą politiką, kurioje paaiškintumėte, kokie duomenys renkami, kaip veikia algoritmas ir kokie vertinimo kriterijai naudojami. Informuokite visus susijusius darbuotojus. | Atitinka BDAR skaidrumo reikalavimą (13 ir 14 straipsniai). Sukuria darbuotojų pasitikėjimą ir sumažina riziką, kad sistema bus suvokiama kaip nesąžininga „juodoji dėžė“. |
| 4. Įgyvendinkite žmogaus priežiūrą | Sukurkite prasmingos žmogaus atliekamos svarbių dirbtinio intelekto pagrindu priimtų sprendimų (pvz., atleidimų, pareigų pažeminimų) peržiūros procesą. Peržiūros vykdytojas turi turėti įgaliojimus nepaisyti dirbtinio intelekto sprendimų. | Teisinis reikalavimas pagal BDAR 22 straipsnį. Tai yra esminė apsaugos priemonė nuo algoritminių klaidų, šališkumo ir konteksto stokos. |
| 5. Šališkumo testas | Reguliariai tikrinkite algoritmą ir jo rezultatus, kad patikrintumėte, ar nėra diskriminacinių modelių, pagrįstų saugomomis savybėmis (amžiumi, lytimi, etnine kilme ir kt.). | Užkerta kelią nediskriminavimo įstatymų pažeidimams. Užtikrina, kad priemonė būtų taikoma sąžiningai ir netyčia nesudarytų nepalankių sąlygų tam tikroms darbuotojų grupėms. |
| 6. Pateikite iššūkių mechanizmą | Nustatyti aiškią ir prieinamą procedūrą, pagal kurią darbuotojai galėtų kvestionuoti, ginčyti ir prašyti peržiūrėti automatizuotą sprendimą. | Gina darbuotojo teisę į paaiškinimą ir žmogaus įsikišimą pagal BDAR. Skatina atskaitomybę ir procedūrinį teisingumą. |
| 7. Viską dokumentuoti | Saugokite išsamius savo duomenų apsaugos vertinimo (DPAV), šališkumo testavimo rezultatų, skaidrumo pranešimų ir žmogaus priežiūros proceso įrašus. | Pateikia atitikties įrodymus Nyderlandų duomenų apsaugos institucijos atliekamo audito atveju (Asmens duomenų institucija) arba teisinis ginčas. |
Vadovaudamiesi šiuo kontroliniu sąrašu, galite išnaudoti dirbtinio intelekto galią įvertinti našumą ne tik efektyviai, bet ir etiškai bei teisiškai, tuo pačiu stiprindami savo pareigas komandai.
Jūsų teisės, kai algoritmas yra jūsų valdytojas
Sužinojimas, kad jūsų veiklos vertinime dalyvauja algoritmas, gali būti neįtikėtinai slegiantis. Tačiau labai svarbu suprasti, kad pagal Nyderlandų ir ES įstatymus jūs toli gražu nesate bejėgis. Jūs turite konkrečias, vykdytinas teises, skirtas apsaugoti jus nuo automatizuoto sprendimų priėmimo aklųjų zonų.
Šioje situacijoje jūsų galingiausias skydas yra Bendrasis duomenų apsaugos reglamentas (BDAR). Jis suteikia jums keletą pagrindinių teisių, kurios tampa ypač svarbios, kai... Dirbtinis intelektas yra jūsų vadovasTai ne tik gairės; tai teisinės pareigos, kurias privalo vykdyti jūsų darbdavys.
Jūsų pagrindinės teisės pagal BDAR
Jūsų apsaugos pagrindas yra trys pagrindinės teisės, kurios užtikrina veiksmingą automatizuotų sistemų kontrolę. Jų žinojimas suteikia jums galių imtis veiksmų, jei manote, kad sprendimas yra nesąžiningas arba jam trūksta tinkamo paaiškinimo.
Teisė susipažinti su savo duomenimis: Galite oficialiai paprašyti visų jūsų asmeninių duomenų, kuriuos turi jūsų darbdavys, kopijos. Tai apima tikslius duomenis, kurie įtraukiami į veiklos vertinimo algoritmą, kad galėtumėte matyti, kokia informacija naudojama jūsų darbui vertinti.
Teisė į paaiškinimą: Jūs turite teisę į „prasmingą informaciją apie bet kokio automatizuoto sprendimo logiką“. Jūsų darbdavys negali tiesiog pasakyti „sprendė kompiuteris“. Jis privalo paaiškinti sistemos naudojamus kriterijus ir kodėl ji priėjo prie konkrečios išvados apie jus.
Teisė į ginčą ir žmogaus atliekamas peržiūrėjimas: Tai bene svarbiausia jūsų teisė. Pagal BDAR Straipsnis 22, turite teisę ginčyti vien tik algoritmo priimtą sprendimą ir reikalauti, kad jį peržiūrėtų žmogus. Šis asmuo turi turėti įgaliojimus tinkamai iš naujo išnagrinėti įrodymus ir priimti naują, nepriklausomą sprendimą.
Įstatymas aiškus: svarbaus sprendimo, pavyzdžiui, susijusio su jūsų premija, paaukštinimu ar įdarbinimo statusu, negalima palikti vien algoritmui. Jūs turite absoliučią teisę reikalauti, kad kas nors įsikištų.
Kaip užginčyti dirbtinio intelekto sugeneruotą vertinimą
Jei gaunate neteisingą arba visiškai neatitinkantį vertinimo kriterijų, galite ir turėtumėte imtis veiksmų. Sistemingas situacijos vertinimas suteiks jūsų atveju didžiausią sėkmės tikimybę.
Rinkti informaciją: Prieš kalbėdamiesi su kuo nors, viską dokumentuokite. Išsaugokite veiklos apžvalgos kopiją, užsirašykite konkrečius darbo pavyzdžius, kurie, jūsų manymu, buvo ignoruojami, ir išvardykite visus kontekstinius veiksnius, kurie, jūsų manymu, nebuvo įvertinti (pvz., pagalba kolegoms ar sudėtingo projekto valdymas).
Pateikite oficialų prašymą: Parengkite oficialų prašymą savo personalo skyriui. Aiškiai nurodykite, kad naudojatės savo teisėmis pagal BDAR. Paprašykite pateikti jūsų vertinime naudotų asmens duomenų kopiją ir išsamų algoritmo logikos paaiškinimą.
Užklausos dėl žmogaus atliktos peržiūros pateikimas: Aiškiai nurodykite, kad ginčijate automatizuotą sprendimą ir prašote vadovo, turinčio įgaliojimus jį panaikinti, jį peržiūrėti.
Šiuos reglamentus suprasti gali būti sudėtinga, ypač technologijoms nuolat tobulėjant. Galite gauti gilesnį supratimą, išnagrinėję, kaip Duomenų privatumas kinta kartu su dirbtiniu intelektu ir didžiaisiais duomenimis pagal BDAR.
Nyderlandų darbo tarybos vaidmuo
Nyderlanduose yra dar vienas galingas apsaugos lygmuo: darbo taryba (Ondernemingsraad arba ARBA). Bet kuriai įmonei, turinčiai 50 ir daugiau darbuotojų, OR turi teisę duoti sutikimą dėl bet kurios darbuotojų veiklos stebėjimo sistemos įdiegimo ar esminio pakeitimo.
Tai reiškia, kad jūsų darbdavys negali tiesiog paskirti dirbtinio intelekto valdytojo, prieš tai negavęs jūsų darbuotojų atstovų pritarimo. OR užduotis – užtikrinti, kad bet kokia nauja sistema būtų sąžininga, skaidri ir gerbtų darbuotojų privatumą. prieš jis kada nors bus paleistas. Jei turite klausimų, jūsų darbo taryba yra labai svarbi sąjungininkė.
Dažnai užduodami klausimai apie dirbtinio intelekto našumo apžvalgas
Kai algoritmas turi įtakos jūsų veiklos vertinimui, tai natūraliai kelia daug praktinių klausimų tiek darbuotojams, tiek darbdaviams. Labai svarbu aiškiai suprasti pagrindinius klausimus. Pateikiame keletą paprastų atsakymų į dažniausiai kylančius klausimus.
Ar galiu būti atleistas vien dėl dirbtinio intelekto sprendimo?
Trumpai tariant, ne. Pagal Straipsnis 22 BDAR nuostatomis, sprendimas, turintis reikšmingų teisinių pasekmių, pavyzdžiui, darbo santykių nutraukimas, negali būti grindžiamas Išimtinai dėl automatizuoto apdorojimo. Įstatymas reikalauja prasmingo žmogaus įsikišimo.
Darbdavys, kuris jus atleidžia remdamasis vien dirbtinio intelekto rezultatais, be tikros ir nepriklausomos žmogaus atliktos faktų peržiūros, beveik neabejotinai pažeistų jūsų teises pagal BDAR ir Nyderlandų darbo įstatymus.
Ką turiu teisę žinoti apie dirbtinio intelekto sistemą?
Jūs turite pagrindinę teisę į skaidrumą. Jei jūsų įmonė naudoja Dirbtinis intelektas kaip jūsų vadovas, jie yra teisiškai įpareigoti jus apie tai informuoti ir pateikti prasmingą informaciją apie jo logiką.
Tai reiškia, kad jie turi patikslinti:
Konkretūs duomenų tipai, kuriuos apdoroja algoritmas.
Pagrindiniai kriterijai, kuriuos jis naudoja vertinimui.
Galimos sistemos išvesties pasekmės.
Taip pat turite teisę prašyti prieigos prie visų jūsų asmens duomenų, kuriuos sistema surinko apie jus.
Paprasto vadovo „antspaudo“ teisiškai nepakanka. Europos duomenų apsaugos institucijos reikalauja „prasmingos žmogaus priežiūros“, kai vertintojas turi realius įgaliojimus, patirtį ir laiką išanalizuoti įrodymus ir priimti nepriklausomą sprendimą.
Ar pakanka, kad vadovas vien patvirtintų dirbtinio intelekto sprendimą?
Tikrai ne. Tokia praktika neatitinka teisinių standartų. Greitas patvirtinimas be tikros, išsamios peržiūros nelaikomas prasminga žmogaus priežiūra.
Žmogus-vertintojas turi turėti realius įgaliojimus ir gebėjimus analizuoti situaciją, atsižvelgti į veiksnius, kuriuos dirbtinis intelektas galėjo praleisti (pvz., komandinį darbą, nenumatytas kliūtis ar kitą kontekstą), ir priimti savarankišką sprendimą. Vien tik algoritmo išvados patvirtinimas yra rizikingas žingsnis, dėl kurio įmonei kyla didelių teisinių iššūkių.
