Kai dirbtinio intelekto sistema patenka į nusikaltimą, įstatymas nekaltina mašinos. Baudžiamoji atsakomybė siejama su žmogumi – vartotoju, programuotoju ar gamintoju, – kuris arba kontroliavo dirbtinio intelekto veiksmus, arba nesugebėjo užkirsti kelio jo padarytai žalai.
Dirbtinio intelekto ir baudžiamosios atsakomybės išaiškinimas
Įsivaizduokite: dirbtiniu intelektu varomas pristatymo dronas pajuda iš vietos, nukrypsta nuo užprogramuoto maršruto ir sukelia rimtą avariją. Pateikti baudžiamieji kaltinimai. Bet kas iš tikrųjų yra atsakingas?
Teismai negali tiksliai patraukti baudžiamojon atsakomybėn už droną. Visa mūsų teisinė sistema yra sukurta remiantis žmogaus ketinimais ir veiksmais. Šis esminis klausimas verčia mus nulupti algoritmo sluoksnius ir surasti asmenį, kurio sprendimai – arba aplaidumas – lėmė žalingą rezultatą.
Pagrindinis baudžiamosios teisės ramstis yra mens rea , arba „kalto proto“ , sąvoka . Kad asmuo būtų pripažintas kaltu dėl nusikaltimo, jis turi būti kaltos proto būsenos – tyčinio, neatsargaus ar aplaidaus. Dirbtinis intelektas, kad ir koks sudėtingas jis būtų, tiesiog neturi sąmonės, emocijų ar gebėjimo nuoširdžiai ketinti. Jis veikia kodu ir duomenimis, o ne moraliniu kompasu.
Kadangi dirbtinis intelektas negali susiformuoti „kalto proto“, pagal galiojančius teisinius pagrindus jis negali būti patrauktas baudžiamojon atsakomybėn. Dėmesys visada perkeliamas nuo įrankio (DI) į įrankio naudotoją ar kūrėją.
Šis pokytis teisiniu požiūriu atkreipia dėmesį į žmones, dalyvaujančius dirbtinio intelekto gyvavimo cikle. Norint tinkamai išnarplioti dirbtinį intelektą ir baudžiamąją atsakomybę, tampa labai svarbu suprasti, kaip žmonės valdo šias sistemas, įskaitant tokius dalykus kaip greito projektavimo subtilybės.
Žmogaus, slypinčio už mašinos, atpažinimas
Kai teismas nagrinėja su dirbtiniu intelektu susijusį nusikaltimą, pirmiausia jis turi sekti žmogaus veiklos grandinę ir nustatyti, kas iš tikrųjų yra atsakingas. Priklausomai nuo bylos specifikos, atsakingos gali būti kelios skirtingos šalys.
Siekiant paaiškinti, kas gali būti atsakingas, toliau pateiktoje lentelėje aprašomi pagrindiniai žmonių subjektai ir teisiniai jų atsakomybės pagrindimai.
Žmogaus atskaitomybės už dirbtinio intelekto veiksmus nustatymas
| Potenciali atsakinga šalis | Teisinės atsakomybės pagrindas | Iliustracinis scenarijus |
|---|---|---|
| Vartotojas / Operatorius | Tiesioginis dirbtinio intelekto naudojimas kaip nusikaltimo įrankio; aiškus nusikalstamas ketinimas. | Asmuo naudoja dirbtinio intelekto įrankį, kad sugeneruotų įtikinamus sukčiavimo el. laiškus ir įdiegtų didelio masto sukčiavimo planą. |
| Programuotojas / kūrėjas | Didelis aplaidumas projektuojant arba tyčinis kenkėjiškų galimybių kūrimas. | Kūrėjas sukuria autonominį prekybos robotą, neatsargiai nepaisydamas rinkos manipuliavimo taisyklių, dėl ko įvyksta gedimas. |
| Gamintojas / Įmonė | Įmonės aplaidumas; sąmoningas nekokybiško produkto pardavimas be tinkamų apsaugos priemonių. | Technologijų įmonė parduoda savaeigį automobilį, nors žino, kad jos programinė įranga turi kritinį, netaisomą trūkumą, kuris gali sukelti avarijas. |
| Savininkas | Nesugebėjimas tinkamai prižiūrėti, prižiūrėti ar apsaugoti dirbtinio intelekto sistemos. | Autonominio apsaugos drono savininkas neįdiegia reikiamų saugos atnaujinimų ir dėl gedimo sužeidžia pašalinį asmenį. |
Kaip matote, atsakomybės objektą paprastai galima suskirstyti į kelias pagrindines kategorijas. Nors technologija yra nauja, teisiniai principai dažnai yra gerai nusistovėję.
Galiausiai įstatymas bando atsakyti į paprastą, esminį klausimą: kuris žmogus turėjo galią ir galimybę užkirsti kelią nusikaltimui? Nustatydama tą asmenį, teisinė sistema gali taikyti nusistovėjusius baudžiamosios atsakomybės principus, net kai byloje naudojamos sudėtingiausios šiandienos technologijos.
Tradicinių įstatymų taikymas šiuolaikiniams dirbtinio intelekto nusikaltimams
Kai nusikaltime dalyvauja visiškai nauja technologija, tokia kaip dirbtinis intelektas, galite pamanyti, kad mūsų šimtmečių senumo teisinės sistemos yra visiškai nepasiruošusios. Tačiau iš tikrųjų teismai nepradeda nuo nulio. Jie pritaiko esamas teisines doktrinas, kad išsiaiškintų, kas yra atsakingas, kai nusikaltimą įvykdo mašina, iš esmės ieškodami „žmogaus už uždangos“.
Šis požiūris reiškia dirbtinio intelekto (DI) įsprausimą į tradicinės baudžiamosios teisės apvalią skylę. Užuot kūrusi visiškai naujus DI įstatymus, teisinė sistema taiko nusistovėjusius atsakomybės principus žmonėms, kurie kuria, diegia ir valdo šias intelektualias sistemas. Dėmesys išlieka žmogaus veiklai, net kai veiksmus atlieka algoritmas.
Funkcinio nusikaltimo doktrina
Pagrindinė sąvoka, naudojama šiai spragai panaikinti, ypač tokiose jurisdikcijose kaip Nyderlandai, yra funkcinis nusikaltimas . Pagalvokite apie tai šitaip: jei kas nors nusikaltimui įvykdyti panaudoja plaktuką, mes laikome atsakingu asmenį, o ne plaktuką. Funkcinis nusikaltimas tiesiog išplečia šią logiką į labai pažangius įrankius, įskaitant dirbtinį intelektą.
Pagal šią doktriną asmuo gali būti laikomas dirbtinio intelekto įvykdyto nusikaltimo „funkciniu vykdytoju“, jei jis turėjo galią nustatyti mašinos elgesį ir prisiėmė riziką, kad nusikaltimas gali įvykti. Ši sistema yra gyvybiškai svarbi, nes daugeliu atvejų Nyderlandų teisėje nėra konkrečių nuostatų dėl baudžiamosios atsakomybės dirbtinio intelekto sistemoms. Vietoj to, su dirbtiniu intelektu susijusiai atsakomybei spręsti naudojamos bendrosios sistemos, kuriose funkcinis vykdymas yra pagrindinė priemonė priskiriant atsakomybę žmogui.
Tai reiškia, kad įstatymas ieško dviejų pagrindinių elementų:
- Galia: Ar asmuo turėjo įgaliojimus ar gebėjimą kontroliuoti ar sustabdyti DI veiksmus?
- Priėmimas: Ar jie sąmoningai prisiėmė riziką, kad dirbtinio intelekto elgesys gali sukelti nusikalstamą pasekmę?
Jei į abu klausimus galite atsakyti „taip“, asmuo, atsakingas už dirbtinį intelektą, gali būti patrauktas baudžiamojon atsakomybėn, lyg jis pats būtų įvykdęs veiką.
Įmonių baudžiamoji atsakomybė
Atsakomybės paieškos neapsiriboja vien asmenimis. Kai įmonės įdiegta dirbtinio intelekto sistema padaro žalą, visa organizacija gali būti laikoma atsakinga pagal įmonių baudžiamosios atsakomybės principą.
Tai tampa aktualu, kai nusikaltimas gali būti siejamas su įmonės kultūra, politika ar bendru aplaidumu. Pavyzdžiui, jei įmonė skubiai į rinką pateikia dirbtiniu intelektu pagrįstą finansinės prekybos robotą, kurio saugumo testai yra prasti, ir jis manipuliuoja rinka, pačiai įmonei gali būti pateikti baudžiamieji kaltinimai.
Teisinis argumentas yra tas, kad dirbtinio intelekto veiksmai atspindi kolektyvinius organizacijos sprendimus ir prioritetus. Tinkamos priežiūros neįgyvendinimas arba įmonės kultūra, kurioje pelnas yra svarbesnis už saugumą, gali būti pakankamas atsakomybės pagrindas.
Tai užtikrina, kad įmonės negalėtų tiesiog pasislėpti už savo algoritmų, kad išvengtų atsakomybės už numatomą žalą. Nyderlandų kompiuterinių ir kibernetinių nusikaltimų teisinė sistema leidžia išsamiau pažvelgti į tai, kaip organizacijos yra laikomos atsakingomis už skaitmeninius nusikaltimus.
Produktų atsakomybė baudžiamojoje teisėje
Kitas gerai žinomas teisinis kelias yra atsakomybė už gaminį . Nors dažniausiai tai siejame su civilinėmis bylomis, pavyzdžiui, sugedęs skrudintuvas sukelia gaisrą, šio proceso principai neabejotinai gali būti taikomi ir baudžiamojoje byloje.
Jei gamintojas sąmoningai ar dėl neatsargumo išleidžia dirbtinio intelekto produktą su pavojingu trūkumu ir tas trūkumas tiesiogiai veda prie nusikaltimo, jis gali būti patrauktas baudžiamojon atsakomybėn. Įsivaizduokite autonominį apsaugos droną, sukurtą naudojant agresyvų „persekiojimo“ algoritmą, kuris negali atskirti tikrų grėsmių nuo nekaltų pašalinių asmenų.
Jei gamintojas žinojo apie šį defektą, bet vis tiek pardavė gaminį, o dronas sužalojo ką nors, jam gali būti pareikšti baudžiamieji kaltinimai dėl aplaidumo ar neatsargumo. Tai įpareigoja gamintojus laikytis aukštų standartų, verčiant juos užtikrinti, kad jų dirbtinio intelekto sistemos būtų ne tik funkcionalios, bet ir pakankamai saugios numatytam naudojimui ir bet kokiam numatomam netinkamam naudojimui. Iš esmės įstatymas klausia, ar nusikalstama pasekmė buvo nuspėjama gaminio konstrukcijos pasekmė.
Kai dirbtinio intelekto sistemos daro žalą realiam pasauliui
Teisinės doktrinos gali atrodyti abstrakčios, kol neatsitrenkia į realybę. Kai dirbtinio intelekto sistema padaro klaidą, pasekmės nėra vien teorinės – jos gali būti pražūtingos, griaunančios gyvenimus ir sugriaunančios visuomenės pasitikėjimą. Norėdami iš tikrųjų suvokti riziką, turime peržengti sąvokų ribas ir panagrinėti atvejį, kai algoritmo sprendimai sukėlė nacionalinę krizę.
Būtent tai nutiko Nyderlanduose su vaikų priežiūros išmokų skandalu, žinomu kaip „Toeslagenaffaire“ . Tai ryškus ir įtikinamas pavyzdys, kaip prastai sukurtas ir nekontroliuojamas dirbtinis intelektas gali sukelti milžiniškas žmonių kančias. Šis atvejo tyrimas grindžia visus debatus apie dirbtinį intelektą ir baudžiamąją teisę apčiuopiama, nepamirštama sisteminės nesėkmės istorija.
Sistema, sukurta nelaimėms
Skandalas prasidėjo nuo savarankiškai besimokančio algoritmo, kurį naudojo Nyderlandų mokesčių institucijos. Jo tikslas buvo gana paprastas: atkreipti dėmesį į galimą sukčiavimą tarp šeimų, gaunančių vaiko priežiūros išmokas. Tačiau įgyvendinimas buvo katastrofa. Algoritmas buvo visiška „juodoji dėžė“, o jo sprendimų priėmimo procesas buvo paslaptis net pareigūnams, kurie juo pasitikėjo.
Užuot sąžiningai įvertinęs individualius atvejus, algoritmas pažymėjo tūkstančius tėvų kaip sukčius, dažnai dėl nedidelių administracinių klaidų. Pasekmės buvo greitos ir žiaurios. Šeimoms buvo nurodyta grąžinti dešimtis tūkstančių eurų, dažniausiai be aiškios priežasties ar sąžiningos galimybės apskųsti. Žmonės prarado namus, darbą ir santaupas. Gyvenimai buvo sugriauti.
Šis sisteminis sutrikimas atskleidė paslėptus algoritminio šališkumo ir neskaidraus sprendimų priėmimo pavojus. Tai nebuvo tik techninis trikdis; tai buvo žmogiškoji katastrofa, kurią sukėlė ydinga technologija ir priežiūros stoka.
„Toeslagenaffaire“ tapo liūdnai pagarsėjusiu pavyzdžiu, kaip savarankiškai besimokantis dirbtinis intelektas gali priimti šališkus, neteisingus sprendimus, turinčius rimtų pasekmių realiame pasaulyje. Reaguodama į tai, Nyderlandų vyriausybė 2021 m. paskelbė „Vadovą dėl nediskriminavimo projektuojant“ , kuriame raginama užtikrinti didesnį algoritmų skaidrumą ir pagrindinių teisių laikymąsi, kad tokia nelaimė nepasikartotų.
Neatsakytas atsakomybės klausimas
Skandalas privertė pradėti skausmingą nacionalinę diskusiją: kas iš tikrųjų yra atsakingas, kai mašinos veiksmai sukelia tokią didelę žalą? Algoritmo negalima teisti, tačiau jo sprendimai padarė neabejotiną žalą. Iškelti teisiniai ir etiniai klausimai dabar yra esminiai dirbtinio intelekto valdymo ateičiai.
- Algoritminis poslinkis: Atrodė, kad sistema neproporcingai taikosi į šeimas su dviguba pilietybe, todėl kilo rimtų klausimų dėl diskriminacijos. Ar algoritmas gali būti diskriminacinis ir kas už tai atsakingas?
- Skaidrumo trūkumas: Pareigūnai negalėjo paaiškinti kodėl Algoritmas pažymėjo tam tikras šeimas, todėl aukos negalėjo apsiginti. Šis aiškumo trūkumas apsaugojo sistemos trūkumus nuo bet kokio rimto tyrimo.
- Žmogaus atsisakymas: Turbūt labiausiai nerimą kėlė akivaizdus „automatizavimo šališkumo“ atvejis – žmonių polinkis pernelyg pasikliauti automatizuotų sistemų rezultatais ir aklai juos priimti. Valstybės tarnautojai pasitikėjo algoritmo sprendimais, sukeldami neteisingų kaltinimų laviną.
Nors ši byla pirmiausia turėjo administracinių ir civilinių pasekmių, ji išryškina tas pačias atskaitomybės spragas, kurios kamuoja ir baudžiamosios teisės diskusijas. Palyginimai su kitomis autonominėmis sistemomis yra aiškūs, kaip matyti iš teisinių iššūkių, susijusių su prieštaringai vertinamomis savaeigių automobilių avarijomis , kur kaltės nustatymas yra lygiai taip pat sudėtingas.
Olandijos vaikų priežiūros skandalas yra rimtas priminimas, kad kai deleguojame sprendimus dirbtiniam intelektui, atsakomybė ne tik išnyksta. Ji tampa išsklaidyta ir neaiški, bet galiausiai lieka žmonėms, kurie kuria, diegia ir prižiūri šias galingas sistemas.
Kaip pasauliniai reglamentai slopina didelės rizikos dirbtinį intelektą
Dirbtiniam intelektui tampant vis pajėgesniam, vyriausybės visame pasaulyje pagaliau pereina nuo diskusijų prie ryžtingų veiksmų. Dienos, kai dirbtinis intelektas bus traktuojamas kaip technologiniai laukiniai vakarai, akivaizdžiai suskaičiuotos. Vyksta reikšmingas iniciatyvaus reguliavimo skatinimas, kuriuo siekiama nustatyti aiškias teisines apsaugos priemones, kol dar neatsirado negrįžtama žala.
Šis pasaulinis judėjimas nėra skirtas inovacijoms slopinti griežtais draudimais. Vietoj to, reguliavimo institucijos išmintingai taiko niuansuotą, rizika pagrįstą požiūrį . Galite tai įsivaizduoti kaip tai, kaip mes reguliuojame transporto priemones: mes neuždraudžiame visų automobilių, bet turime neįtikėtinai griežtas taisykles galingiems lenktyniniams modeliams ir sunkiasvoriams sunkvežimiams, nes jų potenciali žala yra daug didesnė. Lygiai taip pat nauji dirbtinio intelekto reglamentai yra skirti konkrečioms didelės rizikos taikymo sritims, kartu leidžiant klestėti mažos rizikos naudojimo būdams.
Šio žingsnio priešakyje yra istorinis Europos Sąjungos Dirbtinio intelekto įstatymas . Šis teisės aktas netrukus taps pasauliniu etalonu, suskirstančiu dirbtinio intelekto sistemas į kategorijas pagal jų potencialą padaryti žalą ir atitinkamai taikant taisykles. Tai pragmatiška strategija, skirta apsaugoti piliečius neužgniaužiant technologinės pažangos.
Raudonųjų linijų brėžimas, draudžiantis nepriimtiną dirbtinį intelektą
ES Dirbtinio intelekto įstatymas ir panašios sistemos skirtos ne tik rizikos valdymui, bet ir aiškių etinių ribų nubrėžimui. Kai kurios dirbtinio intelekto programos laikomos tokiomis pavojingomis mūsų pagrindinėms teisėms, kad yra visiškai uždraustos. Tai sistemos, kurias reguliuotojai laiko „nepriimtina rizika“.
Ši draudžiamo dirbtinio intelekto kategorija apima technologijas, kurios iš esmės prieštarauja demokratinėms vertybėms ir žmogaus orumui. Svarbiausia – užkirsti kelią distopiškiausiems scenarijams tapti realybe.
Draudžiamų praktikų sąrašas yra konkretus ir tikslinis:
- Manipuliacinės technologijos: Griežtai draudžiama bet kokia sistema, naudojanti pasąmonines technikas, skirtas iškreipti žmogaus elgesį taip, kad tai galėtų sukelti jam fizinę ar psichologinę žalą.
- Socialinio vertinimo sistemos: Draudžiama naudoti valstybės institucijų dirbtinį intelektą „socialiniam vertinimui“, t. y. žmonių patikimumui vertinti ar klasifikuoti pagal jų socialinį elgesį ar asmenines savybes.
- Pažeidžiamumų išnaudojimas: Taip pat draudžiama naudoti dirbtinį intelektą, kuris išnaudoja konkrečių grupių pažeidžiamumą dėl jų amžiaus ar bet kokios fizinės ar psichinės negalios.
Šie draudimai siunčia neabejotiną žinią: kai kurios technologinės kryptys yra tiesiog pernelyg pavojingos, kad jomis pasinaudotume. Jie smogia į pačią diskusijų apie dirbtinį intelektą ir baudžiamąją teisę esmę, nes neleis diegti sistemų, kurios iš esmės yra sukurtos kenkėjiškiems ar represiniams tikslams.
Realaus pasaulio poveikis Nyderlanduose
Šie reglamentai nėra abstrakčios ateities koncepcijos; jie jau dabar daro apčiuopiamą poveikį. Pavyzdžiui, Nyderlanduose vyriausybė greitai pritarė ES kryptimi.
Nuo 2025 m. pradžios Nyderlandai vykdo draudimus konkrečioms dirbtinio intelekto sistemoms, siekdami kontroliuoti riziką, ypač baudžiamosios teisės ir viešojo sektoriaus taikomosiose programose. Tai apima dirbtiniu intelektu pagrįstų nuspėjamųjų nusikaltimų rizikos vertinimų uždraudimą – praktiką, anksčiau taikytą nuspėjamojoje policijos veikloje.
Organizacijos visoje Nyderlanduose privalėjo iki 2025 m. vasario mėn. palaipsniui atsisakyti šių uždraustų dirbtinio intelekto įrankių, kitaip reguliavimo institucijos grėsė didelėms baudoms. Šis ryžtingas veiksmas rodo, kaip rimtai vyriausybės vertina didelės rizikos dirbtinį intelektą, ir sukuria aiškų teisinį įpareigojimą įmonėms laikytis šio reikalavimo. Galite sužinoti daugiau apie konkrečią dirbtinio intelekto praktiką, kurią draudžia Nyderlandų vyriausybė , ir kaip ji veikia organizacijas.
Verslui ir kūrėjams išvada aiški: šios naujos reguliavimo aplinkos supratimas ir prisitaikymas prie jos nebėra pasirinktinas. Teisinė aplinka tvirtėja, o baudos už nesilaikymą yra griežtos, todėl tai, kas anksčiau buvo etiniai sumetimai, virsta konkrečia verslo rizika. Gebėjimas laikytis šių taisyklių dabar yra labai svarbi bet kurios dirbtinio intelekto sistemos diegimo dalis.
Žvilgsnis į ateitį: nauji būdai, kaip užtikrinti dirbtinio intelekto atskaitomybę
Dirbtiniam intelektui tampant vis autonomiškesniam, mūsų esami teisiniai metodai pradeda atrodyti pasenę. Seni metodai – tiesiog rodyti pirštu į žmogų vartotoją ar originalų programuotoją – tiesiog nebeveikia, kai dirbtinis intelektas pradeda priimti savo sprendimus. Ši realybė verčia teisininkus užduoti gana sudėtingą klausimą: kas toliau?
Pokalbiai krypsta link išties naujų atskaitomybės modelių, sukurtų unikaliems pažangiojo dirbtinio intelekto iššūkiams. Čia nekalbame apie mažus pakeitimus. Tai esminis permąstymas, ką reiškia priskirti kaltę, kai veiksmo „protas“ yra sudėtingas algoritmas. Šios idėjos formuoja teisingumo ateitį pasaulyje, kuris kasdien tampa vis labiau automatizuotas.
Ginčytina diskusija dėl elektroninės asmenybės
Viena drąsiausių ir prieštaringiausių idėjų yra elektroninė asmenybė . Koncepcija – suteikti tam tikriems pažangiems dirbtiniams intelektams ribotą teisinį statusą, panašiai kaip korporacija traktuojama kaip „juridinis asmuo“. Kalbama ne apie žmogaus teisių suteikimą dirbtiniam intelektui. Vietoj to, kalbama apie subjekto, kuris galėtų valdyti turtą, pasirašyti sutartis ir, svarbiausia, būti atsakingas už padarytą žalą, sukūrimą.
Įsivaizduokite visiškai autonominį dirbtinio intelekto investicinį fondą, kuris, taikydamas nenumatytą prekybos strategiją, sukelia rinkos krachą. Naudojant elektroninę asmenybę, pati dirbtinio intelekto sistema galėtų būti laikoma atsakinga, o jos turtas galėtų būti panaudotas atlyginti nuostolius tiems, kurie juos prarado. Tai sukuria atskaitomybės tikslą, kai akivaizdžiai nėra kaltas nė vienas žmogus.
Vis dėlto ši idėja susiduria su rimtu pasipriešinimu.
- Moralinis pavojus: Kritikai nerimauja, kad tai kortelė, suteikianti teisę išeiti be bausmės. Ar kūrėjai ir įmonės galėtų tiesiog kaltinti savo dirbtinio intelekto kūrinius, kad šie išvengtų atsakomybės? Tai reali rizika.
- Etinės problemos: Daugeliui bet kokio asmenybės suteikimas mašinai peržengia pavojingą filosofinę ribą, išblukindamas skirtumą tarp žmonių ir technologijų.
- Praktiškumas: Teoriškai skamba gerai, bet kaip tai veiktų iš tikrųjų? Kaip dirbtinis intelektas sumoka baudą arba „atlieka bausmę“? Realiame pasaulyje ne žmogaus prigimties bausmės bausimas yra didžiulis iššūkis.
Paskirstyta atsakomybė visoje tiekimo grandinėje
Daug praktiškesnis ir populiaresnis modelis yra paskirstyta atsakomybė . Užuot ieškojus vieno atpirkimo ožio, šis metodas paskirsto atsakomybę visiems, dalyvaujantiems DI kūrime ir diegime. Įsivaizduokite tai kaip didelę statybų avariją – kaltė gali būti pasidalyta tarp architekto, medžiagų tiekėjo, statybų įmonės ir statybvietės vadovo.
Kai dirbtinis intelektas sugenda, kaltę galima padalyti tarp kelių šalių:
- Duomenų tiekėjas: Jei jie pateikė šališkus ar iškraipytus mokymo duomenis.
- Algoritmo kūrėjas: Sistemos su akivaizdžia, numatoma rizika projektavimui.
- Gamintojas: Už dirbtinio intelekto įdiegimą į gaminį be tinkamų saugos patikrinimų.
- Galutinis vartotojas: Už neatsargų sistemos naudojimą arba saugos įspėjimų ignoravimą.
Šis modelis supranta, kad dirbtinio intelekto gedimai dažnai yra sisteminės problemos, kylančios iš daugybės skirtingų žmonių priimtų sprendimų grandinės. Tai skatina visus proceso dalyvius rimtai žiūrėti į saugumą ir etiką nuo pradžios iki pabaigos.
Ši bendros atskaitomybės idėja nėra nauja; ji atspindi principus, kuriuos matome kitose profesinėse srityse. Svarstant, kaip elgtis su dirbtiniu intelektu, verta atsižvelgti į esamas sistemas, tokias kaip akademinio sąžiningumo gairės , kuriose apibrėžiami bendri etikos standartai, kaip atsakingai naudoti dirbtinį intelektą švietime.
Juodosios dėžės problemos sprendimas
Galbūt didžiausia kliūtis bet kokiam būsimam teisiniam modeliui yra „juodosios dėžės“ problema . Daugelis galingiausių šiandieninių dirbtinio intelekto sistemų, ypač gilaus mokymosi modeliai, veikia taip, kad tai paslaptis net ir jas sukūrusiems žmonėms. Jos gali pateikti atsakymą negalėdamos parodyti savo darbo.
Dėl šio skaidrumo trūkumo nepaprastai sunku išsiaiškinti, kodėl dirbtinis intelektas padarė klaidą, dėl kurios įvyko nusikaltimas. Ar tai buvo dizaino klaida? Blogi duomenys? O gal koks nors keistas, nenuspėjamas elgesys, kurio niekas nenumatė? Be atsakymų kaltės priskyrimas tėra spėlionės.
Bet kokia veikianti ateities teisinė sistema turės reikalauti daugiau skaidrumo. Tai reiškia, kad reikės tokių funkcijų kaip aiškūs audito pėdsakai ir „paaiškinamasis“ dizainas, užtikrinantis, kad kilus problemoms tyrėjai galėtų bent jau sekti kompiuterio skaitmeninius pėdsakus ir rasti gedimo priežastį.
Praktinė dirbtinio intelekto teisinės rizikos mažinimo sistema
Norint orientuotis sudėtingame dirbtinio intelekto ir baudžiamosios teisės sąveikoje , reikia ne tik teorinio supratimo. Tam reikia imtis iniciatyvių, praktinių veiksmų, kad būtų kuo labiau sumažintas teisinis poveikis. Bet kuriai dirbtinį intelektą kuriančiai ar diegiančiai organizacijai tvirtos vidinės sistemos sukūrimas yra ne tik gera etika – tai labai svarbi verslo būtinybė, siekiant užtikrinti, kad nebūtumėte patraukti atsakomybėn, kai mašina įvykdo nusikaltimą.
Ši sistema turėtų būti grindžiama trimis pagrindiniais ramsčiais: skaidrumu , sąžiningumu ir atskaitomybe . Laikykite šiuos principus savo vadovu kuriant dirbtinio intelekto sistemas, kurios būtų ne tik veiksmingos, bet ir teisiškai pagrįstos. Įtraukdami šias vertybes į savo kūrimo gyvavimo ciklą nuo pat pradžių, sukuriate galingą gynybą nuo galimų aplaidumo ar neatsargumo ieškinių.
Dirbtinio intelekto atskaitomybės kontrolinio sąrašo sudarymas
Kad šie principai taptų praktiniais veiksmais, organizacijos gali įdiegti aiškų esminių praktikų kontrolinį sąrašą. Šie veiksmai padeda sukurti patikrinamą jūsų deramo kruopštumo įrašą, įrodantį, kad ėmėtės pagrįstų priemonių, kad išvengtumėte numatomos žalos.
Pradėkite nuo šių pagrindinių veiksmų:
- Atlikti algoritminius poveikio vertinimus (AIA): Prieš net galvojant apie dirbtinio intelekto sistemos diegimą, reikia griežtai įvertinti jos galimą poveikį visuomenei. Tai apima šališkumo, diskriminacinių rezultatų ir bet kokio galimo netinkamo naudojimo, dėl kurio galėtų būti taikoma baudžiamoji atsakomybė, rizikos vertinimą.
- Sukurkite patikimą duomenų valdymą: Jūsų dirbtinis intelektas yra toks geras, kokie yra jo duomenys. Labai svarbu įdiegti griežtus protokolus, siekiant užtikrinti, kad jūsų mokymo duomenys būtų tikslūs, reprezentatyvūs ir be šališkumo, dėl kurio dirbtinis intelektas galėtų priimti neteisėtus sprendimus.
- Palaikykite kruopščius audito takus: Saugokite išsamius dirbtinio intelekto operacijų, sprendimų ir bet kokių žmogaus įsikišimų žurnalus. Incidento atveju šie įrašai yra būtini norint ištirti, kas nutiko, ir tiksliai parodyti, kaip sistema veikė.
Svarbus bet kurios rizikos mažinimo strategijos komponentas yra „žmogaus dalyvavimo kilpoje“ (HITL) sistemų įdiegimas priimant svarbius sprendimus. Tai užtikrina, kad žmogus operatorius išlaikytų galutinę kontrolę ir galėtų nepaisyti dirbtinio intelekto, išsaugant aiškią atskaitomybės grandinę.
Žmogaus priežiūra kaip galutinė apsaugos priemonė
„Žmogaus dalyvavimo grandinėje“ modelis yra daugiau nei techninė funkcija; tai teisinė. Reikalaudama žmogaus patvirtinimo svarbiems veiksmams, organizacija gali veiksmingai teigti, kad dirbtinis intelektas yra tik sudėtingas įrankis, o ne autonominis agentas, savarankiškai priimantis sprendimus. Toks požiūris gerokai sustiprina teisinę poziciją, kad galutinį, lemiamą sprendimą priėmė žmogus, o ne mašina.
Galiausiai, norint sušvelninti šią teisinę riziką, reikia sukurti atsakomybės kultūrą, kuri persmelktų visą organizaciją. Atsakomybės ir žalos atlyginimo reikalavimų Nyderlanduose niuansų supratimas gali suteikti vertingo konteksto kuriant šią vidaus politiką. Tikslas – sukurti dirbtinį intelektą, kuris būtų ne tik novatoriškas, bet ir skaidrus, etiškas bei akivaizdžiai kontroliuojamas žmogaus.
Dažnai užduodami klausimai
Ar DI gali būti liudytoju teisme?
Trumpas atsakymas yra ne, bent jau ne dabartinėje teisinėje aplinkoje. Liudytojo sąvoka iš esmės yra žmogiška. Norint būti liudytoju, asmuo turi turėti galimybę prisiekti, pažadėdamas sakyti tiesą. Jis taip pat turi turėti asmeninių žinių apie nagrinėjamus įvykius ir sugebėti atlaikyti kryžminę apklausą, kurios metu tikrinama jo atmintis, suvokimas ir patikimumas.
Dirbtinis intelektas (DI) šių kriterijų tiesiog neatitinka. Jis neturi sąmonės, negali prisiekti ir neturi asmeninių prisiminimų žmogiškąja prasme. Geriausiu atveju jis gali pateikti duomenis, kuriuos pats apdorojo. Dėl to jis labiau panašus į įrodymą, pavyzdžiui, vaizdo stebėjimo kamerų įrašą, o ne į tikrą liudytoją. DI rezultatus tikrai galima pateikti teisme, tačiau iš tikrųjų liudytoju būtų žmogus-ekspertas, aiškinantis šiuos duomenis.
Kuo skiriasi civilinė ir baudžiamoji atsakomybė už dirbtinį intelektą?
Šis skirtumas yra labai svarbus, kai tik DI padaro žalą. Nors tiek civilinėse, tiek baudžiamosiose bylose yra numatyta teisinė atsakomybė, jų tikslas, įrodinėjimo našta ir bausmės yra skirtingi dalykai.
Štai paprastas būdas apie tai pagalvoti:
- Civilinė atsakomybė: Kalbama apie aukos sugrąžinimą į pilnatvę. Dėmesys sutelkiamas į žalos atlyginimą, pavyzdžiui, finansinius nuostolius dėl klaidingo algoritmo ar sužalojimus dėl autonominės transporto priemonės. Įrodymų standartas yra žemesnis – dažnai tai yra „tikimybių pusiausvyra“.
- Baudžiamoji atsakomybė: Kalbama apie bausmę už skriaudą prieš pačią visuomenę. Tam reikia įrodyti kaltę „nepaneigiamai“ – tai daug didesnė kliūtis – ir tai gali užtraukti griežtas bausmes, tokias kaip laisvės atėmimas ar didelės baudos.
Kai dalyvauja dirbtinis intelektas, įmonei gali būti pateiktas civilinis ieškinys dėl jos produkto padarytos žalos atlyginimo. Tačiau norint, kad baudžiamieji kaltinimai būtų pareikšti, prokuroras turi įrodyti, kad žmogus buvo „kaltas“ (angl. mens rea ). Būtent todėl atsakomybė siejama su žmogumi, o ne su mašina.
Kaip mano organizacija gali pasiruošti ES Dirbtinio intelekto įstatymui?
Artėjant tokiems reglamentams kaip ES Dirbtinio intelekto įstatymas , laukti, kol taisyklės bus visiškai įgyvendintos, yra rizikinga strategija. Vienintelis būdas veiksmingai sumažinti teisinę riziką yra iniciatyvus atitikimas reikalavimams.
Štai keli pagrindiniai žingsniai, padėsiantys jums pradėti:
- Klasifikuokite savo dirbtinio intelekto sistemas: Pirmiausia turite nustatyti, kuriai rizikos kategorijai priklauso jūsų dirbtinio intelekto programos – nepriimtina, didelė, ribota ar minimali. Ši klasifikacija nulems jūsų konkrečius atitikties įsipareigojimus.
- Atlikite rizikos vertinimą: Bet kurioms didelės rizikos sistemoms turite atlikti išsamius vertinimus, kad nustatytumėte ir pašalintumėte galimą žalą pagrindinėms teisėms. Tai ne tik varnelių žymėjimas; tai gilus jūsų sistemos poveikio tyrimas.
- Užtikrinti skaidrumą ir dokumentaciją: Kruopščiai saugokite savo dirbtinio intelekto projekto, mokymui naudojamų duomenų rinkinių ir sprendimų priėmimo procesų įrašus. Ši dokumentacija yra būtina norint įrodyti atitiktį reikalavimams ir atskaitomybę, jei kada nors įvyktų incidentas.
