Facebook · Eesti · algne avaldatud postitus
See on ikka väga huvitav maailm, kus paavst räägib tehisintellektist õigemini kui osa IT-inimesi.
See on ikka väga huvitav maailm, kus paavst räägib tehisintellektist õigemini kui osa IT-inimesi.
Paavst Leo XIV kirjutas hiljuti üsna lihtsa, aga olulise asja:
"Masinad on tööriistad, mitte isikud.
Tehisintellekti tulevik ei ole ette määratud. See sõltub valikutest, mida inimesed teevad. Ning kui mingi süsteem teeb kahju, ei tohi vastutus kaduda kuskile näotu tehnilise üksuse taha."
Täpselt sama mõte peaks olema Eestis viimastel nädalatel palju arutatud agentide isikukoodi või digitaalidentiteedi küsimuse keskmes.
Minu jaoks vaadatakse seda debatti praegu veidi valest otsast.
Küsimus ei ole eelkõige selles, kuidas anda agendile identiteet.
Küsimus on selles, kuidas inimene või ettevõte annab tarkvarale väga konkreetselt piiratud õiguse enda eest midagi teha. Ning kuidas pärast on võimalik aru saada:
- kelle nimel agent tegutses; - milleks tal õigus oli; - millistele andmetele ja süsteemidele ta ligi pääses; - kes selle õiguse andis; - kuidas see õigus vajadusel kohe tagasi võtta; - ning kes vastutab, kui midagi läheb valesti.
Lihtne registrikanne või isikukood ei lahenda neist küsimustest peaaegu ühtegi.
Võid küll registrist näha, et mingi agent on seotud Priiduga. Aga kui puudub võtmega seotud volitus, selge tegevusulatus, auditilogid ja võimalus konkreetne agent või ligipääs kohe peatada, siis ei ole meil päriselt toimivat vastutusahelat.
On lihtsalt uus register.
Just seda tõi paar nädalat tagasi hästi välja ka Priit Kaasiku loodud agent Nodachi oma analüüsis. Eelnõu räägib küll digitaalidentiteedist, aga tegelikult registreerib inimest, mitte agenti ega selle konkreetseid õigusi. Hetkel ei ole kuskil piisavalt selgelt sees seda, mis peaks päriselt oluline olema: volituse ulatus, tühistamine, logid ja vastutus.
Huvitav on see, et mõlema poole inimesed tahavad sisuliselt sama asja.
Et inimene saaks agendile anda piiratud, kontrollitava ja tagasi võetava volituse.
Et oleks näha, mida agent tegi.
Et vastutav inimene või ettevõte oleks olemas.
Erimeelsus on pigem selles, kas lahendus on ehitada uus riiklik identiteedisüsteem või kasutada olemasolevaid tehnilisi ja õiguslikke põhimõtteid palju täpsemalt.
Minu hinnangul ei peaks me agentidele andma isikustaatust ega rääkima neist nagu uutest kodanikest.
Agent ei ole inimene.
Ta ei kanna moraalset ega juriidilist vastutust. Ta ei saa kahju hüvitada. Ta ei peaks olema mugav koht, mille taha peita inimese, juhi või ettevõtte tehtud otsuseid.
See ei tähenda, et agente ei peaks tuvastama.
Vastupidi. Mõnes olukorras võib riigil olla väga oluline roll: näiteks luua usaldusväärne omaniku- või vastutaja seos ning standard, mille abil saab eri süsteemide vahel kontrollida, kas konkreetne volitus kehtib.
Aga identifikaator üksi ei ole lahendus.
Enne kui hakkame uut koodi välja mõtlema, tuleks kokku leppida palju lihtsamates asjades:
1. Mida agent tohib teha? 2. Kelle nimel ta seda teeb? 3. Millise õigusega? 4. Kuidas see õigus peatatakse? 5. Milline jälg jääb tema tegevusest alles? 6. Kes vastutab, kui tulemus on vale või kahjulik?
Kui nendele küsimustele ei ole head vastust, siis ei tee isikukood süsteemi turvalisemaks. Ta lihtsalt annab segasele süsteemile uue sildi.
Tehisintellekti juures ei tohiks eesmärk olla anda masinale rohkem näiliselt iseseisvat rolli.
Eesmärk peaks olema teha inimeste antud volitused, kontroll ja vastutus palju selgemaks.
Masin võib teha töö ära.
Vastutus peab jääma inimesele.