Kui tehisintellekti määrus tundub keeruline, siis põhjus ei ole regulatsioon ise. Põhjus on see, et alustatakse valest kohast.
Enamik organisatsioone küsib: kas meie AI on kõrge riskiga? See on vale esimene küsimus. Õige küsimus on palju lihtsam: kes me oleme ja mida me selle tehisintellektisüsteemiga tegelikult teeme?
Kas see on üldse tehisintellektisüsteem?
Alustuseks – mitte iga nutikas süsteem ei ole AI määruse mõttes AI.
AI süsteem on olemuslikult:
- autonoomsuse tasemega süsteem,
- mis teeb järeldusi,
- ja mõjutab keskkonda (nt otsused, soovitused, sisu).
Roll: kõige alahinnatum risk
Tehisintellekti määrus ei reguleeri ainult „tehnoloogiat”. See reguleerib osalejaid.
Kolm rolli:
- kasutaja kasutab tööriista,
- kasutuselevõtja rakendab seda teiste suhtes,
- pakkuja viib selle turule.
Ning oluline on tähele panna, et roll ei ole staatiline. Organisatsioon võib muutuda pakkujaks ilma seda märkamata – näiteks siis, kui ta:
- integreerib AI oma teenusesse,
- müüb edasi AI-funktsionaalsust,
- muudab süsteemi oluliselt,
- või annab sellele uue eesmärgi.
Risk ei ole tehnoloogia, vaid kasutus
Tehisintellekti määruse riskipõhine lähenemine tundub esmapilgul intuitiivne: keelatud, kõrge risk, piiratud risk, minimaalne risk.
Reaalsus on nüansirikkam. Sama tehnoloogia võib olla:
- täiesti lubatud ühes kontekstis,
- ja rangelt reguleeritud teises.
Näiteks Chatbot on klassikaliselt piiratud riskiga. Aga kui sama chatbot annab psühholoogilist nõu või mõjutab olulisi otsuseid, võib ta liikuda kõrge riski alla. Seega ei klassifitseerita mitte ainult tehnoloogiat – klassifitseeritakse kasutusjuhtumit.
Praktikas ei ole mõtet vaadata rolli ja riski eraldi. Oluline on nende kombinatsioon. Näiteks:
- Copiloti kasutamine sisekommunikatsioonis – madal risk, kasutaja
- CV-de automaatne sõelumine – kõrge risk, kasutusele võtja
Risk määrab mängureeglid
Kõrge riskiga tehisintellekt ei tähenda lihtsalt rohkem pabereid. See tähendab täiesti teistsugust operatiivset lähenemist:
- riskijuhtimissüsteem kogu elutsükli vältel
- kvaliteetne ja kontrollitud andmestik
- tehniline dokumentatsioon
- logimine ja jälgitavus
- inimese järelevalve
- küberturvalisus
Vastavalt, kui riski kategooria on madalam, siis on ka kohustuste ja nõuete nimekiri lühem ja lihtsam. Kus organisatsioonid eksivad?
Kogemus näitab üsna ühtlast mustrit:
- rolli alahinnatakse („oleme lihtsalt kasutaja”)
- kasutuseesmärk jäetakse analüüsimata
- risk klassifitseeritakse liiga optimistlikult
- ja kõige olulisem – otsused jäetakse dokumenteerimata
Viimane on kriitiline. Kui tekib vaidlus, ei küsi keegi, mida te mõtlesite. Küsitakse, mida te suudate tõendada.
Kokkuvõtteks
Kõige lihtsam viis Tehisintellekti määrust „mõista” on:
- Võta üks konkreetne AI lahendus enda organisatsioonis;
- Määra oma roll;
- Määra kasutus ja risk;
- Kaardista kohustused.
