Nova Konvencija Saveta Evrope („SE“) o veštačkoj inteligenciji i ljudskim pravima, demokratiji i vladavini prava („Konvencija“) potpisana je od strane Andore, Gruzije, Islanda, Norveške, Republike Moldavije, San Marina, Ujedinjenog Kraljevstva, Izraela, Sjedinjenih Američkih Država i Evropske unije.
SE je predstavio Konvenciju sa ciljem da osigura da sistemi veštačke inteligencije funkcionišu u skladu sa osnovnim vrednostima SE, poput ljudskih prava, demokratije i vladavine prava. Ovo je odgovor na sve veću zabrinutost o tome kako veštačka inteligencija može uticati na fizička i virtuelna okruženja, a posebno na načine na koje bi veštačka inteligencija mogla ugroziti principe SE.
Nova Konvencija SE definiše sisteme veštačke inteligencije kao sisteme zasnovane na mašinama koji, u cilju postizanja eksplicitnih ili implicitnih ciljeva, na osnovu unosa koji primaju, generišu rezultate poput predviđanja, sadržaja, preporuka ili odluka koje mogu uticati na fizička ili virtuelna okruženja, sa različitim nivoima autonomije i prilagodljivosti nakon implementacije.
Definicija sistema veštačke inteligencije u Konvenciji gotovo je identična definiciji sistema veštačke inteligencije iz Zakona o veštačkoj inteligenciji Evropske unije.
Konvencija propisuje dve važne opšte obaveze:
Konvencija se temelji na sedam osnovnih principa:
Ove mere uključuju procenu ozbiljnosti i verovatnoće potencijalnih uticaja u skladu sa kontekstom i namenom korišćenja AI sistema. To podrazumeva angažovanje relevantnih zainteresovanih strana, posebno onih čija prava mogu biti pogođena, kontinuiranu primenu mera za prevenciju rizika, praćenje rizika i negativnih uticaja na ljudska prava, demokratiju i vladavinu prava, dokumentovanje tih rizika, kao i testiranje AI sistema gde je to potrebno, kako pre njihove prve upotrebe, tako i nakon značajnih izmena.
Potpisnici Konvencije su obavezni da održavaju mere koje osiguravaju da relevantne informacije o AI sistemima, koji imaju potencijal da značajno utiču na ljudska prava, budu dokumentovane i dostavljene ovlašćenim telima. Tamo, gde je to primereno, informacije takođe treba učiniti dostupnim ili saopštiti pogođenim licima.
Pored toga, moraju biti uvedene mere koje osiguravaju da dostavljene informacije budu dovoljne da pogođena lica mogu osporiti odluke koje su donete ili značajno pod uticajem tog sistema. To se, takođe, odnosi na samu upotrebu sistema, gde je to relevantno.
Konačno, mere treba da garantuju da pojedinci imaju efikasan način za podnošenje žalbi nadležnim organima.
Konvencija propisuje da, tamo gde je to odgovarajuće u zavisnosti od konteksta, osobe koje stupaju u interakciju sa sistemima veštačke inteligencije treba da budu obaveštene da stupaju u interakciju sa veštačkom inteligencijom, a ne sa ljudskim bićem.
Potpisnici Konvencije će se periodično konsultovati s ciljem olakšavanja primene i sprovođenja iste, razmatranja izmena, davanja preporuka za tumačenje i primenu Konvencije, olakšavanja razmene informacija o pravnim i tehnološkim razvojnim pitanjima, olakšavanja prijateljskog rešavanja sporova koji proizilaze iz primene i olakšavanja saradnje sa zainteresovanim stranama.
Svaka potpisnica će podnositi izveštaje savetu potpisnica, detaljno navodeći korake preduzete kako bi se Konvencija primenila u javnom i privatnom sektoru, kao i mere preduzete u vezi sa smanjenjem rizika koji proizilazi iz aktivnosti u životnom ciklusu sistema veštačke inteligencije.
Implementacijom ovih zaštitnih mehanizama u legislativu, SE takođe preduzima proaktivan pristup regulisanju veštačke inteligencije, osiguravajući da, dok se veštačka inteligencija razvija, da se razvija na način koji poštuje prava i slobode pojedinaca i integritet demokratskih procesa.
