U trećem delu serijala koji se bavi rizicima koje donosi veštačka inteligencija (VI), analiziraćemo okvir za upravljanje tim rizicima koji je objavio Američki nacionalni institut za standarde i tehnologiju (NIST).
Okvir za upravljanje rizicima veštačke inteligencije (OUR VI) je dobrovoljni okvir koji je razvio NIST kao odgovor na sve veću upotrebu VI. Veštačka inteligencija ima potencijal da donese značajne koristi društvu, ali istovremeno izaziva niz rizika, kao što su pristrasnost, diskriminacija, pitanja privatnosti i bezbednosti. OUR VI je osmišljen da pomogne organizacijama u upravljanju ovim rizicima i obezbedi da se veštačka inteligencija koristi na bezbedan, odgovoran i pouzdan način. Cilj mu je da pruži organizacijama sistematičan pristup identifikaciji, proceni, ublažavanju i praćenju rizika vezanih za upotrebu veštačke inteligencije.
OUR VI je objavljen u januaru 2023. godine. To je otvoren dokument koji će biti ažuriran prema potrebi, kako bi odražavao evolutivnu prirodu VI.
Na razvoj OUR VI uticali su brojni izvori, uključujući Zakon o nacionalnoj inicijativi za veštačku inteligenciju iz 2020. godine, koji je pozvao NIST da razvije okvir za upravljanje rizicima veštačke inteligencije, ali i rad drugih organizacija, kao što je Evropska komisija, koja je razvila skup etičkih smernica za VI, i doprinose mnogih zainteresovanih strana u industriji, akademsku zajednicu i vladu.
OUR VI ima četiri funkcije:
OUR VI je namenjen organizacijama svih veličina, u svim njihovim sektorima. Kao otvoren dokument, može se prilagoditi specifičnim potrebama svake organizacije. Može pomoći organizacijama da identifikuju i procene rizike povezane sa njihovim sistemima VI-e i procesima, sprovedu kontrole za ublažavanje identifikovanih rizika, nadgledaju delotvornost uspostavljenih kontrola i donesu odgovarajuće odluke kada je u pitanju razvoj i upotreba veštačke inteligencije. Posmatran na taj način, OUR VI je vredan alat za organizacije koje žele da osiguraju da se njihovi sistemi koriste na siguran, odgovoran i pouzdan način.
Neke od prednosti korišćenja OUR VI-e su:
U širem kontekstu, OUR VI je nov okvir i još uvek postoje izazovi povezani sa njegovom upotrebom. Ti izazovi uključuju nedostatak stručnosti, nedostatak standarda i nedostatak podataka. Mnoge organizacije nemaju stručnost ili resurse da ga samostalno implementiraju, a još uvek ne postoje univerzalno prihvaćeni standardi za upravljanje rizicima VI, što različitim organizacijama može otežati upoređivanje njihovih individualnih pristupa. Naposletku, OUR VI se oslanja na podatke radi identifikacije i procene rizika, ali mnoge organizacije nemaju podatke potrebne za efikasnu identifikaciju i procenu istih.
Zaključak je da je OUR VI vredan alat koji organizacije mogu da koriste kao pomoć u upravljanju rizicima povezanim sa veštačkom inteligencijom. Međutim, važno je napomenuti da OUR VI to ne može učiniti sam. On je samo jedan deo sveobuhvatnog pristupa upravljanju rizicima koje sa sobom nosi VI. Potrebno je da organizacije koje žele da obezbede maksimum iz OUR VI, uzmu u obzir i druge faktore, kao što su specifični rizici povezani sa njihovim VI sistemima, resursi koje imaju na raspolaganju i potrebe njihovih zainteresovanih strana. Uzimajući sve ove faktore u obzir, organizacije mogu da razviju efikasan program upravljanja VI rizicima koji će im pomoći da iskoriste prednosti VI-e uz smanjenje rizika koji tu upotrebu prate.
