Zaupanja vredna umetna inteligenca v Industrija 4.0

Sodelujoči:

• Marko Grobelnik, oddelek za umetno inteligenco Institut Jožef Stefan, glavni tehnični direktor pri IRCAI, član strokovne skupine OECD za umetno inteligenco (AIGO)

• Samo Zorc, sekretar na Ministrstvu za javno upravo RS

• mag. Andrej Tomšič, namestnik Informacijske pooblaščenke

• Gregor Strojin, predsednik ad hoc odbora Sveta Evrope za umetno inteligenco (CAHAI)

• dr. Blaž Fortuna, direktor podjetja Qlector

• Nicolas De Bouville, upravitelj politike zasebnosti, Facebook

• Verena Kontschieder, oblikovanje politik za področje AI, Facebook

• Fabrizio Fantini, direktor in solastnik podjetja Evo Pricing

Kratek povzetek dogodka

Prvi dogodek je obravnaval temo Zaupanja vredna umetna inteligenca v industriji 4.0. Na prvem dogodku smo predstavili nov dokument Evropske komisije, ki nakazuje pravne okvire za bodoče regulatorje in razvijalce sistemov umetne inteligence.

Poleg zadnjega dokumenta Evropske komisije na tem področju so bile predstavljene tudi iniciative, ki enake probleme naslavljajo globalno (OECD, UNESCO, UN). Nadalje smo si skozi iniciativo Facebook projekta Open Loop ogledali komplementarni pristop k urejanju upravljanja sistemov umetne inteligence.

S kakšnimi izzivi se soočajo na nivoju posamezne rešitve in njihove vpeljave, pa smo si ogledali skozi primer podjetja Qlector. Uvodna predavanja so predstavljala temelje razprave na okrogli mizi, ki je skušala zbližati razumevanja in stališča različnih ključnih deležnikov, ki so jih strnili v predloge za konkretne smernice, s katerimi naslavljamo tudi potencialne specifike posameznih industrijskih domen.

Izbrani zaključki okrogle mize:

• Regulativne aktivnosti pogosto zaostajajo za razvojem storitev in sistemov podjetij s področja umetne inteligence. Prvi korak pri razvoju regulativnih okvirov za umetno inteligenco je vzpostavitev procesa komunikacije med vsemi deležniki.
• Podjetjem in razvijalcem področja umetne inteligence se priporoča, da preverijo delovanje svojih rešitev z obstoječimi regulativnimi okviri in tako identificirajo potencialna razhajanja med prihajajočo regulativo in razvojem.
• Opredelitev odgovornosti pri razvoju in uporabi je kompleksen in težko določljiv koncept umetne inteligence, kjer ni enoznačnega odgovora. Priporoča se diskusija med deležniki za izoblikovanje skupne definicije.
• Razložljivost je drugi pomemben koncept umetne inteligence. Razvijalci, odločevalci, uporabniki sistemov umetne inteligence, prav tako pa osebe, na katere bo vplivala odločitev umetne inteligence, morajo smiselno razumeti delovanje sistema umetne inteligence, da jo lahko ustrezno vključijo v poslovno-organizacijske procese.