Priložnosti in specifike upravljanja s sistemi umetne inteligence na temo slike, video in zvok

Sodelujoči:

• izr. prof. dr.Danijel Skočaj, vodja Laboratorija za umetne vizualne spoznavne sisteme, Fakulteta za računalništvo in informatiko, Univerza v Ljubljani

• Grega Milčinski, direktor Sinergise

• Andrey Vykhodtsev, AI (Višji arhitekt za rešitve umetne inteligence), Microsoft

• Samo Zorc, Ministrstvo za javno upravo RS

Priložnosti in specifike upravljanja s sistemi umetne inteligence na temo slike, video in zvok from DIH on Vimeo.

Kratek povzetek dogodka

Na dogodku smo obravnavali stanje umetne inteligence na področju slik, zvoka in videa. Udeleženci dogodka se strinjajo, da morajo biti dostopni kvalitetni podatki javnega značaja različnih institucij. Prav tako si ne smemo postavljati umetnih regulativnih preprek.

Ob tem pa je treba paziti na konkurenčnost EU razvijalcev v primerjavi z razvijalci iz ZDA in Kitajske, ki imajo manj stroge in omejujoče zakonodajne okvire za razvoj storitev in sistemov umetne inteligence. Ta razvoj mora iti v smeri razložljive AI, a pri tem ne smemo prepovedati razvoja samo zaradi bojazni možnih zlorab.

Zaradi velikega števila razvijalcev rešitev umetne inteligence, geografske lege in majhnosti države je Slovenija lahko odličen testni poligon (digitalni dvojček).

Izbrani zaključki okrogle mize:

• Treba je zagotoviti, da so podatki vladnih agencij dostopni, primerni za strojno branje, dobre kvalitete in posodobljeni.

• Postavlja se vprašanje: »Kdo je odgovoren za podatke in njihovo stanje?«, na katerega ni enoznačnega odgovora.

• Onemogočanje dostopa do podatkov je treba utemeljiti zelo konkretno, ne zgolj z generičnimi razlogi.

• Zakonodajo, ki ureja odgovornost za omogočanje dostopa do odprtih podatkov, je treba bolj konkretizirati oziroma jo dopolniti z ustreznimi razlagami.

• Skrb za razvoj področja AI je treba nasloviti v luči situacije, da zakonodaja in strogost pri delu s podatki postavljata raziskovalce v neenakopraven položaj (EU v primerjavi z ZDA in Kitajsko).

• Razlago namena in pravilnosti uporabe GDPR je treba bolj konkretno nasloviti, saj se v nekaterih primerih pojavljajo precej bolj stroge prakse od namena zakonodajalca.

• Potrebno je izboljšanje informiranosti različnih deležnikov na področju celovitosti in pravilnosti podatkov. Prav tako je pomembno osvetliti vprašanje, katere podatke potrebujemo za izbrane analize ter zakaj jih lahko in smemo obdelovati. To vprašanje je treba nasloviti tako s tehničnega kot tudi pravnega vidika.

• Slovenija kot država ima priložnost, da postane vodilna na področju razvoja storitev na nivoju države (digitalni dvojček države).

• Potrebne so aktivnosti za razširjanje zavedanja o možni pristranskosti AI algoritmov. Ena izmed pobud je tudi pobuda o odprtosti AI algoritma, ki skuša na neki način izničiti pristranskost algoritma. Treba je dodati še varovalke v procesih razvoja in uporabe AI sistemov, ki se nanašajo na detekcijo in razlago potencialnih pristranskosti v podatkih.

• Razložljivost je nujno potrebna lastnost sistemov AI, ki jo je treba tudi bolj konkretno definirati, saj se njen nivo lahko razlikuje.

• V izobraževalne vsebine razvijalcev AI sistemov je treba vključiti tudi vsebine, ki bodo naslavljale potencialne pravne in etične težave pri uporabi AI sistemov. Izobraževalne vsebine, ki se dotikajo samega razvoja AI sistemov, so dobro naslovljene, medtem ko vsebine o potencialno škodljivi uporabi AI sistemov še niso sistemsko vključene.

• Razvoja AI metod in pristopov ne smemo pavšalno prepovedati zaradi možnosti zlorab.