Predavanje Robotika in Pika. je del serije inovativnih dogodkov organizacije Ljubljana Legal Hackers.

Dva tedna nazaj, bolj natančno 19. julija, je v sproščenem vzdušju enega izmed ljubljanskih lokalov potekalo interaktivno predavanje Robotika in Pika., organizirano s strani organizacije Ljubljana Legal Hackers. Za inovativnim konceptom organizacije dogodkov v okviru Ljubljana Legal Hackers je skupina mladih podjetnikov, pravnikov, raziskovalcev, tehnologov in ostalih, ki razvijajo kreativne rešitve za vprašanja na področju presečišča prava in tehnologije. Tokrat so k sodelovanju povabili Piko Šarf z ljubljanskega Inštituta za kriminologijo pri Pravni fakulteti, napovedali pa živahno diskusijo o aktualnih vprašanjih robotike in razvoja umetne inteligence.

 

 

 

 

 

IPES ekipa se je takšnega interdisciplinarnega dogodka seveda razveselila in tudi udeležila, zanimalo pa nas je, kakšna je v okviru razvoja moralnosti umetne inteligence prihodnost za enakost spolov. V želji izvedeti več o robotiki s perspektivne enakosti spolov, pa tudi o njenem delu in izbiri poklicne poti, smo s Piko pripravili kratek intervju.

 

 

 

Pika, si mlada raziskovalka na Inštitutu za kriminologijo, kjer se edina ukvarjaš s pravno regulacijo na področju robotike. Za tiste, ki se tvojega predavanja niso mogli udeležiti: s čim točno se trenutno ukvarjaš, kaj je glavni namen in fokus tvojega dela?

 

Pravzaprav se ne ukvarjam zgolj s pravno regulacijo robotike, zanima me veliko širše področje na stičišču prava in (informacijsko-komunikacijske) tehnologije. Tehnološki razvoj je v zadnjih dvajsetih letih dodobra spremenil svet kakršnega smo ga poznali do tedaj. Z razvojem novih tehnologij pa se je postavilo tudi vprašanje, ali je veljavno pravo še sposobno reševati novonastale probleme ali gre za tako prelomne inovacije, da te zahtevajo popolnoma drugačno pravno obravnavo. Internet je bil zgolj prva v nizu takšnih inovacij, tehnološki razvoj pa je danes tako hiter, da mu pravo le stežka sledi – internet stvari, veliko podatkovje, tehnologija veriženja podatkovnih blokov, umetna inteligenca in robotika so tehnologije, ki bodo v prihodnosti pomembno vplivale ne le na pravo, temveč na celotno družbo v kateri živimo. Ker se njihovi učinki pogosto medsebojno prepletajo, je težko preučevati zgolj eno izmed njih.

 

 

Pravo in robotika – zveni nenavadna kombinacija, kako te je zaneslo v te vode?

 

Raziskovanja pravne regulacije robotike sem se lotila res bolj kot del iskanja odgovorov na nekatera širša vprašanja, ker pa je področje izredno zanimivo, »ostaja« z mano, razvoj pa če se le da redno spremljam. Pred tem sem proučevala mednarodnopravno zakonitost ravnanja držav v kibernetskem prostoru, o vohunstvu v kibernetskem prostoru sem napisala tudi magistrsko nalogo. Čeprav zveni kot znanstvena fantastika, gre pravzaprav za zelo pogosto ravnanje držav, ki je v zadnjih letih v izrazitem porastu, poleg tega pa, verjetno predvsem po zaslugi škandala povezanega z volitvami v ZDA leta 2016, dobiva vedno več medijske pozornosti.

 

 

Med svojim predavanjem si omenila, da je robotika pravzaprav še v povojih glede pravih rezultatov, ki bi bili uporabni v življenju vsakdanjih ljudi. Roboti, ki jih znamo izdelati, so omejeni glede njihovih funkcij in tega kar znajo »početi«. Pa vendar si omenila, da so lahko roboti zaznamovani z našimi vzorci razmišljanja. Čemu je temu tako? Kako poteka programiranje/učenje robota in kako se stereotipi prenašajo naprej?

 

Predvsem je skupina proizvodov, ki jih uvrščamo v kategorijo »robotov« izredno raznolika, njihove lastnosti pa tako raznovrstne, da izredno težko posplošimo in trdimo, da nekaj velja prav za vse. V grobem jih lahko razdelimo v dve skupini: robote, ki uporabljajo umetno inteligenco (tim. AI embedded robots) in robote, ki te lastnosti nimajo. Slednji so pomemben pripomoček v industriji, vendar pa je, tako kot si sama zapisala, njihova uporabnost precej omejena. Ti roboti počnejo natančno to, za kar so bili vnaprej programirani in so vedno in samo orodje v rokah človeka. Z vidika prava so veliko bolj zanimivi roboti, ki uporabljajo umetno inteligenco in bi morda v prihodnosti lahko bili do neke mere avtonomni. Razvoj umetne inteligence in »pametnih« robotov je v zadnjem desetletju precej napredoval kot posledica izboljšane procesorske moči računalnikov na eni strani in večje količine zbranih podatkov (veliko podatkovje), a je še vedno močno oddaljen od predstav splošne javnosti.

 

Rezultati, ki jih umetna inteligenca (ter roboti, ki jo uporabljajo) dosega, pa pravzaprav niso povezani s kakovostjo algoritmov, temveč zgolj s količino podatkov, s katerimi umetna inteligenca razpolaga: povprečen algoritem, ki uporablja 100 milijonov enot podatkov, je z lahkoto uspešnejši od najbolj zmogljivega algoritma, ki ima na voljo zgolj milijon enot podatkov. Ključen vpliv na kakovost odločitev umetne inteligence imajo torej podatki, iz katerih se le-ta uči. Če so podatki, iz katerih se umetna inteligenca uči, slabi, bo tudi končni rezultat slab. Googlov algoritem za prepoznavo obrazov je na primer temnopolte ljudi pogosto zamenjeval za gorile, saj v bazi, na podlagi katere se je učil, enostavno ni bilo dovolj temnopoltih oseb.

 

Kaj pa spolna neenakost: se lahko odraža v AI tehnologiji? Lahko to potencialno preprečimo? Z drugimi besedami, kaj bi morali storiti, da roboti ne bi bili »biased« (pristranski)?

 

Spolna neenakost se lahko izraža na zelo podoben način – če je baza podatkov, na kateri se umetna inteligenca uči pristranska, bodo tudi rezultati takšni. Tako Facebookovemu kot tudi Microsoftovemu algoritmu za prepoznavo slik na primer očitajo, da osebe, ki na slikah opravljajo hišna opravila zaznavata kot izrazito ženske, medtem kot moške pogosteje povezujeta s športom in profesionalnim življenjem. Gre za velik problem, ki pa se ga vsi deležniki zavedajo, zato tako raziskovalci na univerzah kot tudi podjetja, ki se ukvarjajo z razvojem umetne inteligence, iščejo načine kako se takšnim rezultatom izogniti. Dejstvo pa je, da odločitev umetne inteligence velikokrat ni mogoče (enostavno) razložiti, kar velja tem bolj, če je tehnologija odločanja kompleksna (tim. učinek odločevalske črne skrinjice, ang. black box).

 

 

Naj se vrnem na tvojo osebno zgodbo. Velikokrat beremo o težavah (tudi v IPES-u smo že pisali o tej tematiki), s katerimi se srečujejo ženske na STEM (science, technology, engineering, and mathematics) področju, v katerega si ti posredno vpletena. Kako je biti ženska, ki se spoznava s tem področjem in se v njem udejstvuje profesionalno?

 

Moje izkušnje tako doma kot tudi v tujini so pozitivne in mislim, da se percepcija, da gre za moško področje počasi, a vztrajno spreminja. Težko pa govorim o tem, kakšne so razmere izven akademije, kjer je delež v prid moških še veliko bolj izrazit.