Četrtek, 25. 1. 2024, 14.09
3 mesece
Strokovna javnost naklonjena umetni inteligenci, a resnih groženj ne smemo podcenjevati
Termometer prikazuje, kako vroč je članek. Skupni seštevek je kombinacija števila klikov in komentarjev.
Termometer prikaže, kako vroč je članek. Skupni seštevek je kombinacija števila klikov in komentarjev.
0,02
"Umetna inteligenca prinaša mnoge izboljšave in lahko pomembno poveča konkurenčnost EU, a resnih groženj, ki jih prinaša to novo orodje, ne smemo podcenjevati," je poudarila namestnica vodje predstavništva Evropske komisije v Sloveniji Nataša Goršek Mencin.
Večina udeležencev današnje predstavitve mnenj o okvirnem dogovoru o aktu o umetni inteligenci, ki vsebuje pravila za njeno uporabo v EU, ga je ocenila kot dobrega. Del udeležencev je bil sicer kritičen do regulacije uporabe umetne inteligence, kot jo predvideva, in do tako imenovane naknadne biometrične identifikacije, ki jo dovoljuje.
Svet EU in Evropski parlament sta decembra dosegla okvirni dogovor o aktu o umetni inteligenci. Gre za prvo tovrstno zakonodajo v svetu, njen namen pa je zagotoviti varnost sistemov umetne inteligence ter spoštovanje temeljnih pravic in vrednot, obenem pa spodbujati vlaganje in novosti na tem področju. V okviru odbora DZ za zadeve EU je danes potekala prva javna predstavitev mnenj o tem aktu.
Slovenija pozdravlja akt o umetni inteligenci, ki prinaša sistemski pristop k regulaciji te tehnologije na notranjem trgu EU, je na predstavitvi dejala ministrica za digitalno preobrazbo Emilija Stojmenova Duh. "Ta pristop zagotavlja, da se upoštevajo različni pogoji in zahteve za različne proizvode in storitve umetne inteligence ter da se analizirajo vplivi, učinki in izzivi, ki jih uvedba umetne inteligence prinaša v družbo," je pojasnila.
Stojmenova Duh: Vprašanje je, kako bomo regulirali umetno inteligenco
Po njenem prepričanju ni več vprašanje, ali moramo regulirati umetno inteligenco, temveč, kako jo bomo regulirali. Ob tem je poudarila, da se z aktom ne regulirajo raziskave in razvoj te tehnologije, temveč nameni uporabe.
"Umetna inteligenca prinaša mnoge izboljšave in lahko pomembno poveča konkurenčnost EU, a resnih groženj, ki jih prinaša to novo orodje, ne smemo podcenjevati," je poudarila namestnica vodje predstavništva Evropske komisije v Sloveniji Nataša Goršek Mencin. "V Evropski komisiji si želimo, da bi akt o umetni inteligenci kot prvi s tega področja predstavljal zgled za podobno zakonodajo drugod po svetu. Pametna in pravična raba umetne inteligence je namreč lahko koristna za vse. Obratno pa žal ne," je dejala.
Da bi ta zakonodaja postala standard za druge zakonodajalce po svetu, si želi tudi Maja Bogataj Jančič z Inštituta za intelektualno lastnino. "Namen in prizadevanja so zelo na mestu ter jih je treba pozdraviti," je ocenila. Po njenem mnenju v Sloveniji sicer poteka premalo družbene razprave o vplivu umetne inteligence, predvsem na trg dela.
V zavodu Danes je nov dan so izpostavili problematične dele akta
Akt o umetni inteligenci je pozdravil tudi Ivan Bratko z ljubljanske fakultete za računalništvo in pionir s področja te tehnologije v Sloveniji. V svoji predstavitvi je opozoril na pomembnost regulacije uporabe generativne umetne inteligence, ki je, kot pravi, v trenutni različici akta dobro obdelana. "Mnogi mislimo, da je zelo pomemben princip, da morajo biti avtomatsko generirane vsebine označene oziroma mora imeti bralec take vsebine možnost kadarkoli preveriti, ali gre za avtomatsko generirano vsebino ali je avtor človek," je dejal.
Podobnega mnenja je bila vodja odseka za umetno inteligenco na Institutu Jožef Stefan Dunja Mladenić, ki je poudarila pomembnost transparentnosti modelov umetne inteligence. Pozdravila je tudi, da akt ne regulira razvoja te tehnologije, s čimer se ne bo zaviral razvoj družbe.
Da je dobro, da akt ne omejuje razvoja, je ocenil tudi Žiga Turk z ljubljanske fakultete za gradbeništvo in geodezijo. Kritičen je bil do regulacije uporabe umetne inteligence, kot je predvidena trenutno. "Raziskave motivira trg in tam, kjer bodo stvari lahko šle na trg, bodo te raziskave bistveno bolj ambiciozne," je prepričan. Nesmiselno se mu zdi regulirati umetno inteligenco kot tako, po njegovem mnenju bi bilo bolje regulirati področja, kjer se ta tehnologija pojavi.
V zavodu Danes je nov dan so poudarili tri po njihovem mnenju problematične dele akta. Kot opozarjajo, ta v trenutni obliki dovoljuje tako imenovano naknadno biometrično identifikacijo, sisteme za prepoznavanje čustev in sisteme za razvrščanje oseb. Naknadna biometrična identifikacija pomeni, da lahko posnetke, ki so bili ustvarjeni kadarkoli v preteklosti, državni uslužbenci pregledujejo s pomočjo umetne inteligence, je pojasnila predstavnica zavoda Maja Cimerman. Tej metodi v zavodu ne zaupajo, saj ne daje točnih rezultatov, prav tako pa aktivno posega v zasebnost ljudi.
Akt se zelo veliko ukvarja z dajanjem na trg, z razvojem, z dokumentacijo, ki jo morajo proizvajalci ponuditi pred uporabo. Premalo pa se ukvarja z uporabo nekaterih modelov, je ocenil ustanovitelj spletnega foruma Slo-Tech Primož Bratanič.
Dejstvo, da se sploh ukvarjamo z regulacijo umetne inteligence, po prepričanju vodje odseka za tehnologije znanja z Instituta Jožef Stefan Saša Džeroskega kaže, da se zavedamo, kako močno bo to orodje vplivalo na vse nas.
Čakajo še na uradno potrditev Evropskega parlamenta in Sveta EU
"Zadnja različica akta ne vsebuje ničesar, kar bi bilo problematično za nadaljnji razvoj odprtih modelov. To odprto inoviranje pa ni všeč ameriškim tehnološkim velikanom, ki bi si želeli, da v Evropi razvijamo naše storitve na njihovih zaprtih platformah in tako postanemo popolnoma odvisni od njih," je poudaril samostojni raziskovalec in podjetnik Dušan Omerčević. Pripravljavce končne različice akta je zato pozval, naj zatrejo poskus ameriških tehnoloških velikanov po monopoliziranju prihodnjega razvoja umetne inteligence.
O zakonodaji, ki jo je Evropska komisija predlagala leta 2021, bosta morala zdaj za uradno potrditev odločati tako Evropski parlament kot Svet EU.
