Spoštovani predsednik Vlade Republike Slovenije dr. Robert Golob,
12. novembra ste na novinarski konferenci javnost obvestili o javnem naročilu za dostop do platforme z velikimi jezikovnimi modeli, ki naj bi vsem Slovenkam in Slovencem omogočila brezplačen dostop do orodij generativne umetne inteligence.
Spodaj podpisani in podpisane podpiramo tehnološke inovacije in verjamemo v Slovenijo, v kateri dostopna, pravična, varna, odprta, trajnostna in vključujoča tehnologija služi ljudem, demokraciji in okolju. Prav zato s tem pismom izražamo zaskrbljenost in nasprotovanje takšnemu javnemu naročilu.
Sprašujemo se o smotrnosti takšnega nakupa – z vidika porabe javnih sredstev in z vidika digitalne suverenosti. V vaši izjavi omenjate predhodne pogovore z nekaterimi največjimi globalnimi ponudniki generativne umetne inteligence. Kupovanje licenc za dostop do velikih jezikovnih modelov je v nasprotju z državnimi strategijami in programi, denimo Nacionalnim programom za umetno inteligenco 2030 (NpUI 2030), ki je trenutno v nastajanju, kot tudi z evropskimi usmeritvami za krepitev odpornosti in tehnološke suverenosti, med drugim z načrtom za trajnostno blaginjo in konkurenčnost Evrope, akcijskim načrtom za celino umetne inteligence in strategijo za uporabo umetne inteligence. Vsi ti dokumenti želijo okrepiti položaj Evrope z razvojem lastne suverene umetne inteligence. Zakaj se potemtakem država odloča za nakup platforme pri tujih tehnoloških korporacijah, katerih rešitve temeljijo na zaprti programski opremi, namesto da bi ta sredstva usmerila v razvoj javne odprtokodne slovenske generativne umetne inteligence, kar zasleduje tudi NpUI 2030? V svetu, ki ga obvladujejo globalne tehnološke platforme in korporacije, katerih odločitve o podatkih, modelih, orodjih in infrastrukturi narekujejo predvsem ozki finančni kot tudi geopolitični interesi, mora Slovenija omejiti svojo odvisnost od komercialnih ponudnikov ter vlagati v razvoj tehnološko, infrastrukturno, podatkovno, regulativno in jezikovno suverene ter zaupanja vredne umetne inteligence v javnem interesu. Prepričani smo, da javni interes ne leži v rokah velikih korporacij.
Sprašujemo se o zasebnosti in varnosti uporabnikov ter naših osebnih podatkov. Uvajanje orodij generativne umetne inteligence brez tehtnega in strokovnega premisleka o njihovem vplivu na posameznike in družbo kot celoto ima lahko daljnosežne posledice.
Zaskrbljeni smo ob dejstvu, da v procesu oblikovanja javnega naročila ni bilo opravljeno posvetovanje s strokovnimi in splošnimi javnostmi. Takšno posvetovanje bi lahko razkrilo številne pomisleke glede predlaganega nakupa, na primer zadržanost z vidika varnosti uporabnikov in osebnih podatkov, ki jo je v zadnjih tednih izrazila tudi informacijska pooblaščenka. V svoji izjavi ste omenjali mlade in njihovo radovednost. Ste pri oblikovanju javnega naročila opravili strokovne premisleke glede vpliva generativne umetne inteligence, predvsem klepetalnih vmesnikov, na različne skupine v družbi – med drugim na otroke, osebe z nižjo digitalno pismenostjo, boleznimi ali raznolikimi potrebami? Kako boste preverili, da se tudi v procesu urjenja velikih jezikovnih modelov ni uporabljalo osebnih podatkov ali drugih neetično zbranih podatkov in virov? Podatkovne zbirke pogosto izvirajo iz različnih virov, denimo javnih in zasebnih repozitorijev, uporabniških interakcij z aplikacijami, vključno s strganjem podatkov z avtomatiziranimi boti s spleta, denimo z družbenih omrežij, kjer je kredibilnost in točnost informacij pogosto vprašljiva.
Sprašujemo se o spoštovanju avtorskih pravic. Veliki jezikovni modeli so lahko z vidika avtorskih pravic sporni tako zaradi uporabe tujih del za urjenje kot tudi zaradi vprašljivega avtorstva tako ustvarjenih rezultatov. Kako boste zagotovili, da dela slovenskih ustvarjalk in ustvarjalcev niso bila uporabljena nezakonito? Kakšne ukrepe boste sprejeli, da orodja generativne umetne inteligence ne bodo zlorabljena v procesih ustvarjanja avtorskih del ali v izobraževalnih in raziskovalnih procesih?
Sprašujemo se o spoštovanju delavskih pravic. Industrija generativne umetne inteligence temelji na nevidnem in pogosto nevarnem, podplačanem ali celo nezakonitem delu delavk in delavcev v procesu pridobivanja surovin za infrastrukturo in označevanja podatkov. Ste prepričani, da Slovenija s takšnim nakupom ne bo spodbujala kulture izkoriščanja?
Sprašujemo se o izpolnjevanju okoljskih in podnebnih zavez. Podatkovni centri imajo znaten vpliv na okolje, predvsem zaradi visoke porabe energije, vode in zemljišč, kar doprinaša k visokemu ogljičnemu odtisu, uničevanju narave in skupnosti ter zvočnemu onesnaženju. Kako boste zagotovili, da podatkovni centri in druga infrastruktura, potrebna za uresničitev javnega naročila, spoštujejo načela zelenega prehoda in družbene trajnostnosti?
Spodaj podpisani in podpisane smo prepričani, da mora tehnologija krepiti ljudi, skupnosti, javne storitve in državo. Zato vas pozivamo, da ponovno premislite in omejena javna sredstva raje vložite v avtonomno, pravično, varno, odprto, trajnostno in vključujočo generativno umetno inteligenco, ki je rezultat našega skupnega znanja in truda ter zasleduje javni interes Republike Slovenije.
dr. Maja Bogataj Jančič, vodja Inštituta za odprte podatke in intelektualno lastnino ODIPI
prof. Jana Javornik, Women4Ethical AI pri UNESCO
izr. prof. dr. Dan Podjed, antropolog
Špela Stare, generalna sekretarka Društva novinarjev Slovenije
Maja Vreča, Arnes in Safe.si
Jasna Zakonjšek, odvetnica
prof. dr. Darja Zaviršek, UL FSD
dr. Boris Vezjak, filozof
Tanja Devetak, Center za raziskave dizajna
prof. dr. Maca Jogan, FDV, zaslužna profesorica UL
Milena Javornik, upokojenka
dr. Katja Koren Ošljak, UL FDV in Zavod VSAK
Arne Vehovar
prof. dr. Peter Purg, Univerza v Novi Gorici, Akademija umetnosti in Fakulteta za humanistiko
prof. Eduard Čehovin
Sonja Lokar, predsednica ŽLS
mag. Boštjan Zupančič, prevajalec in tolmač
Ira Zorko
Ema Verbnik
prof. dr. Rajko Muršič
DUM – društvo umetnikov
izr. prof. dr. Emilija Stojmenova Duh, UL FE; Women in ethics in AI, UNESCO
Janez Fakin Janša, umetniški vodija Zavod Aksioma
Damjan Zorc, prevajalec
Jure Mesarič
Martina Lipnik
Marcela Okretič, direktorica Zavoda Aksioma
dr. Andrej Lukšič, direktor Inštituta za ekologijo
asist. Tonja Jerele, UL FDV
Slovenski PEN
doc. dr. Polona Petek
dr. Gorazd Kovačič, sociolog, UL FF
Visokošolski sindikat Slovenije
dr. Igor Ž. Žagar, direktor Pedagoškega inštituta
dr. Andrej Duh, fizik
dr. Hajdeja Iglič, sociologinja, UL FDV
Danes je nov dan,
Inštitut za druga vprašanja
Monika Ažman, dipl. m. s., mag. zdravstvene nege
dr. Dušan Caf, Inštitut Digitas
dr. Matjaž Ličer, fizik
Tristan Ažman, MBA
dr. Maja Simoneti, IPoP, Ljubljana
prof.dr. Mojca Kovač Šebart, Filozofska fakulteta, UL
dipl. inž. rač. in inf. Jurij Sitar
dr. Martin Pogačar, ZRC SAZU
Miha Frangež, Društvo za elektronsko in računalniško pismenost
izr. prof. dr. Andrej Kristan, Univerza v Bologni
doc. dr. Urša Valič, etnologinja in kulturna antropologinja, Filozofska fakulteta
prof. dr. Ana Kučan
Maja Hawlina, zavod Avanta Largo
dr. Ajda Pretnar Žagar, Fakulteta za računalništvo in informatiko; Inštitut za novejšo
zgodovino
ZASUK – sindikat za ustvarjalnost in kulturo
Umanotera – Slovenska fundacija za trajnostni razvoj
Kulturno izobraževalno društvo PiNA
doc. dr. Nina Cvar, UL FF & UL FE
Nataša Kramberger, samostojna delavka v kulturi
Meta Kokalj, univ. dipl. prav.
Piratska stranka
Anton Luka Šijanec, študent FRI in FMF UL
dr. Gašper Fele-Žorž, računalničar
dipl. inž. rač. in inf. Katja Goljat, magistrska študentka UL FRI
Boštjan Gorenc, prevajalec in pisatelj
dr. Timotej Lazar, UL FRI; Slovenska tovarna umetne inteligence
Simon Brežan, dr. med., kognitivni nevroznanstvenik
Dunja Fabjan, astrofizičarka
dr. Jana Kolar, ravnateljica NUK
Lio Novelli, avtor oddaje Tehno klistir
Jurij Podgoršek, avtor oddaje Tehno klistir
Samogostiteljski kolektiv Kompot
mag. Zlata Ploštajner
Brigita Jurisic, projektni vodja INL, Portugalska
prof. dr. Vesna Leskošek
Pismo je pripravil:
Ženski lobi Slovenije
zenskilobi@gmail.com