Kaj pa univerzitetne smernice za uporabo umetne inteligence?
Pred novim študijskim letom so na Univerzi v Ljubljani za svoje študentke in zaposlene pripravili novost: nove smernice za uporabo umetne inteligence. Te so obširnejše od starejših in vsebujejo ločena priporočila za študentke, visokošolske pedagoginje, raziskovalke in strokovne delavke na univerzi. Tako naj bi bolj jasno opredeljevale dovoljeno in nedovoljeno uporabo umetne inteligence in ponujale konkretnejša priporočila za njeno odgovorno, etično in varno uporabo. Ravno zaradi obsežnosti novih smernic bomo v današnji oddaji Kaj pa univerza podrobneje pogledale samo nekatera področja, ki jih pokrivajo.
Smernice na začetku uvajajo nekaj ključnih pojmov in splošnih načel uporabe umetne inteligence, krajše UI. Za uporabo orodij UI vedno odgovarja njena uporabnica, hkrati pa mora biti prispevek umetne inteligence transparenten in jasno razviden. Prav tako mora biti obseg uporabe orodij UI sorazmeren glede na namen uporabe, na primer pri študijskih nalogah. Posebno mesto v načelih je namenjeno tudi varnosti osebnih, zaupnih ali internih podatkov pri uporabi javno dostopnih orodij UI, ki se mu bomo podrobneje posvetile proti koncu oddaje. Poleg tega smernice zahtevajo, da obvezna uporaba orodij umetne inteligence ne sme povečevati razlik med uporabnicami zaradi stroškov njihove uporabe.
V kontekstu univerzitetnega izobraževanja je najbolj zloglasna uporaba orodij umetne inteligence med študentkami, sploh ko jih ta nadomeščajo pri opravljanju študijskih obveznosti. Preden pogledamo konkretne smernice glede uporabe UI, se je vredno vprašati, v kolikšnem obsegu in za katere namene jo študentke uporabljajo. Odgovor na to vprašanje nam je podal redni profesor na ljubljanski Filozofski fakulteti Marko Radovan, ki je uporabo orodij UI med slovenskimi študentkami analiziral v okviru nedavno objavljene raziskave.
V nadaljevanju nas je podrobneje zanimalo, v kakšnih kontekstih se študentke poslužujejo orodij UI in ali ti načini kršijo načelo akademske integritete. Odgovarja Radovan.
Za vodilo študentske in tudi širše uporabe orodij umetne inteligence smernice poudarjajo predvsem načeli prevzemanja osebne odgovornosti za izdelke ter transparentnosti glede obsega in namena uporabe orodij UI. V kontekstu morebitne nedovoljene uporabe nas je zanimalo še, kakšne so sploh trenutne zmogljivosti orodij umetne inteligence na področju opravljanja študijskih obveznosti. Več o tem nam je povedal Ljupčo Todorovski, raziskovalec na področju umetne inteligence in redni profesor na ljubljanski Fakulteti za matematiko in fiziko.
Na Univerzi v Ljubljani so v odgovorih na naša vprašanja glede razširjenosti uporabe orodij umetne inteligence med študentkami zapisali, da ta nedvomno narašča. Na ravni rektorata ne vodijo centralne evidence glede števila relevantnih disciplinskih postopkov, so pa bili po njihovih informacijah zaznani posamezni primeri nedovoljene uporabe orodij UI pri pripravi zaključnih del.
So pa na univerzi poudarili, da, citiramo: »uporaba umetne inteligence sama po sebi ni sporna, če je skladna z navodili izvajalcev predmetov in načeli akademske integritete.« Konec citata. Za dovoljeno uporabo orodij UI tako smernice za študentke navajajo jezikovni pregled in prevajanje lastnega besedila, parafraziranje in preoblikovanje lastnega izdelka ter začetno iskanje informacij in orientacijo po temi. Dovoljena je tudi dobesedna uporaba besedila ali drugega izdelka UI, pod pogojem, da je to ustrezno navedeno. UI lahko pomaga tudi v raziskovalnem procesu, kjer smernice posebej izpostavijo pripravo raziskovalnih vprašanj, ter ustvarjanju sintetičnih podatkov, če je to pri nalogi dovoljeno. Pri vsem tem mora biti način uporabe umetne inteligence jasno naveden.
Medtem pa smernice za prepovedano uporabo orodij umetne inteligence definirajo dobesedno kopiranje besedil, ki jih je generirala UI, ter tudi parafraziranje in prevajanje besedil z namenom prikrivanja plagiatorstva. Problematična je tudi uporaba sintetičnih podatkov za manipuliranje rezultatov ter ustvarjanje lažnih virov, izmišljenih citatov, neresničnih podatkov, ponarejenih dokazil ali zavajajočih raziskovalnih rezultatov. Posebej izpostavijo še nedovoljeno ali nenavedeno uporabo UI v sklopu ocenjevanj.
Pri vsem tem pa se odpira vprašanje, kako uporaba teh orodij vpliva na dejansko znanje študentk. Več o trenutnih odkritjih na tem področju pove Radovan.
Potencialno kršenje akademske integritete pa odpira tudi vprašanja o tem, kako bi nedovoljeno uporabo orodij umetne inteligence na univerzi sploh zaznali. Obstajajo namreč orodja zaznave uporabe orodij UI, a so nezanesljiva. To v smernicah priznavajo tudi na univerzi, saj lahko orodja za zaznavo služijo le kot opozorilo na nedovoljeno uporabo, ki jo je treba dokazati na druge načine. Več o tem pove Todorovski.
Orodja umetne inteligence v kontekstu visokošolskega izobraževanja seveda niso uporabna le za študentke, ampak lahko delo olajšajo tudi visokošolskim pedagoginjam. Tudi to področje je raziskoval Radovan.
Smernice Univerze v Ljubljani za visokošolske pedagoginje sicer definirajo predvsem načine uveljavljanja in opozarjanja na smernice, ki so namenjene študentkam. V nekaterih delih regulirajo tudi uporabo med pedagoginjami. Svoj pogled na trenutno uporabnost orodij UI za visokošolske pedagoginje in omejitve, ki jih na tem področju uvajajo smernice, nam je podal tudi Todorovski.
Seveda je vseobsežna uporaba orodij generativne umetne inteligence v univerzitetnem kontekstu že zdavnaj presegla le uporabo znotraj pedagoškega procesa in danes predstavlja tudi pomembno orodje pri raziskovalnem delu. Pri tem se odpirajo nova vprašanja o tem, kaj nekritična uporaba takšnih orodij pomeni za znanost. Zato smo Todorovskega prosile za mnenje o tem, kje so ta orodja najbolj uporabna v raziskovanju in ali lahko predstavljajo težavo za znanost.
Nove smernice Univerze v Ljubljani tako dovoljujejo uporabo teh orodij pri pregledovanju literature in iskanju virov ter obdelavi izvirnih besedil. Dovoljujejo tudi transparentno uporabo pri zbiranju, obdelavi in analizi podatkov, ko je to raziskovalno koristno. Posebej pa opozarjajo na uporabo javno dostopnih orodij UI pri recenziranju znanstvenih del, saj lahko to ogrozi zaupnost njihove vsebine.
Pomembno področje, ki ga pokrivajo smernice, je tudi varnost podatkov. Tako je v načelih odgovorne uporabe umetne inteligence navedeno, da v javno dostopna orodja UI, citiramo: »ni dovoljeno vnašati osebnih podatkov, zaupnih ali internih gradiv, neobjavljenih raziskovalnih rezultatov, izpitnih gradiv, pogodbenih podatkov, avtorskih gradiv ali drugih varovanih podatkov.« Ni si težko predstavljati, da bi orodja umetne inteligence lahko olajšala tudi tudi delo s takšnimi podatki, predvsem med strokovnimi delavkami univerze, na kar jih tudi posebej opozarjajo njim namenjene smernice. Zato smo Todorovskega prosile za komentar o tem, kaj se lahko s takšnimi podatki zgodi, če jih kljub temu naložimo v javno dostopno orodje UI.
Glede na obsežnost smernic za uporabo orodij UI je na mestu tudi vprašanje, ali so trenutno študentke in zaposlene na univerzi sploh dovolj usposobljene, da jih lahko efektivno in varno uporabljajo. Mnenje o tem je podal Radovan.
Na Univerzi v Ljubljani obstaja v okviru Centra za obštudijske dejavnosti zunanji izbirni predmet Kompetentna in etična uporaba umetne inteligence, za katerega nam je univerza v odgovoru zatrdila, da se je izkazal kot zelo uspešna oblika izobraževanja. Pri tem so v odgovoru na naše vprašanje o izobraževanjih za tiste študentke, ki tej temi ne zmorejo ali ne želijo nameniti celega semestra zapisali, da se tega zavedajo in da razvijajo tudi druge, krajše oblike izobraževanj, pri čemer so posebej omenili novembrski Mesec digitalnih veščin.
Mnenje o tem, kakšen bi bil smiseln pristop k izobraževanju za kompetentno uporabo orodij UI, je podal tudi Radovan.
Oddajo bomo zaključile z ozaveščanjem študentov in zaposlenih na univerzi o novih smernicah. To je še posebej pomembno, saj so po besedah univerze smernice živ dokument, ki ga bodo na univerzi posodabljali in dopolnjevali skladno z razvojem tehnologije. Na vprašanje o tem, kako nameravajo doseči, da bodo relevantne deležnice seznanjene z novimi smernicami, so nam na univerzi odgovorili, da študentke in zaposlene redno obveščajo, citiramo: »prek mesečnega e-novičnika E-univerzitetnik, ki ga prejmejo vsi zaposleni in študenti«. Konec citata. Zapisali so še, da bodo ob začetku študijskega leta informacije o smernicah zaradi informiranja novovpisanih posredovali tudi v ločenem sporočilu. Dodatno so poudarili, da so za ozaveščanje študentk odgovorne tudi posamezne članice univerze.
Ker nas načrti univerze o obveščanju prek e-novičnika in sporočil rektorata niso prepričali, saj jih po naših izkušnjah večina študentk ne bere, vas bomo o morebitnih za študentke pomembnih spremembah smernic obveščale tudi v prihodnje.
Dodaj komentar
Komentiraj