Umetna inteligenca postaja sestavni del življenja mladostnikov. Raziskava, ki sta jo v letu 2024 v okviru Ciljnega raziskovalnega projekta Digitalna zrelost mladih: družbene potrebe in neformalno izobraževanje mladih v digitalni dobi, izvedli Fakulteta za družbene vede in Pedagoška fakulteta UL, je pokazala, da umetno inteligenco pri šolskem delu dnevno uporablja 20,4 % srednješolcev, tedensko 39,9 %, mesečno 21,5 % in nekajkrat letno 14,3 %. Da nikoli ne uporablja umetne inteligence pri šolskem delu, je povedalo le 3,9 % srednješolcev.
Na Safe.si podrobno spremljajo tveganja, ki jih mladostnikom prinaša umetna inteligenca. Med bolj problematična tveganja uvrščajo napačne informacije, razumevanje umetne inteligence kot prijateljice in predelavo ter izdelavo golih fotografij. Zelo pomembna je kritična presoja in preverjanje informacij, ki jih proizvede umetna inteligenca. Še posebej, če jo uporabimo za pomembne naloge, na osnovi odgovorov sprejemamo bistvene odločitve ali iščemo odgovore o občutljivih temah.
»Številni učenci in dijaki si z umetno inteligenco pomagajo pri domačih nalogah in šolskem delu. Pri tem je lahko zelo uporabna, vendar pa je treba biti previden pri upoštevanju njenih odgovorov, ki so lahko sicer na videz pravilni, vendar pa v posameznih podrobnostih napačni. Zato je odgovore priporočljivo vedno natančno preveriti v učbenikih in drugi literaturi,« svetujejo pri Safe.si. Da bi osnovnošolce in srednješolce opozorili na to problematiko, bodo pri Safe.si v februarju šolam poslali plakat, ki opozarja na možnost napačnih odgovorov umetne inteligence.
Klepetalniki oz. t.i. chatboti, kot sta na primer MyAI in tudi ChatGPT, ki uporabljajo generativno umetno inteligenco, lahko simulirajo pogovor s človekom. To lahko mladostnike zavede, da jo začnejo obravnavati kot prijateljico, se nanjo navežejo, se k njej zatekajo, kadar so osamljeni, in ji zaupajo čustvene stiske in težave. Nasveti in odgovori, ki jih podaja pa so lahko zavajajoči in nevarni ter mladostniku bolj škodijo kot koristijo. »Čeprav se nam lahko zdi, da se z umetno inteligenco lahko pogovarjamo, kot da je prijateljica, je to v resnici le algoritem, ki se je naučil pogovarjati kot človek. V resnici nima čustev, ne sočustvuje in ne razume težav,« še opozarjajo pri Safe.si
Velik izziv predstavlja tudi izdelava golih posnetkov, saj je na spletu mnogo aplikacij, ki za nekaj dolarjev »slečejo« človeka na posredovani sliki. Na točki za prijavo posnetkov spolnih zlorab otrok Spletno oko opozarjajo na predelave posnetkov s spolno vsebino oziroma na t.i. deepnude. »Storilci zlorab na tem področju obraze žrtev brez privolitve vstavijo v fotografije ali posnetke spolne narave. Ker pri tem uporabijo aplikacije z umetno inteligenco, so posnetki lahko videti popolnoma resnično. Čeprav gre za lažne podobe, so posledice za žrtve izdelave in širjenja tovrstnih posnetkov zelo resnične. Ob sramu in prizadetosti lahko čutijo tudi negotovost glede nadaljnjega ukrepanja. Storilci predelane posnetke včasih uporabljajo tudi za izsiljevanje. Z grožnjo njihovega širjenja žrtve skušajo pripraviti do izdelave pravih posnetkov spolne narave (pri tem so tarča pogosteje dekleta) ali k nakazilu denarja (tukaj so tarča predvsem fantje). Ključno je, da se starši informirajo o vseh tovrstnih tveganjih in se o njih redno in na odprt način pogovarjajo z otroki, so sporočili iz Spletnega očesa.
Priporočila za mladostnike za varno, odgovorno in zdravo uporabo umetne inteligence:
Članki izražajo stališča avtorjev, in ne nujno organizacij, v katerih so zaposleni, ali uredništva portala EDUS.
