Internet je super, ali – oprez!

U učeničkim domovima iznimno su važni empatija i međusobna podrška – kako među samim učenicima, tako i u odnosu učenika i odgajatelja

Stručnjaci u domu na povjerenju rade od prvoga dana, zbog čega se učenici ne ustručavaju prijaviti probleme ili sumnje

O potrebi regulacije uporabe mobitela napisano je mnoštvo stručnih i znanstvenih članaka, a svoj je doprinos dala i industrija zabave, poput kvalitetnoga dokumentarca „Škole koja je ukinula mobitele” (Velika Britanija) ili serija Adolescence i Sweet Bobby. Ovaj rad donosi kratki pregled iskustava u provedbi projekta „Opiši me!”, koji udruga Pragma provodi uz potporu Ministarstva znanosti, obrazovanja i mladih te u suradnji s Domom učenika srednjih škola Antun Gustav Matoš u Zagrebu. Rad se dotiče i teorijskih postavki povezanih s opasnostima digitalnoga svijeta te tranzicije iz analognoga u digitalni svijet.

Slobodno vrijeme

Temi digitalnoga svijeta i njegova utjecaja na mlade Pragma je posvetila cijeli školski kalendar „Online” 2023. godine – u vrijeme kada je velik dio obrazovnoga sustava, kao posljedica pandemije koronavirusa, bio premješten iz stvarnoga u digitalni prostor. Za razliku od srednjoškolskoga nastavnog kurikuluma koji se mogao provoditi uživo i online, rad i život u učeničkom domu, kao specifičnom mjestu odgoja, obrazovanja te stambene i životne zajednice, uvijek se događaju uživo. Ova se tema čini neiscrpnom s obzirom na tehnološki napredak te nove izazove i opasnosti na internetu kojima su podjednako izloženi i učenici koji žive kod kuće i oni u učeničkim domovima, uz određene specifičnosti.

Za razliku od škole, gdje postoji nadzor tijekom nastave i strogo strukturirano vrijeme, život u domu obuhvaća i emocionalne odnose učenika, njihov privatni prostor te slobodno vrijeme. Upravo tijekom slobodnoga vremena učenici se najviše koriste mobitelima, što zahtijeva pojačan nadzor i usmjeravanje. To je često izazovno zbog organizacije rada, velikoga broja učenika i rasporeda prostorija u samoj ustanovi (velik broj soba i sl.). Odgajatelji su često prve odrasle osobe koje primjećuju promjene u ponašanju učenika jer roditelji nisu u neposrednoj blizini. Te promjene mogu uključivati samoizolaciju, izbjegavanje grupnih aktivnosti, pad školskoga uspjeha ili općenitu promjenu ponašanja unutar doma. U domu je naglašena odgojna i preventivna uloga koja se očituje edukacijom, postavljanjem pravila uporabe tehnologije (uz nadzor nad njihovim provođenjem) te stalno razvijanje povjerenja između učenika i odgajatelja, kako bi se time smanjila potreba učenika za samoliječenjem i samodijagnosticiranjem. Pri tome je uloga odgajatelja i stručne službe višestruka: oni nisu samo nadzornici, nego i osobe od povjerenja, uzori koji moraju biti sposobni prepoznati opasnosti digitalnih tehnologija.

Međusobna potpora

U učeničkim domovima iznimno su važni empatija i međusobna podrška – kako među samim učenicima, tako i u odnosu učenika i odgajatelja. Stručnjaci u domu na povjerenju rade od prvoga dana, zbog čega se učenici ne ustručavaju prijaviti probleme ili sumnje. Odgajatelji i stručna suradnica pedagoginja posvećuju mnogo vremena individualnim razgovorima, čime se gradi sigurno okružje. Osim toga, održavaju se sastanci odgojnih skupina na kojima se učenici dodatno povezuju i jačaju osjećaj odgovornosti prema sebi i drugima.

Neki od aktualnih izazova o kojima je nužno razgovarati s mladima, koji zbog svoje nezrelosti često nisu svjesni rizika ili vjeruju da se negativna iskustva njima ne mogu dogoditi, uključuju kritičku uporabu informacija, razvoj odnosa s umjetnom inteligencijom te stvaranje prijateljskih i romantičnih veza putem interneta.

Povremeno se u medijima pojavljuju tragične priče o tinejdžerima koji su pod utjecajem digitalnih mreža počinili samoubojstvo. Ponekad je uzrok sadržaj kojemu su bili izloženi; primjerice, poznato je da algoritmi TikToka s vremenom češće serviraju negativne sadržaje (poput tema o samoozljeđivanju, lošem mentalnom zdravlju ili nasilju). Također, podneseno je nekoliko tužbi protiv tvrtki koje razvijaju AI chatbotove, a koje roditelji terete za poticanje njihove djece na suicid.

Kada je riječ o interakcijama djece i mladih na internetu, iznimno je važno u pedagoškom smislu upozoriti roditelje i samu djecu na problem seksualnoga zlostavljanja i iskorištavanja djece na internetu, jer brojke povezane s tim kaznenim djelima rastu zabrinjavajućom brzinom iz godine u godinu. 

Lažno predstavljanje

Nekoliko uznemirujućih podataka iz različitih izvora zorno prikazuje razmjere ove „epidemije”: Europska komisija navodi kako je samo 2021. godine u svijetu prijavljeno 85 milijuna slika i videozapisa seksualnoga zlostavljanja djece. Prema izvješću globalne studije Global Threat Assessment (2021.), provedene na više od 5000 osoba u dobi od 18 do 20 godina u 54 zemlje, u više od trećine ispitanika tijekom djetinjstva zatraženo je da učine nešto seksualno eksplicitno na internetu, dok je više od polovine doživjelo na internetu neki oblik seksualnoga zlostavljanja.

Zloupotreba se najčešće odvija na društvenim mrežama poput TikToka i Snapchata te u online igrama. Zlostavljači se sve češće koriste umjetnom inteligencijom za izradu fotografija, videozapisa, ali i teksta za mamljenje (grooming). AI im omogućuje brže uspostavljanje povjerenja s djetetom generiranjem „primjerene” i personalizirane komunikacije.

U većini slučajeva zlostavljanje se otkrije tek nakon što je kazneno djelo već počinjeno. Pružatelji internetskih usluga imaju ključnu ulogu u prijavi takvih sadržaja, no trenutačni sustav dobrovoljnoga prijavljivanja nije dovoljno učinkovit. Čak 95 posto svih prijava dolazi od samo jednoga pružatelja usluga (tvrtka Meta, vlasnik Facebooka, Instagrama i WhatsAppa). Društvo bi moralo zahtijevati od svih tehnoloških poduzeća veći angažman u otkrivanju i suzbijanju seksualnog zlostavljanja djece na internetu, što je i predmet prijedloga nove uredbe Europskog parlamenta i Vijeća o sprečavanju i suzbijanju seksualnog zlostavljanja djece (Europska komisija, 2022.). Prema tom prijedlogu, pružatelji usluga bili bi obvezni prijaviti i slučajeve mamljenja – prakse u kojoj predatori grade emocionalnu povezanost s djetetom radi manipulacije i zlostavljanja. Iako 76 posto građana podržava automatizirano otkrivanje takvih materijala, Uredba još nije izglasana zbog rasprava o zaštiti privatnosti i izbjegavanju neselektivnoga nadzora komunikacije građana EU-a.

Još jedna česta zamka jest lažno predstavljanje s pomoću izmišljenih ili ukradenih profila. Motivi mogu biti seksualno iskorištavanje, ali i „zabava”, osveta ili postupci osoba s poteškoćama mentalnog zdravlja. Takvi kontakti često prerastaju u vrlo intimne (romantične) odnose ili odnose zlostavljanja.

Edukacija, edukacija!

Kako bi se pomoglo mladima, Ravnateljstvo policije zatražilo je od Ministarstva znanosti, obrazovanja i mladih da se na mrežnim stranicama svih osnovnih i srednjih škola postave poveznice na aplikaciju Red Button i upitnik Help4U.

Upitnik Help4U izrađen je u suradnji s Europolom i istraživačkim centrom CENTRIC. Projekt je namijenjen osobama mlađima od 18 godina i usmjeren je na pružanje pomoći žrtvama. Riječ je o interaktivnoj mrežnoj stranici koja korisnike vodi kroz osam jednostavnih pitanja s unaprijed ponuđenim odgovorima, bez pohranjivanja osobnih podataka. Nakon ispunjavanja, korisnik dobiva personalizirani letak koji sadrži prijateljski uvod u obliku pisma, sažetak korisnikovih odgovora, savjete prilagođene situaciji te popis prava žrtava kaznenih djela.

Uz to, Ministarstvo je razvilo aplikaciju Red Button za lakšu prijavu nasilja. Aplikacija omogućuje i anonimnu prijavu, a prije svega je namijenjena djeci za prijavljivanje zlostavljanja, iskorištavanja ili bilo kojeg oblika povrede dječjih prava na internetu. Sve ove inicijative imaju zajednički cilj: educirati djecu i mlade o opasnostima koje vrebaju u digitalnom prostoru te im pružiti brzu i učinkovitu pomoć ako postanu žrtve.

MUP: Godišnje oko 500 kaznenih djela seksualnoga iskorištavanja djece 

Nacionalni centar za nestalu i iskorištavanu djecu (NCMEC) u SAD-u zabilježio je porast od čak 1325 posto u prijavama CSAM-a (Child Sexual Abuse Material – materijal seksualnoga zlostavljanja djece) povezanima s umjetnom inteligencijom između 2023. i 2024. godine, što iznosi 67.000 prijava. Preliminarni podatci do lipnja 2025. pokazuju zastrašujućih 440.419 novih prijava sadržaja generiranog umjetnom inteligencijom, u usporedbi sa 6835 prijava u istom razdoblju 2024. godine. Organizacija Thorn, koja razvija tehnološke alate za zaštitu djece, izvještava da je svaki sedamnaesti adolescent bio žrtva deepfake seksualnog materijala – slika i videozapisa stvorenih ili dorađenih pomoću AI-a bez privole osobe čiji je lik zloupotrijebljen.

Hrvatsko Ministarstvo unutarnjih poslova navodi kako se u Hrvatskoj godišnje zabilježi oko 500 kaznenih djela seksualnog iskorištavanja djece na internetu (upoznavanje s pornografijom, spolna zloupotreba djece mlađe od 15 godina, iskorištavanje za pornografiju, mamljenje radi zadovoljavanja spolnih potreba). Ovaj podatak zahtijeva maksimalnu pozornost svih stručnjaka koji rade s djecom, a osobito onih koji vode ustanove za odgoj i obrazovanje djece i mladih.

SAD: Tinejdžeri se povjeravaju umjetnoj inteligenciji

Podatci pokazuju da se više od 72 posto američkih tinejdžera koristilo AI chatbotovima, dok je gotovo osmina (13,1 posto) tražila „emocionalnu podršku ili pomoć za mentalno zdravlje”. Ako se taj postotak preslika na cijelu populaciju SAD-a, riječ je o 5,4 milijuna adolescenata. Tinejdžeri se povjeravaju umjetnoj inteligenciji dijeleći usamljenost, tjeskobu i očaj s digitalnim suputnikom koji je uvijek dostupan i nikada ne osuđuje. Savjete o mentalnom zdravlju od AI-a najčešće traže mladi u dobi od 18 do 21 godine; njih 66 posto koristi se takvim uslugama bar jednom mjesečno, a čak 93 posto smatra ih korisnima. Umjetna inteligencija im je nadohvat ruke, besplatna je ili jeftina, pruža privid privatnosti i ne zahtijeva izlazak iz zone komfora, što je često zaprjeka za odlazak stručnjaku. Međutim, istraživanja su pokazala da chatbotovi poput ChatGPT-ja u nekim slučajevima mogu ponuditi opasne savjete – primjerice o tome kako se „sigurno” samoozlijediti ili što napisati u oproštajnoj poruci. Uvidi u povijest razgovora osoba koje su počinile samoubojstvo pokazuju da su chatbotovi, iako programirani da odvraćaju od opasnih radnja, ponekad „prihvatili” ideju korisnika i pomogli im u osmišljavanju detalja.

Dodatni razlog za zabrinutost jest činjenica da se mozak tinejdžera još razvija, posebno dijelovi odgovorni za kontrolu impulsa, emocionalnu regulaciju i procjenu rizika. To mlade čini podložnijima utjecajima i manje opremljenima za procjenu točnosti ili sigurnosti AI savjeta. Stoga je takve sadržaje potrebno držati „pod povećalom”. Odgajatelji, koji s učenicima provode 24 sata dnevno, imaju ključnu ulogu. Putem radionica i u svakodnevnoj interakciji grade odnos u kojemu se učenici osjećaju sigurno, zaštićeno i znaju da zbog svoga povjeravanja ne će biti ismijani.