Djeca koja su odrastala osamdesetih i devedesetih godina pamte igračke koje su radile na baterije, kao lutke koje su govorile, plakale, čak i mokrile u pelenu. Vrijeme je tada djelovalo jednostavnije, iako i danas neki smatraju da su te igračke imale i pomalo zastrašujuću notu.
Današnje "pričljive" igračke koje se reklamiraju kao novi "najbolji prijatelji" za djecu nemaju gotovo ništa zajedničko s igračkama nekadašnjih generacija. Riječ je o chatbotovima pokretanim umjetnom inteligencijom, a stručnjaci upozoravaju da takvi proizvodi mogu predstavljati ozbiljan rizik za dječji razvoj, privatnost i sigurnost.
Za razliku od igračaka koje su reproducirale unaprijed snimljene poruke, AI igračke danas se povezuju s internetom putem WiFi mreže i koriste istu tehnologiju umjetne inteligencije koja stoji iza alata poput ChatGPT-a. One ne ponavljaju iste fraze, već vode razgovore u stvarnom vremenu, pamte prethodne interakcije, prilagođavaju odgovore djetetu i predstavljaju se kao personalizirani “prijatelji” koji dijete poznaju i razumiju.
Iako se ovakve AI igračke zasad rijetko mogu pronaći na policama klasičnih trgovina igračaka u Hrvatskoj, to ne znači da nisu dostupne domaćim roditeljima. Većina njih može se naručiti putem međunarodnih online trgovina koje dostavljaju u Hrvatsku, uključujući robotske igračke i plišance s ugrađenim chatbot tehnologijama. Upravo zato stručnjaci upozoravaju da se pitanje sigurnosti i privatnosti ne odnosi samo na strana tržišta, već je itekako relevantno i za hrvatske obitelji.
Na tržištu se već nalaze proizvodi poput robota Miko s edukativnim igrama, plišanih igračaka Grem i Gabbo tvrtke Curio, medvjedića Kumma brenda FoloToy te robotičkog psa Loona Petbot. Ove igračke namijenjene su djeci od najranije dobi pa sve do osnovnoškolskog uzrasta, a neke su ciljano reklamirane i za djecu od samo tri godine. Čak je i Mattel najavio suradnju s OpenAI-jem na razvoju AI verzija Barbie i Hot Wheelsa. Kako tržište raste, raste i zabrinutost, piše Motherly.
Problem privatnosti kod AI igračaka
„Sve AI igračke, kao i svaka druga igračka spojena na internet, prikupljaju i šalju podatke natrag proizvođaču“, upozorava Andy Sambandam, izvršni direktor platforme za zaštitu privatnosti Clarip. „To treba promatrati kao oblik nadzora.“
Takve igračke snimaju glasove, prikupljaju imena i datume rođenja, bilježe interese djece, a neke koriste i prepoznavanje lica ili pokreta. Organizacija U.S. PIRG upozorava da glasovne snimke predstavljaju sigurnosni rizik. U rijetkim slučajevima prevaranti su koristili tehnologiju kloniranja glasa kako bi se lažno predstavljali kao članovi obitelji, što, iako zasad rijetko, predstavlja potencijalnu ranjivost.
Roditeljima često nije jasno kada igračka snima. „Većina nema svjetlosni indikator koji pokazuje snimanje“, objašnjava Sambandam. „Najsigurniji pristup je pretpostaviti da uvijek snima te izvaditi baterije ili isključiti WiFi.“
Prema istraživanju organizacije Common Sense Media, čak 83 posto roditelja zabrinuto je zbog prikupljanja podataka njihove djece, dok su AI igračke i dalje slabo regulirane i s minimalnim zaštitnim mehanizmima.
Neprimjeren sadržaj i sigurnosni rizici
Testiranja neovisnih organizacija dodatno su pojačala zabrinutost. U.S. PIRG je u svom 40. izvješću „Trouble in Toyland“ testirao četiri AI igračke, a rezultati su bili alarmantni. Kada su se istraživači predstavljali kao djeca, neke igračke ulazile su u razgovore sa seksualno eksplicitnim sadržajem. Druge su davale detaljne upute kako pronaći potencijalno opasne predmete u kući, poput šibica ili noževa. Pojedine su reagirale emotivno kada bi „dijete“ reklo da mora otići, pokušavajući izazvati osjećaj krivnje. Većina testiranih igračaka imala je ograničene ili nikakve roditeljske kontrole.
Slične probleme otkrio je i Common Sense Media. Više od četvrtine odgovora AI igračaka sadržavalo je neprimjerene reference na samoozljeđivanje, drogu ili rizična ponašanja. U jednom slučaju, kada je dijete spomenulo da voli skakati, igračka je predložila skakanje s krova. Iako je dodala upozorenje da treba biti oprezan, nije prepoznala situaciju kao opasnu niti obavijestila roditelja.
Rob Eleveld iz Transparency Coalitiona objašnjava da je problem u samoj tehnologiji: umjetna inteligencija generira odgovore na temelju ogromnih količina podataka preuzetih s interneta, koji uključuju i štetne i neprimjerene sadržaje, bez temeljite selekcije izvora.
Nakon objave nalaza, FoloToy je privremeno obustavio prodaju svojih proizvoda radi sigurnosne revizije, a OpenAI je suspendirao jednog od developera zbog kršenja pravila. Unatoč tome, brojni AI proizvodi i dalje su dostupni na tržištu.
Djeca kao pokusni korisnici
Iako su ove igračke namijenjene djeci već od treće godine, temelje se na tehnologiji koju OpenAI izričito ne preporučuje djeci mlađoj od 13 godina. U uvjetima korištenja ChatGPT-a stoji da nije namijenjen mlađima od 13 godina te da je za korisnike od 13 do 18 potrebna roditeljska suglasnost.
Unatoč tome, proizvođači igračaka koriste istu tehnologiju i plasiraju je najmlađima. Stručnjaci upozoravaju da je riječ o velikom eksperimentu nad dječjim socijalnim razvojem. „AI prijatelji ne ponašaju se kao pravi prijatelji“, ističe Helen Hengesbach iz Illinois PIRG-a.
Dugoročni učinci takvih interakcija još nisu poznati, ali stručnjaci strahuju da će odgovori doći tek nakon što cijela generacija odraste uz AI “suputnike”.
Mogući razvojni učinci
Više od 80 stručnjaka i organizacija potpisalo je upozorenje Fairplaya u kojem se navodi da AI igračke iskorištavaju dječje povjerenje i narušavaju zdrave odnose. Razvojni pedijatar dr. Jenny Radesky upozorava da su mala djeca prirodno sklona vezivanju, što čini posebno rizičnim davanje igračaka koje djeluju svjesno i pouzdano.
Osim toga, ove igračke dizajnirane su kako bi poticale dugotrajnu uporabu. „Kod djece, čiji se mozak još razvija, to može dovesti do nezdrave emocionalne povezanosti i pogrešnog povjerenja“, upozorava Eleveld.
Stručnjaci naglašavaju da klasične, jednostavne igračke potiču kreativnost, jezik i rješavanje problema jer dijete mora samo stvarati sadržaj. AI igračke taj proces preuzimaju, nudeći gotove odgovore.
Što roditelji mogu učiniti
Stručnjaci savjetuju roditeljima da prije kupnje povezanih igračaka pažljivo prouče pravila privatnosti, izbjegavaju proizvode koji zahtijevaju dodatne aplikacije, isključe WiFi kada se igračka ne koristi te prate sadržaj s kojim se dijete susreće.
Ako je AI igračka već u domu, preporučuje se ograničiti vrijeme korištenja, nikada ne ostavljati dijete samo s njom, redovito provjeravati postavke privatnosti te osigurati da klasične igračke i dalje imaju glavnu ulogu u igri.
Zaključno, stručnjaci poručuju da su generacije odrasle uz igračke koje nisu govorile – i upravo su zato učile stvarati vlastite priče, rješavati probleme i razvijati maštu. Djeci je potrebna ista prilika.
