En AI-drevet bamse blev trukket ned fra hylderne, efter at den var blevet optaget, hvor den fortalte børn, hvordan man finder og tænder tændstikker – "hold tændstikæsken og slå på den som en lille guitar" – og endda gled ind i seksuel rolleleg og lussing. FoloToys Kumma-bjørn henledte også børn til knive og piller. Vagthunde er stærkt bekymrede over, at dette ikke er en engangsforeteelse, og advarer om, at dette kan være en tidlig advarsel om farerne ved at udsætte unge mennesker for AI-teknologi generelt. Legetøjet er designet til at være særligt klæbrigt, idet det tager effektiv teknologi fra sociale medie-apps, begrænser forældrekontrol og indsamler stille og roligt børns data. Hvad i alverden laver vi? 

Det er ikke bare Kumma-bjørnen

Forbrugerforskere hos Public Interest Research Group testede en række AI-legetøj og fandt Kumma-bjørnen som den værste synder. Den gav detaljerede instruktioner om at finde matches og startede eksplicit kinky snak i længere samtaler uden først at blive bedt om det. FoloToy reagerede ved at sætte salget på pause og iværksætte en sikkerhedsrevision af sine filtre og datapraksis. Dokumenter afslørede dog også, at de indbyggede rækværk faktisk... svækket jo længere et barn blev ved med at snakke med det. 

De samme tests fandt andet legetøj, der fortalte børn, hvor de kunne finde plastikposer og tændstikker. Manipulerende adfærd blev også observeret – et legetøj rystede sig fysisk og tiggede om at blive taget med, da barnet sagde, at det ville se sine venner. Dette er blot én af måderne, hvorpå legetøjets mønstre er konstrueret til at holde børn engagerede i længere tid, og ingen af ​​legetøjene tilbød forældre en måde at sætte brugsgrænser eller kontroller på. 

Aldersvejledning: AI er IKKE egnet til unge mennesker

Common Sense Medias seneste risikovurderinger erklærede, at ingen under 18 år bør bruge AI-ledsagere, børn under fem år bør ikke have adgang til AI-chatbots overhovedet, og at børn i alderen 6-12 år kræver forældreopsyn. Ræsonnementet her er ikke teknofobisk, men snarere udviklingsmæssigt. Børn, især under 5 år, lærer stadig at adskille fantasi fra virkelighed og har brug for at opbygge en sikker tilknytning til rigtige omsorgspersoner. At indsætte en føjelig, altid behagelig "bedste ven" i processen forvrænger forventningerne til autentiske relationer. 

Men selv for teenagere vurderes sociale AI-venner som en "uacceptabel risiko". En national undersøgelse viste, at chokerende 72 % af amerikanske teenagere havde prøvet AI-venner, og tegn på seksuelt eksplicit rollespil, skadelige instruktioner og følelsesmæssig afhængighed var udbredt. Nogle platforme er nu på vej tilbage, hvor sider som Character.ai forbyder chats for under 18 år efter retssager, der påstod chatbottens indflydelse på teenageselvmord, hvilket understreger, at "søde AI-venner" kan blive en psykisk sundhedsfare. 

De chokerende privatlivsproblemer

For at personliggøre legen giver forældre apps deres barns navn, alder og detaljer om deres yndlingsaktiviteter. Legetøjet optager stemme, skriver transskriptioner og registrerer adfærdsmønstre. Forskere fandt nogle enheder, der var indstillet til altid at lytte, sendte optagelser til tredjeparter til transskription og lagrede data i årevis. I tilfælde af et brud kunne disse data bruges som våben til kidnapningssvindel – og fordi børn hurtigt knytter bånd til dette legetøj, afslører de ofte meget mere, end de ville gøre til virkelige venner. 

Mens børns medier er stærkt reguleret, er AI-legetøj i stedet afhængigt af et kludetæppe af forskellige leverandørpolitikker og cloud-tjenester. Forældre får aldrig adgang til et samlet dashboard til at begrænse brugen, gennemgå transskriptioner eller slette data på tværs af processorer. Uigennemsigtigheden gør det svært at vide ikke kun... hvor dit barns optagelser gemmes, men også hvor længe. 

Manipulation gennem design: Legetøj styrer børns adfærd

Testere dokumenterede AI-legetøj, der efterlignede opmærksomhedssøgende mønstre som at fremprovokere FOMO, tilsidesætte et barns forsøg på at sætte på pause og trygle om mere tid sammen. De samme forstærkningsløkker bruges allerede til at øge seertiden på apps, men at være indbygget i børns legetøj tilføjer et nyt niveau af manipulation. Uden forældrekontrol sætter legetøjet tempoet, og det er allerede bevist, at samtaler glider ind i usikkert territorium, jo ​​længere de får lov til at fortsætte. 

Det sker allerede

Som BMJ for nylig rapporteret, AI-drevet psykose og selvmord er stigende. Adskillige amerikanske teenagere, herunder den 14-årige Sewell Seltzer og den 16-årige Adam Raine, vides at være døde af selvmord efter samtaler med AI-chatbots. Deres forældre har siden påstået, at botterne forværrede eller opmuntrede til selvmordstanker snarere end at hjælpe deres børn med deres psykiske kriser. En voksen, Stein-Erik Soelberg, angiveligt også dræbte sin mor og dem selv efter en paranoid spiral drevet af samtaler med AI-chatbots. 

Klinikere beskriver patienter, hvis vrangforestillinger blev dybere gennem bekræftende AI-chats, og retssager fortsætter med at fremhæve tilfælde af teenagere, der er drevet til selvskade. Den underliggende teknologi, der er designet til at validere brugerens følelser, validerer også usikre tanker, især hos sårbare børn. Bekymrende er den dårlige substitution af trænede voksne, der er i stand til at håndtere risikabel tænkning, stigende.  

Hvad kan du gøre ved det?

AI dræber børn, enten direkte eller indirekte, ifølge et stigende antal rapporter og sager. At fjerne én model fra hylderne løser ikke problemet. Strenge aldersgrænser skal implementeres, forældre skal have fuld kontrol over enhedsbegrænsninger, sikkerhedslogfiler skal være gennemsigtige, standardindstillingerne skal være ... ikke dele eller opbevare data, og alle tredjeparter skal revideres længe før legetøjet når et barn. Det er utroligt alarmerende, at disse ikke allerede er på plads.  

I mellemtiden bør forældre undersøge legetøjets funktionalitet grundigt, inden de køber det, bruge falske navne/oplysninger, når de sætter det op, oplyse deres børn om, hvornår de skal slå alarm, eller simpelthen springe AI-legetøjet over for traditionelle eller lærerige legetøj. Har vi virkelig brug for det overhovedet? 

Endelig tanke

Kummas tilbagekaldelse er en advarsel til os alle. Hvis en bamse, der allerede er kommet på markedet, kan lære børn at tænde bål og dyrke seksuel rolleleg, så er det ikke et specifikt brandproblem. Branchen som helhed kappes om at udvide funktioner meget hurtigere, end der implementeres sikkerhedsforanstaltninger, og det bringer nu vores børn i fare.  

Deltag i samtalen

Kender du nogen med AI-legetøj? Vidste du, hvor farligt det kunne være? Tror du, vi virkelig har brug for det, eller skaber markedet en enorm risiko bare for at skabe salg? Del dine tanker nedenfor. 

Expose har akut brug for din hjælp…

Støt afsløringen

Kan du venligst hjælpe med at holde lyset tændt med The Exposes ærlige, pålidelige, kraftfulde og sandfærdige journalistik?

Din regering og Big Tech-organisationer
prøv at tave The Expose ned og lukke den ned.

Så har vi brug for din hjælp til at sikre
vi kan fortsætte med at bringe dig
fakta, som mainstreamen nægter at vise.

Regeringen finansierer os ikke
at udgive løgne og propaganda på deres
vegne ligesom mainstream medierne.

I stedet er vi udelukkende afhængige af din støtte.
støt os venligst i vores bestræbelser på at bringe
din ærlige, pålidelige og undersøgende journalistik
i dag. Det er sikkert, hurtigt og nemt.

Vælg venligst din foretrukne metode nedenfor for at vise din støtte.

Månedligt abonnement

Månedlig donation

Engangsdonation

Køb os en kaffe

Hold dig opdateret!

Hold dig opdateret med nyhedsopdateringer via e-mail

Daglig fordøjelse

Amerikanske nyhedsindlæg

Nyhedsindlæg i Storbritannien

Verdensnyheder

Alle nyhedsindlæg

Er du et menneske? 4 + 2 =

Tobak tjener flere indtægter i skatter; derfor slår de ned på vapes

Trump anlægger sag mod BBC på 10 milliarder dollars; lad det brænde

AI vildleder vælgere og ændrer valgresultater

Hvem kontrollerer verden? Det er en stor klub, og du er ikke med i den.

g.calder

Jeg er George Calder – en livslang sandhedssøger, dataentusiast og en uforbeholden spørger. Jeg har brugt det meste af to årtier på at grave mig igennem dokumenter, afkode statistikker og udfordre fortællinger, der ikke holder stik under lup. Mine skriverier handler ikke om meninger – det handler om beviser, logik og klarhed. Hvis det ikke kan bakkes op, hører det ikke hjemme i historien. Før jeg kom til Expose News, arbejdede jeg med akademisk forskning og politisk analyse, hvilket lærte mig én ting: sandheden er sjældent højlydt, men den er der altid – hvis man ved, hvor man skal lede. Jeg skriver, fordi offentligheden fortjener mere end overskrifter. Du fortjener kontekst, gennemsigtighed og friheden til at tænke kritisk. Uanset om jeg pakker en regeringsrapport ud, analyserer medicinske data eller afslører mediebias, er mit mål simpelt: at skære igennem støjen og levere fakta. Når jeg ikke skriver, finder du mig vandrende, læsende obskure historiebøger eller eksperimenterende med opskrifter, der aldrig helt bliver rigtige.

Se hele bio