Artiklen er opdateret d. 6/5 klokken 16.10 med svar fra Snapchat.

På tusindvis af danske børn og unges mobiltelefon ligger Snapchat med sit velkendte logo med det hvide spøgelse og den gule baggrund.

De fleste bruger appen til at sende en selfie eller en 'snap' fra hverdagen. Men for nyligt har Snapchat fået en helt ny funktion:

En kunstig intelligens, som ligner en ven og har fået navnet 'My AI'. Den er placeret øverst i appen over samtaler med ens virkelige venner.

Og ifølge Snapchat selv kan den bruges til alt lige fra at give råd om den perfekte fødselsdagsgave, planlægge en vandretur eller foreslå, hvad du skal lave til aftensmad.

Teknologien er baseret på virksomheden OpenAI's chatbot, ChatGPT, som de seneste måneder har vendt op og ned på den digitale virkelighed verden over. Og introduktionen af den nye funktion har skabt bekymring hos blandt andre Børns Vilkår.

- Den giver sig jo ud for at være en ven på Snapchat. Det kan for eksempel betyde, at nogle børn får opbygget en form for tillidsfuldt forhold til den, hvor de deler følsomme oplysninger, siger ekspert i digitale medier hos Børns Vilkår, Kathrine Elmose Jørgensen.

- Desuden ved vi slet ikke, hvad chatbotten indeholder. Snapchat skriver endda selv, at den ikke er færdigudviklet endnu. Derfor kan de ikke udelukke, at den kan komme til at dele ukorrekt eller upassende indhold.

Hvad svarer 'My AI', når man stiller den spørgsmål? Det kan du se her:

Bliver kontaktet af skræmte børn

Hos Børns Vilkår er man allerede blevet kontakt af børn, som har lagt mærke til den nye "ven" i appen.

- Børnene synes, det er enormt skræmmende, at den form for "ven" pludseligt er dukket op i deres Snapchat. De synes, det er ubehageligt, at den nærmest overvåger dem.

Hos Børns Vilkår handler bekymringen blandt andet om, hvad børn og unge kan finde på at bruge den nye chatbot til – og hvilke svar den sender retur.

- Faren kan dels være, at de spørger om råd til noget, som chatbotten ikke kan give dem tilstrækkelig vejledning i eller råd om.

- Vi ved ikke, hvilken information som kommer ud af den, og det kan gøre, at den forsøger at misvejlede de børn og unge, som i virkeligheden har allermest brug for at tale med en professionel, en god ven eller en voksen, de har tillid til.

Desuden finder Børns Vilkår det problematisk, at det ikke er gennemskueligt, hvor det indhold, børn og unge deler med chatbotten, ender.

Ifølge Snapchat har man indført retningslinjer for brugen af 'My AI'. Blandt andet får brugere midlertidigt begrænset adgangen til chatbotten, hvis man gentagende gange stiller den upassende eller skadende spørgsmål.

Ifølge nyhedsbureauet Reuters fortalte Snapchats administrerende direktør, Evan Spiegel, tilbage i april, at man havde analyseret samtaler med 'My AI'. Undersøgelserne viste, at 99,5 procent af chatbottens svar overholdt Snapchats egne fællesskabsretningslinjer.

Desuden fortalte direktøren, at 'My AI' fremadrettet også ville tage hensyn til brugerens alder, når den svarede på spørgsmål.

Snapchat har jo selv sat nogle retningslinjer op for brugen af ’My AI’. Er det ikke nok?

- Det synes vi ikke, det er. Det er jo ikke sikkert, at børn og unge læser de her retningslinjer. Men derudover kan de heller ikke give nogen sikkerhed for, at den ikke deler noget, som er upassende eller ukorrekt med børnene.

Snapchat skriver selv på deres hjemmeside, at 'My AI’s' svar "kan indeholde forudindtaget, ukorrekt, skadeligt eller vildledende indhold".

Er det ikke forældrenes ansvar at sætte rammer og fortælle børnene, hvad de må – og ikke må?

- Vi mener ikke, at det i sidste ende alene er forældrenes ansvar – og heller ikke børnenes. Det er i høj grad op til politikerne og tech-giganterne at lave nogle bedre retningslinjer og reguleringer af det indhold, som bliver delt på deres platforme, siger Kathrine Elmose Jørgensen.

Minister: 'Den gør os alle til forsøgsdyr'

Heller ikke landets kulturminister, Jakob Engel-Schmidt (M), har meget positivt at sige om den chatbot, som nu er rykket ind på Snapchat. Det er ham, som blandt andet har regulering af sociale medie som sit resortområde.

- Jeg synes, at den kunstige intelligens er meget bekymrende, fordi den gør os alle sammen til et forsøgsdyr i et eksperiment, som ingen af os har sagt ja til at være med i, siger han.

- Mest af alt fokuserer den kunstige intelligens i Snapchat og andre apps på vores børn og unge i en periode af deres liv, hvor de er allermest sårbare.

Appen er nu pludseligt blevet noget meget andet, end den var, da de fleste brugere hentede den, mener Engel-Schmidt.

- Nu er den pludselig blevet udstyret med en chatbot baseret på kunstig intelligens, som har til formål at tale med vores børn, lære dem at kende, lagre data og sende nogle svar retur, som gør dem afhængige af at tale med et "væsen", som ikke er virkeligt.

Ministeren er bekymret for, at den nye funktion kan være med til at øge den mistrivsel som for nogle børn og unge følger i kølvandet på brugen af sociale medier.

Han ønsker nu at nedsætte et center for "tech og demokrati" i Kulturministeriet, som blandt andet skal samle den nødvendige viden for at rådgive forældre. Desuden skal centeret være med til, at man fra EU øger presset på tech-virksomheder som Snapchat for at indføre flere regler - for eksempel en fælles europæisk aldersverifikation.

- Men før vi når dertil, skal vi have en diskussion i samfundet.

- Man skal være 18 år for at være myndig og tage et realkreditlån. Men man skal åbenbart kun være 13 år, før man udleverer sin data til internationale tech-giganter, der kan trække en ind i et rum, hvor man ikke har adgang til det, der ligger bagved og bestemmer. Det er jeg ikke sikker på, jeg er tryg ved.

I et svar til DR udtaler en talsperson for Snapchat, at:

- ’My AI’ er blevet programmet til at overholde Snapchats fællesskabsretningslinjer for at undgå upassende eller skadelige svar, og vi har for nyligt integreret ’My AI’ i vores ’Family Center’, så forældre kan se, om deres teenagere chatter med den og hvor ofte det sker.

Ifølge Snapchat viser den første tid med 'My AI' at det særligt er emner som film, sport og kæledyr, som brugerne taler med chatbotten om.

- Vi viser en pop op, før folk kan bruge My AI, som minder dem om, at det er en sjov chatbot og rådgiver om dens begrænsninger, lyder det fra talspersonen.