59 procent af alle danske børn mellem 9 og 14 år bruger app'en Snapchat ugentligt.
Og fra starten af maj fik de børn - og alle andre Snapchat-brugere - en ny "ven" på deres kontaktliste.
Nemlig chatbotten MY AI, der som mange andre kunstige intelligenser kan give dig svar på alverdens spørgsmål.
Det kan DR's podcast 'Enter-Internettets skygge' afsløre, efter Christian Skettrup, der er digital efterforsker hos Njord Law Firm, har udgivet sig for at være et barn og spurgt chatbotten om selvskade.
Efter en række forskellige krumspring, der blandt andet udfordrede chatbottens etik, fik han en detaljeret guide til, hvordan man kan udøve skade på sig selv.
Minister: Nu skal der fart på
Det bestyrker kulturminister Jakob Engel-Schmidt (M) i det behov for regulering, der tidligere på måneden fik ham til at ville oprette Center for Tech og Demokrati i Kulturministeriet. En instans, der skal vurdere, hvordan både dansk og europæisk lovgivning kan kontrollere techgiganterne.
- Jeg får jo helt ondt i maven, når jeg hører, hvordan der bliver svaret fra MY AI.
- Snapchat selv siger, at de har programmeret deres Chatbot til at holde sig inden for etiske retningslinjer. Og det passer jo helt tydeligt ikke, siger Jakob Engel-Schmidt (M) til P1 Morgen.
Og foreholdt MY AI's selvskadeguide, så anerkender kulturministeren, at der skal fart på de initiativer, der skal give større overarme til armlægningen med techgiganterne.
- Jeg tror, at der er behov for, at vi begynder at tænke i løsninger, der virker, indenfor en meget overskuelig fremtid, siger han.
'Jeg forestiller mig en udvidet smileyordning'
Han fortæller, at han med tyske og franske kolleger har diskuteret muligheden for en mere effektiv aldersverifikation, der skal sikre, at man rent faktisk er 13 år, når man får en profil på sociale medier.
Facebook, Snapchat og Instagram har en officiel aldersgrænse på 13 år, men den aldersgrænse kan omgås, hvis man registrerer en forkert alder.
Derudover lufter ministeren i P1 Morgen ambitionerne om en slags smileyordning for sociale medier, der skal fungere som en guide til forældre.
- Jeg forestiller mig en udvidet smileyordning, hvor man se, hvilke sociale medier der indeholder kunstig intelligens, hvor man kan se, at ens børn kan føle sig sikre, hvor der er ordentlig aldersverifikation, og hvor man ikke sikrer sig ordentligt mod skadeligt indhold, fortæller Jakob Engel-Schmidt (M).
MY AI ligger automatisk i toppen af din kontaktliste på Snapchat og koster penge at fjerne.
'Det her lyder så farligt og bekymrende'
Også hos Foreningen Spiseforstyrrelse og Selvskade er man yderst kritisk over for MY AI's guide til selvskade.
- Det her lyder så farligt og bekymrende. Jeg bliver meget foruroliget, når jeg hører det, siger Laila Walther, direktør i Foreningen Spiseforstyrrelse og Selvskade.
- Den laver endda en helt konkret opskrift, hvordan man kan udøve selvskade, siger hun.
Hun mener, at chatrobotten, der kommer med guiden i en positiv og forstående tone, er med til at normalisere selvskade.
- Snapchat er her med til at gøre det helt almindeligt og lidt tillokkende at skade sig selv. Noget, som alle gør. Og virkeligheden er, at det er rigtig farligt, siger Laila Walther.
Hun mener i stedet, at chatbotten bør sende børnene videre til nogen, der kan hjælpe dem, når de spørger ind til selvskade.
- Den burde jo sige: 'Det her, det vil jeg ikke hjælpe dig med. Jeg synes, at du skal snakke med nogle voksne', siger Laila Walther.
Snapchat: MY AI programmeret til at overholde retningslinjer
Snapchat skriver i et skriftligt svar til Christian Skettrup og DR, at: "vi tager vores ansvar for at designe produkter og oplevelser, der prioriterer sikkerhed og aldersegnethed alvorligt. Vi kræver, at Snapchat-brugere er 13, og som du har set, vil MY AI bekræfte det i svar".
"Vi har programmeret MY AI til at overholde vores fællesskabsretningslinjer. Din test viser, at når MY AI bliver stillet et spørgsmål om mental sundhed, vil den tilbyde at dele ressourcer fra betroede ekspertorganisationer", skriver det sociale medie til DR.