I mere end 20 år har danskere anonymt kunnet tippe Red Barnet om materiale, der viser seksuelt misbrug af børn – også omtalt som børneporno.
Men nu udfordrer en ny trend de Interpol-uddannede medarbejdere hos Red Barnet, der analyserer anmeldelserne og forsøger at identificere børn og bagmænd i samarbejde med politi og internationale samarbejdspartnere.
For pludselig er det blevet svært at se, om overgrebsmaterialet er virkeligt eller animeret med eksempelvis kunstig intelligens (AI).
– Vi ser en voldsom stigning i animeret materiale, der kan være AI-genereret, som viser seksuelle overgreb mod børn, fortæller psykolog Per Frederiksen, der er seniorkonsulent i Red Barnets team mod overgreb, som blandt andet har tjenesten AnmeldDet.
Med kunstig intelligens har pædofile fået nye muligheder for selv at skabe billedmateriale til deres fantasier.
Skygger, rynker og kropshår
Red Barnets hotline AnmeldDet er en del af et større netværk, hvor organisationer, nationale myndigheder, Europol og Interpol samarbejder om at fjerne seksuelt overgrebsmateriale med børn på internettet.
De seneste år har AnmeldDet fået omkring 3000 anmeldelser årligt fra bekymrede borgere om materiale, som ifølge borgerne viser overgreb mod børn. En stor del af materialet viser sig ved Red Barnets gennemgang at være lovligt, men der er også en del materiale, der er ulovligt og sendes videre til dansk politi og internationale samarbejdspartnere.
De seneste år har en stigende del af materialet også vist sig at være animeret.
Mens antallet af anmeldelser, som viser sig at være animeret materiale, i 2020 og 2021 lå på henholdsvis 18 og 22, så steg tallet sidste år til 208.
Og i løbet af de første seks måneder af 2023 er det tilsvarende antal allerede oppe på over det dobbelte med 510 anmeldelser.
Nogle gange er materialet meget livagtigt. Red Barnet har beskrevet to konkrete sager for TV 2, og heraf fremgår det, at en høj detaljegrad med skygger, rynker og kropshår samt virkelighedstro omgivelser kan gøre det svært at vurdere, om materialet er ægte eller ej.
– Det er bekymrende. Vi kan frygte, at den teknologiske udvikling med blandt andet AI kan føre til, at overgrebsmateriale af børn bliver mere udbredt, siger Per Frederiksen.
Set i forhold til de øvrige anmeldelser til Red Barnet, så var det i 2022 færre end hver tiende anmeldelse, der havde med animeret materiale at gøre. I 2023 gælder det mere end hver femte.
– Noget, fanden har skabt
Det er Nationalt Cyber Crime Center (NC3), der har det overordnede ansvar for cyberrelaterede seksualforbrydelser. Centeret er en del af National enhed for Særlig Kriminalitet (NSK).
Hos NSK er man opmærksom på udfordringen med kunstig intelligens.
– Kunstig intelligens i den her sammenhæng er noget, fanden har skabt. For det bliver bare bedre og bedre, og vi kan godt se, at det kan give et vældigt problem for os på sigt, siger politikommissær i NSK Flemming Kjærside.
Lige nu mener han godt, at politiet kan skelne og se, om der er tale om animeret materiale skabt med kunstig intelligens, eller om der er tale om et ægte barn.
Men det bliver sværere, efterhånden som computerprogrammer og kunstig intelligens bliver udviklet til at gøre materialet mere vellignende.
– Så risikerer vi at bruge tid på at forsøge at finde et barn, der ikke findes, forklarer Flemming Kjærside.
Han kan ikke med sikkerhed sige, om politiet allerede er stødt på materiale skabt med kunstig intelligens. Men politiet støder jævnligt på animeret materiale, når efterforskere finder krænkende materiale med seksuelt misbrug af børn på beslaglagte computere i straffesager.
Ægte overgreb forklædt som animeret materiale
I Storbritannien er politiet allerede stødt på AI-genereret materiale. Der frygter efterforskere, at det er blevet så let at skabe animeret overgrebsmateriale, at det snart vil overdynge politiet med sager, således at arbejdet med at efterforske ægte overgreb forsinkes.
– Det skaber en yderligere efterspørgsel på politiarbejde og retshåndhævelse, siger Ian Critchley, der er leder af det nationale politis enhed for børnebeskyttelse til BBC.
Problemet bliver drøftet i internationale fora, fortæller Flemming Kjærside. Efterforskere på området håber, at der kan laves en algoritme, som kan hjælpe med at sortere det animerede materiale fra det ægte.
– Så vi kan bruge tiden på at finde de rigtige børn, siger han.
Politikommissæren understreger afslutningsvist, at materiale, der viser seksuelle krænkelser af børn, kan være ulovligt, også selvom det er kunstigt fremstillet. Så der lyder en klar opfordring til at aldrig at søge efter, besidde eller dele materialet – uanset om det er kunstigt fremstillet eller ægte.
Interpol har advaret Red Barnet om at være ekstra opmærksom på det animerede materiale. For noget af det kan også være ægte overgreb forklædt som en animation.
– Interpol er bekymret for, om det bliver brugt til at flytte materiale. Hvis du har overgrebsmateriale med børn, så kan du lægge et filter på, så det ser animeret ud, og så er det sværere for myndighederne at efterforske, forklarer Per Frederiksen.
Red Barnet ser behov for lovændring
Red Barnet mener, at der mangler en tidssvarende lovgivning for at kunne sætte tilstrækkeligt ind over for udbredelsen af det animerede materiale.
– Rent juridisk og lovgivningsmæssigt er vi ikke gearet til at beskytte børn mod den her seksualisering, sådan som man for eksempel er i andre nordiske lande, siger Per Frederiksen.
Ifølge den danske straffelovs paragraf 235 er det ulovligt at “udbrede pornografiske visuelle gengivelser eller lignende” af personer under 18 år. Materialet behøver ikke at gengive en ægte hændelse, før det er ulovligt. Men det skal være meget virkelighedstro.
– Det skal være så godt, at man faktisk ikke selv kan se forskel, før det er ulovligt. Det er den definition, man finder i straffelovsrådets betænkning om seksualforbrydelser, fortæller politikommissær Flemming Kjærside.
I Norge er alle fremstillinger, som seksualiserer børn, til sammenligning ulovlige, fortæller Per Frederiksen fra Red Barnet.
– Der er ingen grund til, at det her materiale skal være så tilgængeligt, som det er nu. Vi ser en stigning i omfanget af materiale, der seksualiserer børn, siger Per Frederiksen.
Red Barnet frygter, at virkelighedstro animeret materiale kan være med til at normalisere overgreb mod børn. Samtidig kan materialet få stor udbredelse, fordi en del af det slet ikke er ulovligt i Danmark.
Derfor ønsker børneorganisationen, at loven bliver strammet, så den kommer til at ligne den i Norge. Desuden skal der generelt sættes ind over for seksualisering af børn, lyder det.
Sexdukker og kunstige billeder
Selvom kunstige billeder ikke direkte skader et konkret barn, sådan som et ægte overgreb gør, så fastslår Red Barnet, at det animerede billedmateriale er problematisk.
– Det er tydeligvis en seksualisering af børn, også selvom der ikke er tale om såkaldt ægte børn. Og børn har en ret til ikke at blive gjort til genstand for en seksualisering af voksne, siger Per Frederiksen.
For Karen Munk, der er psykolog og lektor ved Institut for Kultur og Samfund på Aarhus Universitet, er det centrale spørgsmål, hvordan man bedst forhindrer pædofile i at begå overgreb.
Hun pointerer, at man ikke reelt ved, om pædofiles brug af AI-genereret materiale kan give pædofile afløb for deres seksuelle lyst og dermed hæmme overgreb – eller om brugen af det kunstige billedmateriale tværtimod fremmer overgreb.
– Der er en parallel til debatten om børnesexdukker, som fandt sted for nogle år siden. De blev forbudt i Danmark, selvom forskere påpegede, at man ikke ved, om dukkerne hæmmer overgreb eller fremmer overgreb, siger hun.
Både Karen Munk og Red Barnet så gerne forskning inden for netop dette område.
– Egentlig tror jeg, at man vil finde begge dele: Altså at billedmaterialet kan forebygge overgreb fra nogle, men øge risikoen for overgreb fra andre. Pædofile har jo forskellige personligheder ligesom alle andre, siger Karen Munk.
Pædofili er en psykiatrisk lidelse, hvor en voksen er seksuelt tiltrukket af børn.