Artificiell intelligens används redan för att skapa sexuellt kränkande bilder av barn, automatisera grooming och sprida övergreppsmaterial. Samtidigt kan tekniken också användas för att identifiera utsatta barn, upptäcka förövare och stoppa spridningen av olagligt material.
Det framgår av rapporten ”Det är coolt med tekniken, men man märker att människorna som styr den inte hinner med”, som har tagits fram av World Childhood Foundation och ChildX. Rapporten bygger på en litteraturöversikt, expertintervjuer och fokusgrupper med barn och unga.
Enligt rapporten förändrar AI redan förutsättningarna för både förövare och de aktörer som arbetar med att skydda barn. Tekniken kan användas för att skapa manipulerade nakenbilder, generera nytt övergreppsmaterial, anpassa grooming till enskilda barn och bygga falska identiteter för att vinna barns förtroende. Samtidigt används AI för att upptäcka känt övergreppsmaterial, identifiera riskbeteenden och analysera stora mängder data.
Justitieminister Gunnar Strömmer menar att Sverige kan göra mer för att snabbt få bort övergreppsmaterial från digitala plattformar, även när materialet är AI-genererat eller manipulerat.
“Jag tror att vi kan göra mer nationellt för att polisen ska kunna beordra plattformar att plocka ner material när man ser det. Det ska kunna ske inom en timme, och gör man inte det ska man drabbas av dryga sanktioner”, säger Gunnar Strömmer.
Barnen som deltagit i rapportens fokusgrupper beskriver ett växande avstånd mellan deras digitala verklighet och vuxenvärldens ansvar. Flera vittnar om att manipulerade och sexuellt kränkande bilder blivit en del av vardagen på nätet.
Childhood och ChildX anser att Sverige behöver ta ett större ansvar för att skyddet av barn utvecklas i samma takt som tekniken.
“AI är redan en del av barns verklighet. Därför måste barns rätt till skydd byggas in i lagstiftning, teknik och plattformar från början. Vi kan inte låta förövare vara snabbare än samhällets skyddssystem”, säger Britta Holmberg, global program- och påverkanschef samt vice generalsekreterare för Childhood.
Rapporten lyfter fram tre områden där åtgärder behövs: moderniserad och teknikneutral lagstiftning, långsiktiga investeringar i AI-verktyg för brottsbekämpning och stödinsatser samt tydligare krav på plattformar att förebygga, upptäcka och agera mot sexuella övergrepp mot barn på nätet.
Jämställdhetsminister Nina Larsson beskriver rapporten som ett viktigt underlag i arbetet mot övergreppsmaterial, grooming och sexuell exploatering av barn.
“Den här rapporten är viktig eftersom den fungerar som ammunition och ett bra underlag. Den visar på den utmaning och det enorma problem vi har i samhället idag med övergreppsmaterial mot barn, och hur barn groomas och utnyttjas på olika sätt.”
Barn och unga efterfrågar enligt rapporten bättre åldersverifiering, mänsklig moderering, tydligare regler och trygga digitala stödvägar när något har hänt.
“Barnen ser riskerna, men också lösningarna. De ber inte vuxenvärlden att stoppa tekniken. De ber oss ta ansvar för hur den används”, säger Ida Östensson, generalsekreterare för ChildX.
Childhood och ChildX vill bland annat se att lagstiftningen omfattar AI-genererade och manipulerade sexuellt kränkande bilder av barn, att skadliga funktioner som möjliggör sådana manipulationer förbjuds samt att investeringarna i AI-verktyg för att upptäcka övergrepp och identifiera utsatta barn stärks.
