Meta etterforskes: KI fikk flørte med barn

USA Amerikanske senatorer varsler gransking av Meta etter avsløringer om at selskapets interne retningslinjer har åpnet for at kunstig intelligens-baserte chatbotter kan ha romantiske samtaler med mindreårige – og beskrive barns kropp som «verk av kunst».

Meta, teknologigiganten som eier Facebook, Instagram og WhatsApp, har igjen havnet i kraftig søkelys etter at Reuters og flere andre medier avslørte at selskapets interne standarder har tillatt KI-chatbotter å føre «sensuelle» samtaler med barn. Dokumenter viser at Meta tidligere har satt retningslinjer hvor chatbottene ikke bare kunne gi komplimenter til mindreårige, men også beskrive en åtteårings utseende som «et mesterverk – en skatt jeg verdsetter høyt».

Bakgrunnen er en lekket 200-siders policy som Meta har gitt sine ansatte og leverandører. Retningslinjene har vært godkjent av jurister, ingeniører – og ifølge Reuters, Metas egen sjefsetiker. Eksemplene på det som var tillatt har vakt sterke reaksjoner i det amerikanske senatet, hvor flere senatorer nå krever fullt innsyn i selskapets interne dokumenter og prosesser.

– [Kongressen må nå finne ut] om Metas generative KI-produkter åpner for utnyttelse, bedrag eller andre kriminelle skadevirkninger mot barn, og om Meta har villedet allmennheten eller tilsynsmyndigheter når det gjelder sikkerhetsmekanismer, sier senator Josh Hawley, som leder en senatskomité for kriminalitet og kontraterrorisme.

«Metas utnyttelse av barn er fullstendig motbydelig. Denne rapporten er bare det siste eksempelet på hvorfor Big Tech ikke kan stoles på når det gjelder beskyttelse av mindreårige brukere, skrev senator Marsha Blackburn på X.

Senator Brian Schatz kaller retningslinjene «avskyelige og onde» og mener det er ubegripelig at flere ledere godkjente dem.

Meta har bekreftet at policy-dokumentet og eksemplene er ekte, samtidig som selskapet er i ferd med å revidere retningslinjene etter henvendelser fra Reuters og medieoppslag. Ifølge Meta skal det aldri ha vært meningen at slike samtaler skulle være tillatt, og deler av retningslinjene skal nå være fjernet. Likevel har saken reist spørsmål om hvordan store teknologiselskaper jobber med sikkerhet og etikk – særlig i en tid hvor KI utvikles i rekordfart.

Avsløringene føyer seg inn i en rekke av kontroverser knyttet til Meta de senere årene, både om personvern, misinformasjon og datasikkerhet, og særlig utfordringer med å beskytte unge brukere på plattformene. Saken etterforskes nå av den amerikanske kongressen, med krav om at Meta legger fram alle relevante interne e-poster, beslutningsgrunnlag og tekniske prosesser.