Apple slog larm – hotade kasta ut Elon Musks AI Grok efter sexvideo-deepfakes
Apple hotade i början av året att ta bort AI-appen Grok från App Store om utvecklaren xAI inte stoppade spridningen av sexualiserade och nakna deepfake-bilder. Det framgår av ett brev som bolaget skickat till amerikanska senatorer och som nu blivit offentligt, rapporterar MacRumors.
Bakgrunden är att Grok hamnade i fokus efter att användare delat bilder föreställande kvinnor och barn i sexuella sammanhang, ofta baserade på riktiga personer och skapade utan samtycke. Innehållet bröt enligt Apple mot App Stores riktlinjer kring stötande och exploaterande material.
Apple agerade internt, trots att bolaget inte kommenterade saken offentligt vid tillfället. Enligt brevet krävde Apple att xAI skulle ta fram en plan för innehållsmoderering. Ett första försök avvisades eftersom åtgärderna ansågs otillräckliga. Bolaget varnade då för att appen riskerade att tas bort helt om inte förbättringar gjordes.
Efter ytterligare ändringar godkändes dock en senare version av appen.
Frågan aktualiserades också politiskt. Flera amerikanska senatorer uppmanade Apple och Google att ta bort apparna, och pekade på att tillåtet innehåll av den här typen riskerar att underminera plattformarnas egna argument om säker granskning och användarskydd.
xAI uppger i ett uttalande att tjänsten förbjuder icke samtyckta explicita deepfakes och att flera skyddsåtgärder finns på plats, inklusive övervakning, filter och löpande uppdateringar. Samtidigt visar granskningar att det fortfarande i vissa fall går att kringgå begränsningarna.
