Även om det inte är nytt att använda AI för att generera vuxeninnehåll – sedan GPT-3.5 gjorde AI allmänt känd 2023 har varje ny AI-modellsläppning sett en rusning från både teknikrecensenter och onlineentusiaster – är Grok 3:s fall särskilt flagrant. AI-communityn har alltid varit snabba med att utnyttja nya modeller för vuxeninnehåll, och Grok 3 är inget undantag. Plattformar som Reddit och arXiv är fulla av guider om hur man kringgår restriktioner och genererar explicit material.

Stora AI-företag har strävat efter att införa stränga moraliska granskningar för att begränsa sådant missbruk. Till exempel har Midjourney, en ledande plattform för AI-bildgenerering, strikta policyer mot NSFW-innehåll (Not Safe For Work), inklusive våldsamma, nakna eller sexualiserade bilder. Överträdelser kan leda till kontoavstängningar. Dessa åtgärder misslyckas dock ofta eftersom användare hittar kreativa sätt att kringgå restriktioner, en metod som i dagligt tal kallas "jailbreaking".

Efterfrågan på vuxeninnehåll är ett globalt och tidlöst fenomen, och AI har bara gett ett nytt utlopp. Nyligen har även OpenAI lättat på några av sina innehållsrestriktioner under tillväxttryck, förutom innehåll som involverar minderåriga, vilket fortfarande är strängt förbjudet. Denna förändring har gjort interaktioner med AI mer mänskliga och engagerande, vilket framgår av de entusiastiska reaktionerna på Reddit.