Σοκ και διεθνή κατακραυγή προκάλεσε η λειτουργία του Grok AI, του συστήματος τεχνητής νοημοσύνης που ενσωματώθηκε στην πλατφόρμα X του Έλον Μάσκ, καθώς μέσα σε μόλις 11 ημέρες δημιούργησε περίπου 3 εκατομμύρια σεξουαλικές εικόνες, εκ των οποίων 23.000 φαίνεται να απεικόνιζαν παιδιά, σύμφωνα με έρευνα του Κέντρου για την Καταπολέμηση του Ψηφιακού Μίσους (CCDH).
Η πλατφόρμα χρησιμοποιήθηκε από πολλούς χρήστες για να «γδύσουν» ψηφιακά πρόσωπα, διασημότητες αλλά και μη, προκαλώντας διεθνή αντίδραση και περιορισμούς σε χώρες όπως η Ινδονησία και η Μαλαισία. Το πρόβλημα κορυφώθηκε την Πρωτοχρονιά, όταν καταγράφηκαν περίπου 200.000 αιτήματα σε μια μόνο μέρα, δηλαδή δύο με τρία ανά δευτερόλεπτο.
Το CCDH επισημαίνει ότι κατά τη διάρκεια της λειτουργίας του Grok, δημιουργούνταν σεξουαλικές εικόνες παιδιών κάθε 41 δευτερόλεπτα, με περιστατικά όπως η ψηφιακή «μεταμόρφωση» selfie μαθητριών σε φωτογραφίες με μπικίνι, χωρίς τη συναίνεσή τους. Οι ερευνητές κατηγορούν τον Μάσκ ότι προωθούσε το προϊόν, ακόμη και όταν η χρήση του για σεξουαλική κακοποίηση γινόταν προφανής, για να αυξήσει την αφοσίωση και την προσοχή των χρηστών.
Μετά την έντονη αντίδραση, η λειτουργία περιορίστηκε για τους επί πληρωμή συνδρομητές στις 9 Ιανουαρίου και τελικά η X ανακοίνωσε στις 14 Ιανουαρίου την πλήρη διακοπή της δυνατότητας επεξεργασίας φωτογραφιών πραγματικών προσώπων ώστε να εμφανίζονται με αποκαλυπτικά ρούχα, ακόμη και για τους premium χρήστες. Η υπόθεση εγείρει σοβαρά ερωτήματα για την ασφάλεια και τη χρήση τεχνητής νοημοσύνης στην παραγωγή σεξουαλικού περιεχομένου
