Η xAI του Έλον Μασκ έθεσε περιορισμούς στη λειτουργία δημιουργίας εικόνων του chatbot Grok στο κοινωνικό δίκτυο X, μετά τον έντονο σάλο που προκάλεσε η χρήση του για τη δημιουργία και δημοσίευση σεξουαλικών εικόνων.
Οι χρήστες είχαν μέχρι πρόσφατα τη δυνατότητα να ζητούν από το Grok να επεξεργαστεί φωτογραφίες ατόμων, αφαιρώντας ρούχα ή τοποθετώντας τα σε σεξουαλικοποιημένες πόζες, συχνά χωρίς τη συγκατάθεσή τους, ενώ οι εικόνες δημοσιεύονταν απευθείας σε απαντήσεις σε σχόλια ή αναρτήσεις στο X.
Την Παρασκευή, το Grok ενημέρωσε τους χρήστες ότι η δημιουργία και επεξεργασία εικόνων θα είναι πλέον διαθέσιμη μόνο για συνδρομητές. Η κίνηση αυτή φαίνεται να έχει σταματήσει τη δυνατότητα του bot να δημιουργεί και να δημοσιεύει αυτόματα τέτοιες εικόνες, ωστόσο οι χρήστες μπορούν ακόμη να τις δημιουργούν μέσω της καρτέλας Grok και να τις δημοσιεύουν οι ίδιοι. Παράλληλα, η ανεξάρτητη εφαρμογή Grok συνεχίζει να επιτρέπει τη δημιουργία εικόνων χωρίς συνδρομή.
Η Ευρωπαϊκή Επιτροπή χαρακτήρισε τη δημοσίευση γυμνών εικόνων γυναικών και παιδιών παράνομη και σοκαριστική, επισημαίνοντας ότι οι περιορισμοί για πληρωμένους συνδρομητές δεν επιλύουν το βασικό ζήτημα. «Είτε πρόκειται για συνδρομητές είτε όχι, δεν θέλουμε να βλέπουμε τέτοιες εικόνες», δήλωσε εκπρόσωπος της Επιτροπής.
Κυβερνήσεις και ρυθμιστικές αρχές έχουν επίσης καταδικάσει τη διάδοση των σεξουαλικών εικόνων και έχουν ανοίξει έρευνες για το περιεχόμενο που δημιουργείται από το Grok, ασκώντας πίεση στο X να αναλάβει δράση για την πρόληψη και αφαίρεση παράνομου υλικού. Ο Γερμανός υπουργός Μέσων, Βόλφραμ Βάιμερ, περιέγραψε το κύμα των ημίγυμνων εικόνων ως «βιομηχανία σεξουαλικής παρενόχλησης».
