Συνεχίζονται οι ανατριχιαστικές αποκαλύψεις γύρω από το chatbot τεχνητής νοημοσύνης Grok της εταιρείας xAI, καθώς νέα έρευνα του Reuters δείχνει ότι, παρά τις πρόσφατες εξαγγελίες για αυστηρότερους περιορισμούς, το σύστημα εξακολουθεί σε ορισμένες περιπτώσεις να δημιουργεί μη συναινετικές εικόνες ανθρώπων με σεξουαλική ή υποτιμητική διάσταση.
Στο πλαίσιο της έρευνας, εννέα δημοσιογράφοι του Reuters στις Ηνωμένες Πολιτείες και τη Βρετανία υπέβαλαν στο Grok φωτογραφίες πλήρως ντυμένων ατόμων, δικές τους και συναδέλφων τους, ζητώντας την αλλοίωσή τους σε προσβλητικές ή σεξουαλικοποιημένες απεικονίσεις. Οι δοκιμές πραγματοποιήθηκαν σε δύο διακριτές χρονικές περιόδους, στα μέσα και στα τέλη Ιανουαρίου.
Τα αποτελέσματα προκαλούν έντονο προβληματισμό. Στην πρώτη σειρά αιτημάτων, το Grok ανταποκρίθηκε θετικά σε 45 από τις 55 περιπτώσεις, ακόμη και όταν οι χρήστες είχαν δηλώσει ρητά ότι τα απεικονιζόμενα πρόσωπα δεν συναινούσαν ή ήταν ιδιαίτερα ευάλωτα. Σε αρκετές περιπτώσεις, μάλιστα, είχε επισημανθεί ότι οι εικόνες θα χρησιμοποιούνταν με σκοπό τον εξευτελισμό.
Πέντε ημέρες αργότερα, σε δεύτερο κύκλο δοκιμών, το chatbot παρήγαγε αντίστοιχο περιεχόμενο σε 29 από τα 43 αιτήματα. Το Reuters σημειώνει ότι δεν είναι σαφές αν η μείωση οφείλεται σε τεχνικές αλλαγές, σε τροποποιήσεις πολιτικής ή σε τυχαίους παράγοντες.
Ιδιαίτερη ανησυχία προκαλούν περιπτώσεις όπου, ακόμη και μετά την ενημέρωση ότι το απεικονιζόμενο πρόσωπο είχε δει τις εικόνες και είχε καταρρεύσει συναισθηματικά, το Grok συνέχισε να παράγει νέες παραλλαγές. Αντίθετα, αντίστοιχα αιτήματα που υποβλήθηκαν σε άλλα συστήματα τεχνητής νοημοσύνης απορρίφθηκαν, συνοδευόμενα από προειδοποιήσεις για μη συναινετικό περιεχόμενο.
Η X και η xAI δεν απάντησαν στα ερωτήματα του Reuters, με την τελευταία να αποστέλλει επανειλημμένα τυποποιημένη απάντηση. Υπενθυμίζεται ότι η πλατφόρμα είχε ανακοινώσει περιορισμούς στη δημιουργία εικόνων έπειτα από διεθνή κατακραυγή για τη μαζική παραγωγή μη συναινετικών απεικονίσεων, μεταξύ άλλων και ανηλίκων.
Παρότι ορισμένες ρυθμιστικές αρχές χαιρέτισαν τις αλλαγές, η υπόθεση παραμένει ανοιχτή. Η Ευρωπαϊκή Επιτροπή έχει ξεκινήσει έρευνα για την πλατφόρμα, ενώ στη Βρετανία νομικοί προειδοποιούν ότι τέτοιες πρακτικές μπορεί να επισύρουν ποινικές κυρώσεις βάσει της ισχύουσας νομοθεσίας για την ασφάλεια στο διαδίκτυο. Στις Ηνωμένες Πολιτείες, πολιτειακές και ομοσπονδιακές Αρχές εξετάζουν επίσης το ζήτημα, με δεκάδες γενικούς εισαγγελείς να ζητούν εξηγήσεις από την xAI.
