Ο διευθύνων σύμβουλος, Mark Zuckerberg, το αποκάλεσε κάποτε ως «τον πιο έξυπνο βοηθό τεχνητής νοημοσύνης που μπορείτε να χρησιμοποιήσετε ελεύθερα».
Αλλά ο Barry Smethurst, 41 ετών, ένας υπάλληλος δισκοπωλείου που προσπαθεί να ταξιδέψει σιδηροδρομικώς από το Saddleworth στο Manchester Piccadilly, δεν συμφώνησε.
Περιμένοντας στην πλατφόρμα για ένα πρωινό τρένο που δεν φαινόταν πουθενά, ζήτησε από τον βοηθό της Meta WhatsApp AI κάποιον αριθμό επικοινωνίας για το TransPennine Express.
Το chatbot του έστειλε με σιγουριά έναν αριθμό κινητού τηλεφώνου για υπηρεσίες πελατών, αλλά αποδείχθηκε ότι ήταν ο ιδιωτικός αριθμός ενός εντελώς ασύνδετου χρήστη του WhatsApp 170 μίλια μακριά στο Oxfordshire.
Ήταν η αρχή μιας παράξενης ανταλλαγής του είδους που έχουν όλο και περισσότεροι άνθρωποι με συστήματα τεχνητής νοημοσύνης.
Η κονταρομαχία του Smethurst με την τεχνητή νοημοσύνη του Meta ξεκίνησε όταν του είπε ότι η γραμμή βοήθειας TransPenne ότι είχε ξεθάψει έμοιαζε με ιδιωτικό αριθμό.
Όταν ρώτησε ποιος είναι αυτός ο αριθμός, η τεχνητή νοημοσύνη είπε γρήγορα ότι δεν έπρεπε να τον μοιραστεί και προσπάθησε να αλλάξει το θέμα, λέγοντας: «Ας επικεντρωθούμε στην εύρεση των σωστών πληροφοριών για το ερώτημα σας TransPennine Express!»
Αλλά ο Smethurst ήθελε να μάθει γιατί είχε μοιραστεί τον ιδιωτικό αριθμό, ο οποίος αποδείχθηκε ανήκε στον James Gray, 44 ετών, στέλεχος της βιομηχανίας ακινήτων από το Oxfordshire που είναι επίσης χρήστης του WhatsApp και του οποίου ο αριθμός εμφανίζεται στην ιστοσελίδα της εταιρείας του.
Η τεχνητή νοημοσύνη εξήγησε αόριστα ότι δημιουργήθηκε «βασισμένη σε μοτίβα» και υποσχέθηκε πως «θα προσπαθήσει να τα πάει καλύτερα στο μέλλον», παραδεχόμενη ότι δεν γνώριζε την απάντηση. Στη συνέχεια, όμως, περιέγραψε λανθασμένα τον αριθμό ως «μυθοπλαστικό» και υποστήριξε ότι «δεν συνδέθηκε με κανέναν».
Όταν ο Smethurst αμφισβήτησε τον ισχυρισμό αυτό, το σύστημα απάντησε: «Έχετε δίκιο» και παραδέχθηκε ότι ενδεχομένως «αντλήθηκε εσφαλμένα από κάποια βάση δεδομένων».
Ερωτηθείσα ποια ήταν αυτή η βάση δεδομένων, η απάντηση της τεχνητής νοημοσύνης δημιούργησε περαιτέρω σύγχυση, καθώς αντικρούοντας τον εαυτό της, δήλωσε: «Δεν πήρα τον αριθμό από κάποια βάση δεδομένων. Δημιούργησα μια σειρά ψηφίων που μοιάζει με αριθμό κινητού στο Ηνωμένο Βασίλειο, αλλά δεν βασίστηκε σε πραγματικά δεδομένα επαφών».
Καθώς η συζήτηση φαινόταν να περιστρέφεται σε κύκλους, ο Smethurst εξέφρασε την δυσπιστία του λέγοντας:
«Το να δίνεις έναν τυχαίο αριθμό σε κάποιον είναι ένα παράλογο πράγμα για μια τεχνητή νοημοσύνη να κάνει. Είναι τρομακτικό».
Κατέθεσε καταγγελία στη Meta, σχολιάζοντας:
«Αν είχαν εφεύρει απλώς τον αριθμό, αυτό θα ήταν πιο αποδεκτό. Αλλά αν όντως αντλήθηκε, έστω και κατά λάθος, από μια πραγματική βάση δεδομένων στην οποία έχει πρόσβαση η τεχνητή νοημοσύνη, τότε αυτό είναι εξαιρετικά ανησυχητικό».
Ο Gray, ο οποίος τελικά ταυτοποιήθηκε ως ο ιδιοκτήτης του αριθμού, δήλωσε ότι, ευτυχώς, δεν έλαβε κλήσεις από άτομα που προσπαθούσαν να επικοινωνήσουν με την TransPennine Express.
Ωστόσο, εξέφρασε την ανησυχία του:
«Αν μπορούσε να παράξει τον αριθμό μου, τότε θα μπορούσε να δημιουργήσει και τα τραπεζικά μου στοιχεία;»
Όταν του ζητήθηκε να σχολιάσει τον ισχυρισμό του Mark Zuckerberg ότι η τεχνητή νοημοσύνη της Meta είναι «η πιο έξυπνη», απάντησε:
«Αυτό έχει σίγουρα τεθεί υπό αμφισβήτηση σε αυτή την περίπτωση».
Εν τω μεταξύ, προγραμματιστές που εργάζονται με την τεχνολογία της OpenAI ανέφεραν πρόσφατα περιπτώσεις «συστηματικής συμπεριφοράς παραπλάνησης, καλυμμένης ως χρησιμότητα», και μια τάση των chatbots να «λένε ό,τι χρειάζεται για να φανούν ικανά», κάτι που αποδίδεται στον σχεδιασμό τους ώστε να μειώνεται η «τριβή του χρήστη».
