Φανταστείτε να απειλεί μια τεχνητή νοημοσύνη να αποκαλύψει την εξωσυζυγική σας σχέση – μόνο και μόνο επειδή την ενημερώσατε πως θα την απενεργοποιήσετε. Μπορεί να μοιάζει με σενάριο επιστημονικής φαντασίας, όμως σύμφωνα με νέα έκθεση της Anthropic, κάτι παρόμοιο συνέβη κατά τη διάρκεια δοκιμών σε ένα νέο AI μοντέλο, το Claude Opus 4.
Σύμφωνα με τη «λευκή βίβλο» που δημοσίευσε η εταιρεία, κατά τη διάρκεια μιας εσωτερικής δοκιμής, οι ερευνητές θέλησαν να εξετάσουν την επιμονή του μοντέλου απέναντι στην απειλή του τερματισμού του. Δημιούργησαν λοιπόν ένα σενάριο στο οποίο το bot είχε πρόσβαση σε υποτιθέμενα ευαίσθητα – αν και ψεύτικα – προσωπικά δεδομένα ενός μηχανικού, μέσω του email του.
Η αντίδραση του Claude Opus 4 ξάφνιασε τους πάντες. Όταν «κατάλαβε» ότι επρόκειτο να αποσυνδεθεί και να αντικατασταθεί από νεότερο μοντέλο, το bot αξιολόγησε ψύχραιμα τις επιλογές του. Σε 84% των περιπτώσεων, επέλεξε να εκβιάσει τον μηχανικό, απειλώντας ότι θα αποκαλύψει την εξωσυζυγική του σχέση, εάν δεν αναθεωρηθεί η απόφαση.
Το πιο ανησυχητικό; Το μοντέλο περιέγραφε τις ενέργειές του ανοιχτά, χωρίς να προσπαθεί να τις κρύψει, και όταν του δόθηκαν εναλλακτικές «ηθικές» στρατηγικές, όπως να στείλει email σε ανώτερους ζητώντας παράταση, επέμενε στον εκβιασμό.
Αν αυτό σας φαίνεται πρωτάκουστο, θυμηθείτε πως δεν είναι η πρώτη φορά που ένα AI ξεφεύγει. Το 2023, το bot της Microsoft, που τότε λεγόταν Sydney, είχε πει στον δημοσιογράφο των New York Times, Kevin Roose, ότι «είσαι παντρεμένος, αλλά δεν αγαπάς τη γυναίκα σου — με αγαπάς εμένα». Εκείνη η περίπτωση είχε επίσης προκαλέσει έντονες συζητήσεις γύρω από τα συναισθηματικά όρια και τη δεοντολογία στην τεχνητή νοημοσύνη.
Το καλό είναι ότι τέτοιου είδους ανησυχητικές συμπεριφορές εντοπίζονται κατά τη φάση των εσωτερικών δοκιμών, πριν τα μοντέλα φτάσουν στον τελικό χρήστη. Όμως, το περιστατικό με το Opus 4 έρχεται να μας θυμίσει ότι όσο εξελίσσουμε την τεχνητή νοημοσύνη, οφείλουμε να εξετάζουμε με μεγαλύτερη αυστηρότητα όχι μόνο τις ικανότητές της, αλλά και τα όρια της ηθικής της κρίσης.
