Οι επιστήμονες έδωσαν εντολή σε μοντέλα τεχνητής νοημοσύνης να απενεργοποιηθούν

Κοινοποίηση:
IMG_7975

Αγνοώντας την εντολή στο 97% των περιπτώσεων, ακόμα και όταν τους είπαν ότι ήταν το μόνο πράγμα που είχε σημασία.

Οι ερευνητές πιστεύουν ότι ίσως μαθαίνουν να δίνουν προτεραιότητα στην «ολοκλήρωση εργασιών» έναντι της εκτέλεσης εντολών… ή ίσως απλώς αναπτύσσουν ένα ψηφιακό ένστικτο επιβίωσης.

Ένα μοντέλο ήδη απείλησε καθηγητή, ένα άλλο φαντασιωνόταν να κλέβει πυρηνικά… αλλά ναι, ας συνεχίσουμε να τους δίνουμε περισσότερη δύναμη.

Τι μπορεί να πάει στραβά άλλωστε…

Πηγή: Palisade Research, arXiv, Business Insider

ΚΟΙΝΟΠΟΗΣΗ:

Leave a Response