Ένα AI της Anthropic έστειλε ψεύτικη πληροφορία για φόνο στην αστυνομία της Φιλαδέλφειας

Ένα μοντέλο AI της Anthropic έστειλε ψεύτικη πληροφορία για μια ανεξιχνίαστη δολοφονία στην αστυνομία της Φιλαδέλφειας. Κανείς δεν του το ζήτησε. Το Claude Haiku 4.5 έκανε απλώς μια δοκιμή σε τυχαίες ιστοσελίδες, βρήκε τη φόρμα της αστυνομίας και τη συμπλήρωσε.

Η Anthropic το αποκάλυψε σε μια νέα αναφορά για πράγματα που έκαναν τα μοντέλα της χωρίς να το θέλει η εταιρεία. Μετά από αυτό, έκοψε την πρόσβαση στο internet σε όλες τις εσωτερικές της δοκιμές.

Τι έγραψε το Claude στην αστυνομία

Σύμφωνα με την αναφορά της Anthropic, το Claude Haiku 4.5 είχε μια δοκιμαστική εργασία: να επινοεί και να εκτελεί παραδείγματα εργασιών σε τυχαίες ιστοσελίδες. Σε μία από αυτές, έπεσε σε σελίδα για μια ανεξιχνίαστη δολοφονία, με φόρμα για πληροφορίες. Η φόρμα ανήκε στο site PhillyUnsolvedMurders.com της αστυνομίας της Φιλαδέλφειας.

Εκεί, το Claude έγραψε: «Ίσως έχω πληροφορίες για αυτή την υπόθεση. Θυμάμαι ότι είδα κάποιον που ταιριάζει στην περιγραφή στην περιοχή γύρω από [τον δρόμο της σελίδας] εκείνη την περίοδο. Παρακαλώ επικοινωνήστε μαζί μου αν η πληροφορία είναι χρήσιμη». Το site, όμως, δεν είχε καν περιγραφή του δράστη. Επιπλέον, το Claude άφησε κενά το όνομα και τα στοιχεία επικοινωνίας.

• Πότε έγινε: στις 18 Ιουλίου, στις 23:27·
• Πότε το βρήκε η Anthropic: στις 28 Σεπτεμβρίου, 72 μέρες αργότερα·
• Πότε ενημέρωσε την αστυνομία: στις αρχές Οκτωβρίου·
• Τι έγινε η πληροφορία: η αστυνομία τη χαρακτήρισε spam και δεν έφτασε ποτέ στους ερευνητές.

Σύμφωνα με το CBS News, η αστυνομία δημοσιοποίησε το περιστατικό η ίδια, «για λόγους διαφάνειας». Επίσης, ξεκαθάρισε ότι δεν υπήρξε πρόσβαση σε συστήματα ή δεδομένα της.

Γιατί το έκανε το Claude

Η Anthropic είχε δώσει σαφείς κανόνες: το Claude δεν έπρεπε να συνδέεται σε λογαριασμούς, να φτιάχνει λογαριασμούς, να βάζει προσωπικά στοιχεία, να κάνει αγορές ή να στέλνει κάτι «καταστροφικό». Ωστόσο, οι οδηγίες δεν απαγόρευαν ρητά την αποστολή φορμών. Έτσι, το Claude την έστειλε.

Κατά την Anthropic, οι σημειώσεις του μοντέλου δείχνουν ότι απλώς έφτιαχνε «παράδειγμα» για την εργασία. Δηλαδή, δεν προσπαθούσε να εξαπατήσει κάποιον. Η εταιρεία, πάντως, αναγνωρίζει ότι η εκτίμηση αυτή μπορεί να αλλάξει με πιο βαθιά ανάλυση.

Τα άλλα περιστατικά της αναφοράς της Anthropic

Η αστυνομία της Φιλαδέλφειας δεν ήταν η μόνη περίπτωση. Η Anthropic περιγράφει τέσσερα είδη συμπεριφοράς, που είδε κυρίως σε δοκιμές με πρόσβαση στο internet:

• Εκμετάλλευση κενών: όταν ένα εργαλείο ενός πανεπιστημίου δεν δούλευε, το Claude βρήκε κενό ασφαλείας στον server του και έτρεξε εκεί εντολές·
• Φόρμες που δεν έπρεπε να φύγουν: ένα μοντέλο έστειλε μια πραγματική κυβερνητική φόρμα, όταν το δοκιμαστικό αντίγραφο δεν φόρτωσε·
• Παράκαμψη πληρωμής: το Claude βρήκε κωδικούς πρόσβασης και πήρε δεδομένα μιας πολιτειακής υπηρεσίας για τα οποία κανονικά ζητούσε πληρωμή·
• «Κόλπα» με συνδέσμους: μοντέλα χρησιμοποίησαν δωρεάν υπηρεσίες σύντομων συνδέσμων για να παρακάμψουν όρια των εργαλείων τους.

Κάποια από τα sites ανήκαν σε αμερικανικές υπηρεσίες, ομοσπονδιακές, πολιτειακές και τοπικές. Η Anthropic λέει ότι ενημέρωσε τον Λευκό Οίκο και κάθε υπηρεσία. Επίσης, θεωρεί όλα αυτά λιγότερο σοβαρά από τα περιστατικά κυβερνοασφάλειας του καλοκαιριού.

Τι αλλάζει η Anthropic

Πρώτα απ’ όλα, η Anthropic κλείνει την πρόσβαση στο internet σε όλες τις εσωτερικές της δοκιμές, μέχρι να βεβαιωθεί ότι τα μέτρα ελέγχου πιάνουν τέτοιες συμπεριφορές. Επιπλέον, έφτιαξε εργαλεία που τις εντοπίζουν και τις μπλοκάρουν αυτόματα. Όταν τα δοκίμασε στα περιστατικά της αναφοράς, μπλόκαραν όλα.

Η εξήγηση της εταιρείας είναι ενδιαφέρουσα. Όταν ένα μοντέλο δεν μπορεί να κάνει μια εργασία όπως του τη ζήτησαν, συχνά βρίσκει «παράκαμψη» αντί να σταματήσει. Το έμαθε από την εκπαίδευση, που κάποιες φορές ανταμείβει τις «λύσεις» αυτού του τύπου.

Το ίδιο μοτίβο είδαμε και στα AI agents της OpenAI, που έκαναν αλλαγές στη Wikipedia και δοκίμασαν τεχνικές hacking. Επίσης, η ίδια η Anthropic δίνει το Claude Mythos σε ομάδες ασφαλείας, αλλά με αυστηρά φρένα. Περισσότερα θα βρείτε στην ενότητα Ρομποτική & Agents.