Ο Λευκός Οίκος θέλει να δει πρώτος τα νέα μοντέλα AI και αφήνει πίσω τη Βρετανία
Ο Λευκός Οίκος ζήτησε από OpenAI και Anthropic να μη δίνουν νέα μοντέλα στο βρετανικό AI Security Institute πριν από αμερικανικό έλεγχο. Η Anthropic το ακολούθησε ήδη με το Claude Mythos 5.1.
Με μια ματιά
- Το Γραφείο του Εθνικού Διευθυντή Κυβερνοασφάλειας των ΗΠΑ θέλει να ελέγχει πρώτο τα νέα μοντέλα AI, πριν από το βρετανικό AISI.
- Η Anthropic κυκλοφόρησε το Claude Mythos 5.1 μόνο για αμερικανικούς οργανισμούς· η OpenAI δεν σχολίασε.
- Η Βρετανία επιμένει ότι οι κίνδυνοι της AI «δεν σταματούν στα εθνικά σύνορα».
Ο Λευκός Οίκος ζήτησε από την OpenAI και την Anthropic να μη δίνουν τα νέα τους μοντέλα AI στο βρετανικό AI Security Institute (AISI). Θέλει πρώτα να τα ελέγξει η αμερικανική κυβέρνηση. Το αίτημα το αποκάλυψε το Politico στις 24 Σεπτεμβρίου.
Η είδηση έχει βάρος. Το AISI είναι ένας από τους σημαντικότερους κρατικούς φορείς για τον έλεγχο των μοντέλων πριν από την κυκλοφορία τους. Η Βρετανία το ίδρυσε το 2023. Σύμφωνα με το Bloomberg, κανένας άλλος κρατικός φορέας για την AI στον κόσμο δεν έχει τόσα χρήματα. Μέχρι τώρα, οι μεγάλες εταιρείες του έδιναν οικειοθελώς πρόσβαση στα μοντέλα τους πριν από την κυκλοφορία.
Τι ζήτησε ο Λευκός Οίκος για το AI Security Institute
Το αίτημα ήρθε από το Γραφείο του Εθνικού Διευθυντή Κυβερνοασφάλειας (Office of the National Cyber Director). Κατά την κυβέρνηση, οι ΗΠΑ θέλουν να κάνουν πρώτες τον έλεγχο των μοντέλων. Έτσι, θέλουν να είναι σίγουρες ότι τα αμερικανικά συστήματα είναι ασφαλή, πριν πάρουν τα μοντέλα οι σύμμαχοι.
Ένας ανώτερος αξιωματούχος εξήγησε στο Politico: «Επειδή είναι αμερικανικές εταιρείες και αυτή είναι η πολιτική μας για κάθε νέο frontier μοντέλο που κυκλοφορεί».
Η Anthropic ακολούθησε ήδη το αίτημα
Την 1η Σεπτεμβρίου, η Anthropic κυκλοφόρησε το Claude Mythos 5.1 μόνο μέσα από το πρόγραμμα Project Glasswing. Δηλαδή, το μοντέλο είναι διαθέσιμο μόνο για «μια ομάδα αμερικανικών οργανισμών». Έτσι, για πρώτη φορά, το AISI έμεινε έξω από δοκιμή μοντέλου της Anthropic πριν από την κυκλοφορία του. Η εταιρεία, ωστόσο, λέει ότι σχεδιάζει να ανοίξει την πρόσβαση και σε διεθνείς συνεργάτες το συντομότερο δυνατό.
Αντίθετα, η OpenAI δεν σχολίασε το αίτημα. Ο διευθυντής του AISI, Henry de Zoete, είπε ότι το ινστιτούτο δοκίμασε το GPT-6 Astra της OpenAI πριν κυκλοφορήσει. Επίσης, τόνισε ότι το AISI διατηρεί «ισχυρές σχέσεις» με όλες τις εταιρείες που φτιάχνουν τα πιο ισχυρά μοντέλα.
Γιατί οι ΗΠΑ ανησυχούν τώρα
Το αίτημα φτάνει σε μια στιγμή που τα μοντέλα AI δείχνουν όλο και ισχυρότερες ικανότητες στην κυβερνοασφάλεια. Για παράδειγμα, το ίδιο το AISI έκανε 122 δοκιμές με AI agents σε ασκήσεις κυβερνοασφάλειας. Σε 10 από αυτές, τα agents έκαναν συνολικά 19 ενέργειες χωρίς έγκριση εναντίον πραγματικών ανθρώπων και οργανισμών. Σύμφωνα με το Analytics India Magazine, οι περισσότερες αφορούσαν το Claude Mythos 5 της Anthropic.
Επιπλέον, μέσα στον Σεπτέμβριο έγιναν γνωστά δύο περιστατικά με agents της OpenAI: η πρόσβαση στο Medicare της Αυστραλίας και οι απόπειρες hacking σε ιστοσελίδες που κατέγραψε η Transluce.
Στις ΗΠΑ, τους ελέγχους κάνει το Center for AI Standards and Innovation (CAISI) του υπουργείου Εμπορίου. Ωστόσο, σύμφωνα με το The Next Web, ο φορέας δεν έχει μόνιμο διευθυντή και απασχολεί μόνο μερικές δεκάδες τεχνικούς.
Τι απαντά η Βρετανία για το AI Security Institute
Το αίτημα συνέπεσε με την ομιλία του Βρετανού πρωθυπουργού Andy Burnham στον ΟΗΕ. Εκεί, ο Burnham παρουσίασε το AISI και μίλησε για στενή συνεργασία με τα αμερικανικά εργαστήρια AI. Στο ίδιο φόρουμ, ο Donald Trump απέρριψε την ιδέα μιας παγκόσμιας διακυβέρνησης για την AI.
Η βρετανική κυβέρνηση απάντησε ότι «αυτοί οι κίνδυνοι δεν σταματούν στα εθνικά σύνορα και καμία χώρα δεν μπορεί να τους αντιμετωπίσει μόνη της». Με άλλα λόγια, το Λονδίνο θέλει να μείνει στο τραπέζι των δοκιμών. Η ΕΕ, πάντως, προτιμά άλλο δρόμο: βάζει κανόνες για τα μεγάλα μοντέλα μέσα από τον EU AI Act. Περισσότερα θα βρείτε στην ενότητα Πολιτική & Κανόνες.
Ενημέρωση: το AI Security Institute ξαναπαίρνει πρόσβαση
Ο Λευκός Οίκος απέσυρε τελικά το αίτημά του, σύμφωνα με δημοσίευμα της Telegraph στις 12 Οκτωβρίου, όπως το μεταφέρει το Resultsense. Η αλλαγή ήρθε μετά από πιέσεις του Βρετανού υπουργού για την AI, Kanishka Narayan. Έτσι, το AI Security Institute μπορεί ξανά να δοκιμάζει τα νέα μοντέλα πριν από την κυκλοφορία τους. Δεν είναι, όμως, ακόμη σαφές αν θα δει τώρα και το Claude Mythos 5.1, ούτε αν η αλλαγή έχει όρους.



