Google, OpenAI και Anthropic φτιάχνουν δικό τους «ρυθμιστή» για τα frontier AI μοντέλα
Οι τρεις μεγαλύτερες εταιρείες AI είναι κοντά σε συμφωνία για κοινό φορέα που θα ελέγχει τα πιο ισχυρά μοντέλα, στα πρότυπα της FINRA. Για επικεφαλής θέλουν τον Sriram Krishnan.
Με μια ματιά
- Google, OpenAI και Anthropic είναι κοντά σε συμφωνία για κοινό φορέα ελέγχου των frontier AI μοντέλων, με το προσωρινό όνομα SAFA.
- Πρότυπο είναι η FINRA των ΗΠΑ· για επικεφαλής οι εταιρείες πλησίασαν τον Sriram Krishnan, πρώην σύμβουλο του Λευκού Οίκου για την AI.
- Ο φορέας ίσως ξεκινήσει στα τέλη του 2026 ή στις αρχές του 2027· επικριτές μιλούν για «καρτέλ».
Η Google, η OpenAI και η Anthropic θέλουν να στήσουν έναν κοινό φορέα που θα ελέγχει τα πιο ισχυρά μοντέλα AI, γνωστά και ως frontier AI μοντέλα. Σύμφωνα με το The Information, οι τρεις εταιρείες είναι κοντά σε συμφωνία. Ο φορέας έχει το προσωρινό όνομα Standards Authority for Frontier AI (SAFA) και ίσως ξεκινήσει στα τέλη του 2026 ή στις αρχές του 2027.
Μάλιστα, οι εταιρείες ζήτησαν από τον Sriram Krishnan να αναλάβει επικεφαλής. Ο Krishnan ήταν έως τον Ιούνιο ο βασικός σύμβουλος του Λευκού Οίκου για την AI, σύμφωνα με το AI Weekly.
Τι θα κάνει ο φορέας για το frontier AI
Πρότυπο για τον νέο φορέα είναι η FINRA, ο οργανισμός που ελέγχει τις χρηματιστηριακές εταιρείες στις ΗΠΑ. Η FINRA δεν είναι κρατική υπηρεσία. Ωστόσο, έχει εξουσία πάνω στα μέλη της και δουλεύει υπό την εποπτεία της αμερικανικής Επιτροπής Κεφαλαιαγοράς (SEC).
Σύμφωνα με το BankInfoSecurity, ο SAFA θα έχει τρεις βασικές δουλειές:
- κοινά κριτήρια (standards) για την αξιολόγηση των frontier μοντέλων·
- δοκιμές των μοντέλων με κοινά benchmarks·
- ανεξάρτητη παρακολούθηση των εταιρειών, ως τρίτος ελεγκτής.
Επιπλέον, για να ξεκινήσει ο φορέας δεν θα χρειαστεί νόμος από το Κογκρέσο. Ίσως όμως πρέπει να εγγραφεί σε μια κρατική υπηρεσία, ώστε να αποκτήσει νομική ισχύ. Τα χρήματα θα έρθουν κυρίως από τις ίδιες τις εταιρείες, και η πρόταση μιλά για «σημαντική» χρηματοδότηση.
Η ιδέα του Demis Hassabis
Η ιδέα δεν είναι καινούργια. Στις 14 Ιουλίου, ο Demis Hassabis, CEO της Google DeepMind, πρότεινε δημόσια έναν «FINRA για την AI», σύμφωνα με το TechCrunch. Στην πρότασή του, οι εταιρείες θα έδιναν τα νέα μοντέλα στον φορέα έως 30 ημέρες πριν από την κυκλοφορία.
Εκεί, ειδικοί θα έλεγχαν αν ένα μοντέλο μπορεί να βοηθήσει σε κυβερνοεπιθέσεις ή σε βιολογικά όπλα. Επίσης, θα έλεγχαν αν μπορεί να ξεγελά τους ανθρώπους. Αρχικά, η συμμετοχή θα ήταν εθελοντική. Αργότερα, όμως, ο έλεγχος θα ήταν υποχρεωτικός για κάθε νέο μοντέλο στην αμερικανική αγορά.
Ποιοι άλλοι συζητούν με τις εταιρείες
Οι τρεις εταιρείες πλησίασαν και άλλα γνωστά ονόματα. Για παράδειγμα, μίλησαν με την Arati Prabhakar, επικεφαλής του Γραφείου Επιστήμης και Τεχνολογίας του Λευκού Οίκου επί Joe Biden. Επίσης, μίλησαν με την Condoleezza Rice, πρώην υπουργό Εξωτερικών των ΗΠΑ, και με τον επενδυτή David Friedberg.
Ακόμη, για επιστημονικούς συμβούλους συζήτησαν με την Beth Barnes, ιδρύτρια του οργανισμού METR, και με τον ερευνητή Paul Christiano. Αντίθετα, οι αναφορές δεν λένε τίποτα για τη Meta, την xAI ή τη Microsoft.
Οι επικρίσεις για τον ρυθμιστή του frontier AI
Η επιλογή του Krishnan έχει ενδιαφέρον. Όσο ήταν στον Λευκό Οίκο, υποστήριζε ότι «δεν θα υπάρξει FDA για την AI», δηλαδή κρατική αρχή που εγκρίνει κάθε μοντέλο. Έτσι, οι εταιρείες μάλλον προτιμούν έναν ρυθμιστή που στήνουν οι ίδιες, αντί για κανόνες από το κράτος.
Από την άλλη, δεν συμφωνούν όλοι. Ο Aidan Gomez, CEO της Cohere, χαρακτήρισε το σχέδιο «καρτέλ με άλλο όνομα», σύμφωνα με το AI Weekly. Κατά τον ίδιο, ένας τέτοιος φορέας βοηθά τους μεγάλους και δυσκολεύει τις μικρές εταιρείες και τα ανοιχτά μοντέλα.
Παράλληλα, και η αμερικανική κυβέρνηση θέλει να βλέπει πρώτη τα νέα μοντέλα, όπως γράψαμε για τον Λευκό Οίκο και το βρετανικό AI Security Institute. Στην Ευρώπη, πάντως, τους κανόνες τους βάζει ο νόμος, με το EU AI Act.



