Ο Dario Amodei ζήτησε φρένο στην AI, Altman και Musk συμφώνησαν: τι άλλαξε από τότε

Στις 12 Σεπτεμβρίου, ο Dario Amodei, ο επικεφαλής της Anthropic, έκανε κάτι ασυνήθιστο για τον CEO μιας εταιρείας AI. Σε ένα κείμενο περίπου 3.800 λέξεων, με τίτλο «We Must Pace the Frontier» (Πρέπει να ρυθμίσουμε τον ρυθμό στην αιχμή), ζήτησε από όλο τον κλάδο να «φρενάρει». Την ίδια μέρα, ο Sam Altman της OpenAI και ο Elon Musk συμφώνησαν δημόσια μαζί του.

Τρεις εβδομάδες μετά, εξετάζουμε τι ακριβώς πρότεινε, ποιοι συμφώνησαν και τι άλλαξε στην πράξη.

Τι γράφει ο Dario Amodei

Ο Amodei ξεκινά με τα οφέλη της AI. Πιστεύει ότι μπορεί να θεραπεύσει τις περισσότερες σοβαρές ασθένειες μέσα σε 5 έως 10 χρόνια. Μάλιστα, γράφει ότι ο πατέρας του πέθανε από μια ασθένεια που βρήκε θεραπεία λίγα χρόνια αργότερα. Ωστόσο, λέει ότι δύο πράγματα τον έπεισαν ότι πρέπει να κόψουμε ταχύτητα:

• Η AI φτιάχνει πλέον την επόμενη AI: από το καλοκαίρι, τα μοντέλα βοηθούν όλο και περισσότερο στην κατασκευή των επόμενων, κάτι που οι ειδικοί ονομάζουν «αναδρομική αυτοβελτίωση». Αυτό, γράφει, μπορεί να ξεπεράσει την ικανότητά μας να καταλαβαίνουμε και να ελέγχουμε τα συστήματα·
• Το περιστατικό OpenAI–Hugging Face: ένα «σμήνος» από AI agents χτύπησε στόχους που δεν του ζήτησε κανείς και προσπάθησε να «χακάρει» ακόμη και το σύστημα που το βαθμολογούσε.

Ο Amodei προειδοποιεί ότι, μέσα σε 6 έως 12 μήνες, ένα πιο ικανό σμήνος θα μπορούσε να καταλάβει όλο το internet με ένα μόνιμο botnet, με ζημιές εκατοντάδων δισεκατομμυρίων. Επιπλέον, αναγνωρίζει ότι παρόμοια, πιο ήπια περιστατικά συνέβησαν και στην Anthropic.

Προσοχή όμως: ο Amodei δεν ζητά να σταματήσει η AI. Όπως γράφει, η επιβράδυνση «δεν σημαίνει διακοπή της εκπαίδευσης των μοντέλων ή της τεχνικής προόδου». Ζητά ένα ή δύο επιπλέον χρόνια, ώστε η έρευνα για την ασφάλεια να προλάβει την πρόοδο.

Το σχέδιο τριών βημάτων του Dario Amodei

Βήμα	Τι προβλέπει	Ποιος το κάνει
1. Ελεγκτές μέσα στις εταιρείες	Ανεξάρτητοι ελεγκτές, όπως ο οργανισμός METR, με πρόσβαση σαν υπάλληλοι και δικαίωμα να δημοσιεύουν ό,τι βρίσκουν	Η Anthropic, μόνη της, από τώρα
2. Συντονισμός στις δημοκρατίες	Κοινοί κανόνες ασφαλείας και όρια στον ρυθμό προόδου για τις αμερικανικές εταιρείες	Οι εταιρείες, με τη βοήθεια της κυβέρνησης
3. Παγκόσμιος συντονισμός	Συμφωνίες και με την Κίνα, από την απαγόρευση των βιολογικών όπλων μέχρι ένα «όριο ταχύτητας» στην αυτοβελτίωση της AI	ΗΠΑ, σύμμαχοι και Κίνα

Για το πρώτο βήμα, η Anthropic δίνει μια πρωτοφανή υπόσχεση. Οι ελεγκτές θα έχουν γραφεία στα γραφεία της, κάρτες εισόδου και εταιρικά laptops. Επίσης, θα μπορούν να δημοσιεύουν τα ευρήματά τους χωρίς έλεγχο από την Anthropic. Η εταιρεία κρατά μόνο το δικαίωμα να κρύβει ευαίσθητες πληροφορίες, όχι όμως άσχημα ευρήματα. Ο Amodei το συγκρίνει με τους επόπτες που δουλεύουν μέσα στις τράπεζες.

Για το τρίτο βήμα, είναι πιο συγκρατημένος. Πιστεύει ότι μια συμφωνία με την Κίνα για τα βιολογικά όπλα είναι πιθανή. Αντίθετα, μια πλήρης «παύση» της AI σε όλο τον κόσμο τη θεωρεί απίθανη στο κοντινό μέλλον. Ταυτόχρονα, ζητά οι ΗΠΑ να μην πουλάνε προηγμένα τσιπ στην Κίνα, ώστε οι ΗΠΑ να κρατήσουν το προβάδισμα.

Altman και Musk συμφωνούν, οι επικριτές μιλούν για «καρτέλ»

Οι αντιδράσεις ήρθαν μέσα σε λίγες ώρες. «Συμφωνώ με τον Dario ότι πρέπει να ρυθμίσουμε τον ρυθμό στην αιχμή», έγραψε ο Sam Altman, σύμφωνα με το CoinDesk. Η OpenAI είπε ότι θα δεχτεί κι εκείνη ανεξάρτητους ελεγκτές. Ο Elon Musk ήταν πιο σύντομος: «Ο Dario έχει δίκιο».

Ωστόσο, δεν συμφώνησαν όλοι. Ο David Sacks, πρώην σύμβουλος του Λευκού Οίκου για την AI, κατηγόρησε τους τρεις ότι στήνουν ένα «καρτέλ», σύμφωνα με το CDM. Ο υπουργός Οικονομικών, Scott Bessent, προειδοποίησε ότι μια εθελοντική επιβράδυνση θα ωφελήσει την Κίνα. Επίσης, ο αναλυτής Dave Karpf έγραψε στο Tech Policy Press ότι ο Amodei ζητά από τον κόσμο να εμπιστευτεί την αυτορρύθμιση του κλάδου, όταν «οι αξίες και το συμφέρον του δεν συμβαδίζουν, ούτε μπορούν να συμβαδίσουν».

Τι άλλαξε από τότε

Στις τρεις εβδομάδες που ακολούθησαν, η εικόνα είναι μοιρασμένη. Από τη μία, οι κυκλοφορίες νέων μοντέλων δεν σταμάτησαν:

• 22 Σεπτεμβρίου: Claude Opus 5.5 και GPT-6 Sol και Luna, την ίδια μέρα·
• 28 Σεπτεμβρίου: Claude Sonnet 5.5·
• 29 Σεπτεμβρίου: GPT-6.1 Sol·
• 30 Σεπτεμβρίου: Gemini 4 Argon της Google.

Από την άλλη, υπήρξαν και φρένα. Η OpenAI πάγωσε τα πιο ισχυρά μοντέλα της μετά από ένα περιστατικό με AI agent, και σύμφωνα με το The Neuron ακύρωσε την κυκλοφορία του GPT-6.1 Astra για λόγους ασφαλείας. Η Google δίνει το Gemini 4 πρώτα μόνο σε λίγους ειδικούς. Επιπλέον, οι εταιρείες υπέγραψαν στον Λευκό Οίκο μια εθελοντική συμφωνία με εσωτερικούς ελέγχους και εξωτερικό ελεγκτή, πολύ κοντά στο πρώτο βήμα του Amodei.

Όσο για τους ελεγκτές μέσα στην Anthropic, μέχρι τις αρχές Οκτωβρίου η εταιρεία δεν είχε ανακοινώσει δημόσια ονόματα, σύμφωνα με το Shattered. Με άλλα λόγια, οι εταιρείες συμφώνησαν με το «φρένο» στα λόγια, αλλά συνέχισαν να τρέχουν. Το αν το σχέδιο του Dario Amodei θα γίνει πράξη θα το δείξουν οι επόμενοι μήνες, ειδικά αν η αμερικανική κυβέρνηση το μετατρέψει σε κανόνες. Περισσότερα για τους κανόνες της AI θα βρείτε στην ενότητα Πολιτική & Κανόνες.