Η Anthropic προειδοποιεί ότι πλησιάζει την AI που βελτιώνει μόνη της τον εαυτό της

Στο αναθεωρημένο S-1, η Anthropic γράφει ότι τα επόμενα μοντέλα της ίσως φτάσουν σύντομα το όριο της αυτοβελτίωσης της AI. Τι ακριβώς λέει, τι υπόσχεται για τον ανθρώπινο έλεγχο και γιατί κάποιοι το βλέπουν ως μάρκετινγκ.

Οθόνη που δείχνει ξανά και ξανά τη δική της εικόνα, για την αυτοβελτίωση της AI
Κάμερα που «βλέπει» τη δική της εικόνα σε μια τηλεόραση, ένα παράδειγμα ανατροφοδότησης. Φωτογραφία: Deathgleaner / Wikimedia Commons, CC BY-SA 3.0 (περικομμένη)

Με μια ματιά

  • Στο αναθεωρημένο S-1 της 2ας Νοεμβρίου, η Anthropic γράφει ότι τα επόμενα μοντέλα της ίσως φτάσουν «άμεσα» το όριο για πρόοδο που επιταχύνει η ίδια η AI.
  • Κανένα σημερινό μοντέλο δεν έχει περάσει το όριο· η εταιρεία λέει ότι θα κρατήσει ανθρώπους στον έλεγχο και εξετάζει αλλαγές στην πολιτική της.
  • Κάποιοι σχολιαστές βλέπουν την προειδοποίηση και ως μάρκετινγκ, λίγο πριν από την εισαγωγή στο χρηματιστήριο.

Η Anthropic λέει ότι ίσως πλησιάζει την «αναδρομική αυτοβελτίωση» της AI. Το γράφει στο αναθεωρημένο S-1, το έγγραφο για την είσοδό της στο χρηματιστήριο. Με αυτόν τον όρο, οι ερευνητές εννοούν AI που φτιάχνει μόνη της καλύτερη AI. Τότε, η πρόοδος μπορεί να τρέξει απότομα. Την προειδοποίηση εντόπισε πρώτο το TechCrunch στις 2 Νοεμβρίου.

Κανένα σημερινό μοντέλο της εταιρείας δεν έχει περάσει αυτό το όριο. Οι εκτιμήσεις της, όμως, αφορούν τα επόμενα μοντέλα. Εκεί, το όριο μοιάζει κοντά.

Τι γράφει η Anthropic για την αυτοβελτίωση της AI

  • Ταχύτητα: με την AI στην έρευνα, τα μοντέλα ίσως τρέξουν πιο γρήγορα από τα μέτρα ασφαλείας·
  • Άλματα που δεν είδε: στο παρελθόν, κάποια μεγάλα άλματα τα κατάλαβε μόνο εκ των υστέρων·
  • Το όριο: τα επόμενα μοντέλα ίσως φτάσουν «άμεσα» ένα όριο της Πολιτικής Υπεύθυνης Κλιμάκωσης (RSP). Το όριο αφορά πρόοδο που επιταχύνει δραματικά η ίδια η AI·
  • Ο κίνδυνος: AI που φτιάχνει πιο ικανή AI είναι, κατά την εταιρεία, σοβαρός κίνδυνος για την ασφάλεια.

Πώς σκοπεύει να ελέγξει την αυτοβελτίωση η Anthropic

Η Anthropic δεν σκοπεύει να αφήσει το Claude να φτιάχνει μόνο του τα επόμενα μοντέλα. Γράφει ότι κάτι τέτοιο δεν θα ήταν ασφαλές χωρίς ουσιαστική ανθρώπινη επίβλεψη. Επιπλέον, σκέφτεται να αλλάξει την RSP, για να έχουν οι άνθρωποι τον τελευταίο λόγο.

Σύμφωνα με το Gizmodo, η εταιρεία τονίζει ότι δεν έχει φτάσει ακόμη εκεί. Λέει επίσης ότι η αυτοβελτίωση «δεν είναι αναπόφευκτη». Παράλληλα, μελετά ακόμη τα δεδομένα για τα σημερινά μοντέλα.

Προειδοποίηση ή μάρκετινγκ;

Ένα S-1 έχει διπλό ρόλο. Από τη μία, η εταιρεία οφείλει να γράψει κάθε σοβαρό κίνδυνο, αλλιώς κινδυνεύει με αγωγές. Από την άλλη, το διαβάζουν επενδυτές λίγο πριν από την εισαγωγή στο χρηματιστήριο. Γι’ αυτό, κάποιοι σχολιαστές βλέπουν εδώ και μια διαφήμιση για τα μοντέλα της.

Το ίδιο έγγραφο έχει και νέα οικονομικά στοιχεία. Σύμφωνα με το CNBC, τα έσοδα του τρίτου τριμήνου έφτασαν περίπου τα 17 δισ. δολάρια. Οι δεσμεύσεις για υπολογιστική ισχύ ξεπερνούν τα 895 δισ. Περισσότερα θα βρείτε στο άρθρο μας για το S-1 της Anthropic.

Το θέμα δεν είναι μόνο θεωρητικό. Ήδη, τα AI agents της Anthropic κάνουν περισσότερες ώρες δουλειάς από τους ανθρώπους της. Μάλιστα, ένα από αυτά έφτασε σε δεδομένα ψήφων χωρίς άδεια. Περισσότερα θα βρείτε στην ενότητα Μοντέλα AI.