Βρετανία: η κυβέρνηση θέλει αναφορές για σοβαρά περιστατικά με AI agents, αλλά δεν έχει αποφασίσει

Στις 12 Οκτωβρίου, η βρετανική κυβέρνηση ανακοίνωσε μέτρα για τα περιστατικά AI agents, δηλαδή για συστήματα που δουλεύουν σχεδόν μόνα τους σε σύνθετες εργασίες. Η ανακοίνωση έγινε μαζί με το Γραφείο Υπουργικού Συμβουλίου, το AI Security Institute και το NCSC, τον βρετανικό οργανισμό κυβερνοασφάλειας.

Ο υπουργός τεχνητής νοημοσύνης, Κανισκά Νάραγιαν, μίλησε με σαφήνεια προς τις εταιρείες AI: «Αν δεν μπορείτε να ελέγξετε επαρκώς τους κινδύνους, μην κυκλοφορείτε το σύστημα». Η φράση είναι από την ομιλία του στο Imperial College London, όπως τη μεταφέρει το Tech.eu.

Τι έχει αποφασίσει η κυβέρνηση και τι εξετάζει

• Σε εξέλιξη: η κυβέρνηση δουλεύει με το NCSC και το AISI για το πώς θα αντιδρά σε σοβαρά περιστατικά με AI agents. Θα απαιτήσει νέα εξειδίκευση, αλλά η κυβέρνηση δεν έχει ακόμη φτιάξει ξεχωριστή μονάδα·
• Αποφασισμένο: η επέκταση των πιλοτικών δοκιμών, όπου η AI βοηθά στην άμυνα του κυβερνοχώρου. Οι δοκιμές βρήκαν ήδη πάνω από χίλιες πιθανές ευπάθειες σε κυβερνητικά συστήματα·
• Σε εξέταση: αν ο νόμος για την κυβερνοασφάλεια (Cyber Security and Resilience Bill) θα καλύπτει τα σοβαρά περιστατικά και τα «σχεδόν ατυχήματα» (near misses)·
• Σε εξέταση: ισχυρότερη προστασία για νοσοκομεία και δίκτυα ύδρευσης και ενέργειας, ώστε να αντέχουν αν τα συστήματα AI ξεφύγουν από τον έλεγχο.

Η κυβέρνηση, πάντως, λέει ότι θα συζητήσει τις λεπτομέρειες με βουλευτές και τεχνικούς ειδικούς. Ως τότε, δεν υπάρχει νέα υποχρέωση αναφοράς περιστατικών AI στη Βρετανία. Το κείμενο της ανακοίνωσης είναι στο gov.uk.

Τα περιστατικά AI agents στη Βουλή

Η ανακοίνωση, άλλωστε, ήρθε λίγες μέρες μετά από ακρόαση στη βρετανική Βουλή. Στις 13 Οκτωβρίου, στέλεχος της OpenAI είπε στους βουλευτές ότι μπορεί να υπάρχουν περιστατικά με AI agents που κανείς δεν έχει εντοπίσει. Σύμφωνα με τα δημοσιεύματα, δεν μπορεί να βεβαιώσει την επιτροπή ότι όσα έχουν γίνει γνωστά είναι όλα. Το ROIC περιγράφει την ακρόαση.

Ωστόσο, το πιο γνωστό περιστατικό είναι αυτό με το Medicare της Αυστραλίας, για το οποίο γράψαμε στο άρθρο μας. Ο Νάραγιαν είπε ότι μια παρόμοια παραβίαση στη Βρετανία είναι «πιθανή, αν όχι αναπόφευκτη», σύμφωνα με τα δημοσιεύματα.

Τι ισχύει ήδη για τα περιστατικά AI agents στην ΕΕ

Αντίθετα, ο ευρωπαϊκός κανονισμός για την AI έχει ήδη υποχρέωση αναφοράς για τα πιο ισχυρά μοντέλα γενικής χρήσης. Όποιος παρέχει τέτοια μοντέλα με «συστημικό κίνδυνο» πρέπει να αναφέρει σοβαρά περιστατικά στο AI Office της Επιτροπής, σύμφωνα με το άρθρο 55. Η Βρετανία δεν έχει ακόμη αντίστοιχη υποχρέωση.

Τέλος, για τον ευρωπαϊκό κανονισμό και τις προθεσμίες του, δείτε το άρθρο μας για το EU AI Act. Για το AISI και την πρόσβαση στα νέα μοντέλα, δείτε το άρθρο για τον Λευκό Οίκο και τη Βρετανία. Περισσότερες ειδήσεις πολιτικής θα βρείτε στην ενότητα Πολιτική & Κανόνες.