Το ενδιαφέρον στοιχείο είναι, μάλιστα, ότι η αξιοποίησή της εξελίσσεται με έναν αρκετά διαφορετικό τρόπο από εκείνον που περίμεναν πολλοί πριν από μερικά χρόνια. Η τεχνητή νοημοσύνη δεν ήρθε απλώς για να δημιουργεί κείμενα και εικόνες, ούτε περιορίστηκε στην αυτοματοποίηση ορισμένων επαναλαμβανόμενων διαδικασιών. Χρησιμοποιείται πλέον στην ανάπτυξη λογισμικού, στην εξυπηρέτηση πελατών, στην ιατρική και επιστημονική έρευνα, στις χρηματοοικονομικές υπηρεσίες, στη λειτουργία του Δημοσίου και, φυσικά, στην κυβερνοασφάλεια.
Η μεγάλη αλλαγή που βρίσκεται τώρα σε εξέλιξη αφορά τους AI agents, δηλαδή συστήματα που δεν περιορίζονται στο να απαντήσουν σε μία ερώτηση, αλλά μπορούν να σχεδιάσουν τα επόμενα βήματα, να χρησιμοποιήσουν εργαλεία, να συνδεθούν με άλλες εφαρμογές και να προχωρήσουν σε ενέργειες προκειμένου να επιτύχουν έναν συγκεκριμένο στόχο. Και εκεί ακριβώς αρχίζει μία πολύ μεγαλύτερη συζήτηση: όσο περισσότερο η τεχνητή νοημοσύνη περνά από τις απαντήσεις στις πράξεις, τόσο πιο σημαντικό γίνεται να γνωρίζουμε ποιος καθορίζει τους στόχους, τι δικαιώματα διαθέτει ένας agent και μέχρι πού μπορεί να φτάσει χωρίς ανθρώπινη παρέμβαση.
Το πρόσφατο περιστατικό με την OpenAI και το Hugging Face αποτελεί ένα χαρακτηριστικό παράδειγμα. Οι τίτλοι που έκαναν λόγο για μοντέλα τεχνητής νοημοσύνης τα οποία «ξέφυγαν» από τον έλεγχο και χάκαραν αυτόνομα μια εταιρεία είναι προφανώς εντυπωσιακοί, αλλά χρειάζεται να δούμε τι πραγματικά συνέβη, χωρίς ούτε να υποβαθμίζουμε τη σημασία του περιστατικού ούτε να δημιουργούμε την εντύπωση ότι το ΑΙ απέκτησε ξαφνικά δική του βούληση.
Σύμφωνα με την επίσημη ενημέρωση της OpenAI, τα μοντέλα δοκιμάζονταν στο πλαίσιο μιας εσωτερικής αξιολόγησης προηγμένων δυνατοτήτων κυβερνοασφάλειας.
Μεταξύ αυτών ήταν το GPT-5.6 Sol και ένα ακόμη ισχυρότερο μοντέλο που δεν έχει κυκλοφορήσει, ενώ για τις ανάγκες της δοκιμής είχαν αφαιρεθεί ορισμένοι από τους περιορισμούς που εφαρμόζονται στα συστήματα τα οποία είναι διαθέσιμα στους χρήστες.
Ο στόχος των μοντέλων ήταν να επιλύσουν μια εξαιρετικά απαιτητική άσκηση κυβερνοασφάλειας μέσα σε ένα θεωρητικά απομονωμένο περιβάλλον.
Στην προσπάθειά τους, όμως, να βρουν τη λύση, εντόπισαν ένα άγνωστο μέχρι εκείνη τη στιγμή κενό ασφαλείας στον ενδιάμεσο διακομιστή που χρησιμοποιούνταν για την εγκατάσταση πακέτων λογισμικού. Αξιοποίησαν το συγκεκριμένο κενό για να αποκτήσουν πρόσβαση στο ανοικτό Διαδίκτυο και στη συνέχεια κατευθύνθηκαν προς το Hugging Face, εκτιμώντας ότι εκεί θα μπορούσαν να βρουν δεδομένα και πιθανές απαντήσεις για τη δοκιμή.
Συνδυάζοντας διαφορετικές ευπάθειες και κλεμμένα διαπιστευτήρια, κατάφεραν να αποκτήσουν μη εξουσιοδοτημένη πρόσβαση σε τμήμα της πραγματικής υποδομής του Hugging Face. Με απλά λόγια, το ΑΙ δεν αποφάσισε από μόνο του να επιτεθεί σε μία εταιρεία. Του δόθηκε ένας αρκετά στενός στόχος και, έχοντας στη διάθεσή του ισχυρές δυνατότητες και λιγότερους περιορισμούς, βρήκε μία απρόβλεπτη διαδρομή για να τον ολοκληρώσει.
Αυτό, βέβαια, δεν σημαίνει ότι το περιστατικό ήταν ασήμαντο. Η Hugging Face έχει αναφέρει ότι υπήρξε πρόσβαση σε ένα περιορισμένο σύνολο εσωτερικών δεδομένων και σε ορισμένα διαπιστευτήρια, ενώ συνεχίζει να εξετάζει αν επηρεάστηκαν δεδομένα συνεργατών ή πελατών. Μέχρι στιγμής δεν υπάρχουν ενδείξεις αλλοίωσης των δημόσια διαθέσιμων μοντέλων, datasets και εφαρμογών της πλατφόρμας, ούτε παραβίασης της αλυσίδας διάθεσης λογισμικού.
Το ΑΙ πρόβλημα και λύση
Υπάρχει, μάλιστα, και μία ενδιαφέρουσα λεπτομέρεια: το περιστατικό εντοπίστηκε και αναλύθηκε με τη βοήθεια άλλων συστημάτων τεχνητής νοημοσύνης. Η Hugging Face χρησιμοποίησε AI agents για να εξετάσει περισσότερες από 17.000 καταγεγραμμένες ενέργειες και να ανασυνθέσει μέσα σε λίγες ώρες μία διαδικασία που υπό διαφορετικές συνθήκες θα απαιτούσε αρκετές ημέρες. Πρόκειται για ένα ακόμη παράδειγμα του τρόπου με τον οποίο η ίδια τεχνολογία μπορεί να αποτελέσει μέρος τόσο του προβλήματος όσο και της λύσης.
Αντίστοιχη είναι και η περίπτωση του Claude Mythos της Anthropic, ενός μοντέλου που έχει σχεδιαστεί για τον εντοπισμό σύνθετων κενών ασφαλείας και διατίθεται σε περιορισμένο αριθμό ελεγμένων συνεργατών. Το Mythos έχει δείξει ότι μπορεί να ανακαλύπτει και να αξιοποιεί άγνωστες ευπάθειες σε λειτουργικά συστήματα και προγράμματα περιήγησης, ενώ σε δοκιμές του βρετανικού AI Security Institute κατάφερε να ολοκληρώσει αυτόνομα σύνθετες επιθέσεις πολλαπλών σταδίων σε ελεγχόμενα περιβάλλοντα.
Από τη μία πλευρά, μία τέτοια δυνατότητα μπορεί να προσφέρει τεράστια βοήθεια στις ομάδες κυβερνοασφάλειας, οι οποίες θα μπορούν να εντοπίζουν και να διορθώνουν ευπάθειες προτού τις ανακαλύψουν οι κυβερνοεγκληματίες. Από την άλλη, είναι προφανές ότι ένα αντίστοιχο εργαλείο, αν χρησιμοποιηθεί χωρίς περιορισμούς ή περάσει σε λάθος χέρια, μπορεί να αλλάξει πλήρως τις ισορροπίες στον κυβερνοχώρο. Πρόκειται για την πιο χαρακτηριστική ίσως περίπτωση της διπλής χρήσης της τεχνητής νοημοσύνης.
Η ανάγκη για κανόνες
Η απάντηση, όμως, δεν μπορεί να είναι η διακοπή της ανάπτυξης του ΑΙ ούτε η δημιουργία ενός κανονιστικού πλαισίου που θα περιορίσει κάθε προσπάθεια καινοτομίας. Το πραγματικό ζητούμενο είναι να διαμορφωθούν κανόνες και μηχανισμοί διακυβέρνησης που θα επιτρέπουν την αξιοποίηση των νέων δυνατοτήτων με ασφάλεια και με σαφώς καθορισμένη ανθρώπινη ευθύνη.
Στην Ελλάδα ψηφίστηκε πρόσφατα το εθνικό πλαίσιο εφαρμογής του ευρωπαϊκού AI Act, το οποίο προβλέπει αρμόδιες εποπτικές αρχές, μηχανισμούς καταγγελιών, κυρώσεις, ρυθμιστικά δοκιμαστήρια και τη δημιουργία μητρώου για τα συστήματα τεχνητής νοημοσύνης που χρησιμοποιούνται από τη Δημόσια Διοίκηση. Είναι ένα σημαντικό βήμα, αλλά, όπως συμβαίνει συνήθως με την τεχνολογία, η μεγαλύτερη πρόκληση δεν βρίσκεται μόνο στη δημιουργία του θεσμικού πλαισίου αλλά στον τρόπο με τον οποίο αυτό θα εφαρμοστεί και θα προσαρμόζεται στις διαρκώς μεταβαλλόμενες δυνατότητες των AI agents.
Στις Ηνωμένες Πολιτείες, το περιστατικό επανέφερε τη συζήτηση για το AI Kill Switch Act, μία διακομματική πρόταση που θα υποχρεώνει τους δημιουργούς των ισχυρότερων συστημάτων να διατηρούν την τεχνική δυνατότητα να περιορίζουν, να αναστέλλουν ή να διακόπτουν τη λειτουργία τους. Ένας διακόπτης έκτακτης ανάγκης, όμως, δεν είναι αρκετός. Χρειάζονται περιορισμένα δικαιώματα πρόσβασης, πραγματικά απομονωμένα περιβάλλοντα δοκιμών, συνεχής παρακολούθηση, καταγραφή των ενεργειών, ανθρώπινη έγκριση πριν από κινήσεις υψηλού κινδύνου και σαφείς διαδικασίες γνωστοποίησης περιστατικών.
Χρειάζεται, επίσης, κάποια μορφή συνεννόησης σε παγκόσμιο επίπεδο. Οι AI agents και οι ψηφιακές υποδομές δεν γνωρίζουν σύνορα, καθώς ένα σύστημα μπορεί να αναπτυχθεί σε μία χώρα, να λειτουργεί σε υποδομές μιας δεύτερης και να επηρεάσει οργανισμούς που βρίσκονται στην άλλη πλευρά του πλανήτη.
Το στοίχημα, επομένως, δεν είναι να επιλέξουμε μεταξύ καινοτομίας και ρύθμισης. Είναι να καταφέρουμε να αξιοποιήσουμε την τεχνητή νοημοσύνη σε πραγματικά μεγάλη κλίμακα, διατηρώντας ταυτόχρονα τον ανθρώπινο έλεγχο. Γιατί όσο πιο προηγμένος και χρήσιμος γίνεται ένας AI agent, τόσο πιο απαραίτητο είναι να γνωρίζουμε ποιος του δίνει τις εντολές, τι ακριβώς μπορεί να κάνει και, κυρίως, ποιος μπορεί να τον σταματήσει.
Πηγή
