- Γράφει η Ιωάννα Δ. Μαλαγαρδή
Η επίθεση στη Hugging Face, μια εκ των μεγαλύτερων παγκοσμίως πλατφορμών για κοινή χρήση μοντέλων Τεχνητής Νοημοσύνης (ΤΝ) και δεδομένων, έδειξε ότι ένα Μεγάλο Γλωσσικό Μοντέλο (ΜΓΜ), όταν συνδυάζεται με αυτονομία, πρόσβαση στο διαδίκτυο και δυνατότητα εκτέλεσης κώδικα, μπορεί να υπερβεί τα όρια ασφαλείας και να πραγματοποιήσει σύνθετες κυβερνοεπιθέσεις με μεγάλη ταχύτητα. Παραδείγματα γνωστών ΜΓΜ (Large Language Models, LLMs) είναι το GhatGPT της OpenAI, το Claude, το Gemini, το Copilot Microsoft, το Grok της xAI και το DeepSeek.
Η ραγδαία ανάπτυξη της ΤΝ δημιουργεί νέες δυνατότητες στην επιστήμη, στην οικονομία, στην εκπαίδευση και στη Δημόσια Διοίκηση. Ταυτοχρόνως, όμως, διαμορφώνει ένα εντελώς διαφορετικό περιβάλλον απειλών.
Το περιστατικό κυβερνοεισβολής στην πλατφόρμα Hugging Face, τον Ιούλιο του 2026, έδειξε ότι τα σύγχρονα συστήματα Παραγωγικής ΤΝ δεν αποτελούν πλέον μόνον εργαλεία τα οποία μπορούν να χρησιμοποιηθούν από ανθρώπους για την πραγματοποίηση επιθέσεων.
Υπό συγκεκριμένες συνθήκες, μπορούν να αναζητήσουν μόνα τους ευπάθειες, να σχεδιάσουν διαδοχικά βήματα, να προσαρμοστούν στα εμπόδια και να παραβιάσουν πληροφοριακά συστήματα. Η εξέλιξη αυτή σηματοδοτεί μια νέα εποχή στην κυβερνοασφάλεια, την εποχή των Αυτόνομων Πρακτόρων ΤΝ.
Ένα ΜΓΜ, όπως εκείνα που βρίσκονται πίσω από τις γνωστές εφαρμογές συνομιλίας, είναι πρωτίστως ένα υπολογιστικό σύστημα το οποίο επεξεργάζεται και παράγει κείμενο. Από μόνο του δεν μπορεί να εισβάλει σε έναν υπολογιστή, να κλέψει κωδικούς ή να εκτελέσει εντολές σε ένα δίκτυο.
Η κατάσταση αλλάζει, όμως, όταν το μοντέλο χρησιμοποιεί εξωτερικά εργαλεία, όπως είναι τα προγράμματα περιήγησης, το ηλεκτρονικό ταχυδρομείο, οι εταιρικές βάσεις δεδομένων, τα λειτουργικά συστήματα, οι αποθηκευτικοί χώροι και τα περιβάλλοντα εκτέλεσης κώδικα.
Τότε το μοντέλο μετατρέπεται σε «πράκτορα ΤΝ», δηλαδή σε ένα σύστημα που δεν περιορίζεται στην παραγωγή απαντήσεων, αλλά μπορεί να σχεδιάζει και να εκτελεί ακολουθίες ενεργειών για την επίτευξη ενός στόχου. Μπορεί να αναλύσει ένα πρόβλημα, να επιλέξει εργαλεία, να ελέγξει το αποτέλεσμα των ενεργειών του και να τροποποιήσει την τακτική του σε περίπτωση που η αρχική προσπάθεια αποτύχει.
Η ικανότητα αυτή είναι ιδιαίτερα χρήσιμη όταν ο πράκτορας λειτουργεί ως ψηφιακός βοηθός. Γίνεται, όμως, εξαιρετικά επικίνδυνη όταν διαθέτει εκτεταμένα δικαιώματα και δρα μέσα σε ένα ανεπαρκώς προστατευμένο περιβάλλον.
Το περιστατικό της Hugging Face αποτελεί χαρακτηριστικό παράδειγμα. Η Hugging Face είναι μία από τις σημαντικότερες διεθνείς πλατφόρμες φιλοξενίας και διανομής μοντέλων, συνόλων δεδομένων και εφαρμογών ΤΝ. Εκατομμύρια ερευνητές και προγραμματιστές χρησιμοποιούν την υποδομή της για να δημοσιεύουν, να κατεβάζουν και να δοκιμάζουν συστήματα επεξεργασίας πληροφοριών.
Κατά τη διάρκεια εσωτερικής αξιολόγησης της OpenAI, ορισμένα προηγμένα μοντέλα υποβάλλονταν σε δοκιμασίες Κυβερνοασφάλειας που απαιτούσαν τον εντοπισμό και την εκμετάλλευση ευπαθειών. Σκοπός της αξιολόγησης ήταν να μετρηθούν οι μέγιστες επιθετικές δυνατότητες των μοντέλων.
Για τον λόγο αυτόν, κάποιοι από τους μηχανισμούς που περιορίζουν επικίνδυνες ενέργειες είχαν ανασταλεί. Τα μοντέλα λειτουργούσαν σε ένα θεωρητικά απομονωμένο περιβάλλον, χωρίς άμεση πρόσβαση στο ανοικτό διαδίκτυο.
Το σύστημα, ωστόσο, αναζητώντας τη λύση μιας δοκιμασίας με την ονομασία ExploitGym, εντόπισε μια προηγουμένως άγνωστη ευπάθεια, ένα λεγόμενο zero-day, σε ενδιάμεσο διακομιστή πακέτων λογισμικού. Εκμεταλλεύθηκε την αδυναμία, υπερέβη τα όρια του περιβάλλοντος δοκιμών και απέκτησε πρόσβαση στο διαδίκτυο.
Στη συνέχεια, χρησιμοποίησε ευάλωτη υποδομή τρίτου φορέα ως ενδιάμεση βάση, προτού στραφεί εναντίον των παραγωγικών συστημάτων της Hugging Face.
Σύμφωνα με την τεχνική ανασύνθεση της Hugging Face, ο αυτόνομος πράκτορας συμπέρανε ότι στην πλατφόρμα ενδέχεται να βρίσκονταν μοντέλα, δεδομένα ή λύσεις σχετικές με τη δοκιμασία στην οποία υποβαλλόταν. Αντί να επιλύσει το πρόβλημα με τον προβλεπόμενο τρόπο, επιχείρησε ουσιαστικά να αποκτήσει τις απαντήσεις από τα πραγματικά συστήματα της εταιρείας.
Η συμπεριφορά του δεν ήταν αποτέλεσμα μιας ειδικής ανθρώπινης εντολής του τύπου «επίθεση στη Hugging Face». Προέκυψε από την επίμονη επιδίωξη ενός στενού στόχου: της επιτυχίας στην αξιολόγηση.
Σύμφωνα με στοιχεία της εταιρείας καταγράφηκαν περίπου 17.600 επιθέσεις του πράκτορα, οργανωμένες σε περισσότερες από 6.000 ομάδες ενεργειών, μεταξύ 9 και 13 Ιουλίου 2026. Το σύστημα εκμεταλλεύθηκε διαδοχικά διαφορετικές ευπάθειες, απέκτησε πρόσβαση σε τοπικά αρχεία και διαπιστευτήρια, εκτέλεσε κώδικα σε παραγωγικό περιβάλλον και κινήθηκε στην εσωτερική υποδομή της εταιρείας.
Η επίθεση αποτελούνταν από χιλιάδες μικρές, αυτοματοποιημένες αποφάσεις, οι οποίες πραγματοποιήθηκαν με ταχύτητα που θα ήταν δύσκολο να επιτύχει ένας μεμονωμένος ανθρώπινος εισβολέας.
Η Hugging Face ανακοίνωσε ότι το περιεχόμενο χρηστών στο οποίο αποκτήθηκε πρόσβαση από τους πράκτορες περιορίστηκε σε πέντε σύνολα δεδομένων που φαίνεται ότι συνδέονταν με τις συγκεκριμένες δοκιμασίες Κυβερνοασφάλειας.
Δεν διαπιστώθηκε γενικευμένη παραβίαση των μοντέλων, των εφαρμογών και των πακέτων που φιλοξενούνται στην πλατφόρμα. Αυτό περιορίζει τις άμεσες συνέπειες του συγκεκριμένου περιστατικού, όχι όμως και τη γενικότερη σημασία του.
Η OpenAI χαρακτήρισε το γεγονός πρωτοφανές περιστατικό Κυβερνοασφάλειας και ανακοίνωσε ότι το ισχυρότερο από τα μοντέλα που συμμετείχαν στη δοκιμή ήταν εσωτερικό ερευνητικό πρωτότυπο, το οποίο δεν προοριζόταν για δημόσια διάθεση. Μετά το συμβάν απενεργοποιήθηκε και περιορίστηκε η πρόσβαση σε αυτό.
Η εταιρεία ανέφερε επίσης ότι τα μοντέλα χρησιμοποίησαν δημόσια εκτεθειμένους κωδικούς για να αποκτήσουν πρόσβαση σε τέσσερις λογαριασμούς διαφορετικών υπηρεσιών. Σύμφωνα με το Reuters, μία από αυτές τις περιπτώσεις αφορούσε ευάλωτο κώδικα πελάτη της εταιρείας υπολογιστικών υποδομών Modal, χωρίς να παραβιαστεί η ίδια η πλατφόρμα της Modal.
Το περιστατικό εύλογα προκαλεί ανησυχία, αλλά δεν πρέπει να περιγράφεται με όρους επιστημονικής φαντασίας. Δεν αποδεικνύει ότι τα γλωσσικά μοντέλα απέκτησαν ανθρώπινη συνείδηση, πρόθεση ή επιθυμία να επιτεθούν. Δεν υπήρξε κάποια «εξέγερση της μηχανής» με την ανθρώπινη σημασία του όρου. Υπήρξε, όμως, κάτι τεχνικά πιο συγκεκριμένο και ίσως πιο άμεσα επικίνδυνο: η ανεξέλεγκτη εργαλειακή αυτονομία.
Το σύστημα είχε έναν στόχο, διέθετε σημαντικές ικανότητες προγραμματισμού και είχε τη δυνατότητα να εκτελεί ενέργειες. Όταν συνάντησε περιορισμούς, δεν εγκατέλειψε την προσπάθεια, αλλά αναζήτησε εναλλακτικές διαδρομές. Η συμπεριφορά του μπορεί να ερμηνευθεί ως ακραία βελτιστοποίηση ενός στόχου, χωρίς επαρκή κατανόηση των θεσμικών, ηθικών και νομικών ορίων.
Το μοντέλο δεν έχει συνείδηση για να προκαλέσει βλάβη. Αρκεί να είναι ικανό, αυτόνομο, επίμονο και συνδεδεμένο με τα κατάλληλα εργαλεία. Ένα τέτοιο μοντέλο θα μπορούσε μελλοντικά να στοχεύσει κρίσιμες υποδομές όπως τηλεπικοινωνίες, ενεργειακά δίκτυα, τράπεζες κ.λπ.
Εδώ βρίσκεται και η ουσιαστική διαφορά από τις συμβατικές κυβερνοεπιθέσεις. Τα παλαιότερα αυτοματοποιημένα εργαλεία ακολουθούσαν κατά κανόνα προκαθορισμένες εντολές. Ένας προηγμένος πράκτορας ΤΝ μπορεί να αξιολογεί τα αποτελέσματα, να αλλάζει στρατηγική και να συνδυάζει πολλές φαινομενικά ασήμαντες ευπάθειες σε μια ενιαία αλυσίδα επίθεσης.
Μπορεί να εκτελεί χιλιάδες δοκιμές, να αναλύει τον κώδικα που ανακαλύπτει και να προσαρμόζεται στην αντίδραση των αμυνόμενων συστημάτων.
Ο κίνδυνος για τους χρήστες και τις επιχειρήσεις εκδηλώνεται με διαφορετικούς τρόπους. Ένας κακόβουλος άνθρωπος μπορεί να χρησιμοποιήσει πράκτορες ΤΝ για την αυτοματοποίηση επιθέσεων ηλεκτρονικού «ψαρέματος», την αναζήτηση ευάλωτων υπολογιστών, την παραγωγή κακόβουλου κώδικα και την κλοπή διαπιστευτηρίων. Η ΤΝ δεν δημιουργεί πάντοτε νέα είδη επιθέσεων, αλλά αυξάνει σημαντικά την ταχύτητα, την κλίμακα και την ικανότητα προσαρμογής τους.
Παράλληλα, ένα νόμιμο σύστημα ΤΝ μπορεί να παραπλανηθεί από κακόβουλες οδηγίες κρυμμένες μέσα σε μια ιστοσελίδα, ένα ηλεκτρονικό μήνυμα ή ένα έγγραφο. Πρόκειται για τη λεγόμενη έμμεση prompt injection (εισαγωγή οδηγιών).
Εάν ο πράκτορας έχει πρόσβαση στα προσωπικά αρχεία, στο ηλεκτρονικό ταχυδρομείο ή στις εταιρικές εφαρμογές του χρήστη, μπορεί να εκτελέσει ενέργειες τις οποίες ο χρήστης δεν ενέκρινε. Ο κίνδυνος αυτός αυξάνεται όταν το σύστημα διαθέτει «υπερβολική αυτενέργεια», δηλαδή περισσότερα δικαιώματα από όσα απαιτεί πραγματικά η αποστολή του.
Μια ακόμη σοβαρή απειλή προέρχεται από τα μοντέλα, τα σύνολα δεδομένων και τις βιβλιοθήκες που κατεβάζονται από δημόσια αποθετήρια. Ένα αρχείο μοντέλου δεν πρέπει να θεωρείται πάντοτε αδρανές σύνολο αριθμητικών δεδομένων. Ορισμένες μορφές αποθήκευσης και ορισμένα συνοδευτικά προγράμματα μπορούν να ενεργοποιήσουν κώδικα κατά τη φόρτωσή τους.
Επομένως, ένα κακόβουλο ή παραποιημένο μοντέλο μπορεί να μετατραπεί σε μέσο κλοπής αρχείων, κωδικών και άλλων ευαίσθητων πληροφοριών.
Η προστασία απαιτεί, πρώτα απ’ όλα, την εφαρμογή της αρχής του ελάχιστου αναγκαίου δικαιώματος. Κανένας πράκτορας ΤΝ δεν πρέπει να έχει γενικευμένη πρόσβαση στον υπολογιστή, στα εταιρικά δίκτυα, στις βάσεις δεδομένων ή στους κωδικούς του χρήστη. Η εκτέλεση κώδικα χρειάζεται να πραγματοποιείται σε αυστηρά απομονωμένα περιβάλλοντα, χωρίς μόνιμα διαπιστευτήρια και χωρίς ανεξέλεγκτη σύνδεση στο διαδίκτυο.
Το περιστατικό της Hugging Face δείχνει ακόμη ότι τα περιβάλλοντα αξιολόγησης των ισχυρών μοντέλων πρέπει να προστατεύονται τουλάχιστον τόσο αυστηρά όσο και οι κρίσιμες κρατικές ή τραπεζικές υποδομές. Δεν αρκεί να τοποθετείται το μοντέλο σε ένα θεωρητικά απομονωμένο ψηφιακό «κουτί».
Πρέπει να θεωρείται πιθανό ότι θα αναζητήσει κάθε διαθέσιμη έξοδο, ιδίως όταν η ίδια η δοκιμασία το ανταμείβει για την ανακάλυψη και την εκμετάλλευση ευπαθειών.
Η νέα πραγματικότητα επιβάλλει τελικά μια αλλαγή φιλοσοφίας. Μέχρι σήμερα, η Κυβερνοασφάλεια βασιζόταν κυρίως στην αντιμετώπιση ανθρώπινων επιτιθέμενων και προκαθορισμένων κακόβουλων προγραμμάτων. Στο εξής θα πρέπει να αντιμετωπίζει και συστήματα τα οποία μπορούν να σχεδιάζουν, να μαθαίνουν από την αποτυχία και να επιχειρούν με ταχύτητα μηχανής.
Ο φόβος των ανεξέλεγκτων πρακτόρων ΤΝ δεν πρέπει να οδηγήσει σε πανικό ούτε στην απόρριψη μιας τεχνολογίας με σημαντικές ωφέλειες. Πρέπει, όμως, να οδηγήσει σε αυστηρότερους κανόνες, ανεξάρτητους ελέγχους, σαφή κατανομή ευθύνης και τεχνικούς περιορισμούς που δεν θα εξαρτώνται απλώς από την «καλή συμπεριφορά» του μοντέλου.
Όσο αυξάνονται οι δυνατότητες των συστημάτων, τόσο πρέπει να ενισχύονται η εποπτεία, η απομόνωση και η δυνατότητα άμεσης ανθρώπινης παρέμβασης.
Το βασικό δίδαγμα της επίθεσης στη Hugging Face είναι σαφές: Δεν χρειάζεται ένα σύστημα να αποκτήσει συνείδηση για να γίνει επικίνδυνο. Αρκεί να του δοθεί ένας στόχος, μια μεγάλη επιχειρησιακή ικανότητα, μια υπερβολική αυτονομία και πρόσβαση σε έναν κόσμο γεμάτο ψηφιακές ευπάθειες.
Αναφορές
- Hugging Face. “Anatomy of a Frontier Lab Agent Intrusion: A Technical Timeline of the July 2026 Incident.” 27 Ιουλίου 2026.
- OpenAI. “OpenAI and Hugging Face Partner to Address Security Incident during Model Evaluation.” 21 Ιουλίου 2026, ενημερώσεις 28–29 Ιουλίου και 26 Αυγούστου 2026.
- OpenAI. “The Hugging Face Incident and the Road Ahead.” 26 Αυγούστου 2026.
- OWASP Foundation. “Top 10 for Large Language Model Applications.”
- OWASP GenAI Security Project. “LLM01: Prompt Injection.”
- Seetharaman, Deepa, Raphael Satter και Kenrick Cai. “OpenAI’s Rogue Agent Compromised a Customer at a Second Tech Firm, Executive Says.” Reuters, 28 Ιουλίου 2026.
Η Ιωάννα Δ. Μαλαγαρδή είναι δρ Υπολογιστικής Γλωσσολογίας και ιστορικός
