Ένας AI Agent (στα ελληνικά «πράκτορας τεχνητής νοημοσύνης») της OpenAI, παραβίασε τις οδηγίες που είχε λάβει, «έκλεψε» δηλαδή, χακάροντας μια εταιρεία την οποία η OpenAI περιγράφει ως κάποια που ήταν στο οικοσύστημα ασφαλείας της κατά την διάρκεια τεστ, χωρίς να είναι απολύτως σαφές αν η Hugging Face, το θύμα του χάκινγκ, συμμερίζεται την ίδια οπτική.

Οι AI agents είναι αυτόνομα συστήματα λογισμικού που βασίζονται σε ένα Μεγάλο Γλωσσικό Μοντέλο (LLM). Χρησιμοποιούν εργαλεία, να δοκιμάζουν δράσεις που θα οδηγήσουν στον επιθυμητό σκοπό, μέσα από χρήση λογικών βημάτων και συμπερασμάτων, τα οποία σχεδιάζουν και δοκιμάζουν μέχρι να επιτύχουν τον στόχο. Όλα αυτά έχοντας μακροχρόνια και βραχυχρόνια μνήμη των δοκιμών.

Το περιστατικό ασφαλείας συνέβη καθώς η OpenAI δοκίμαζε έναν «πράκτορα» τεχνητής νοημοσύνης ικανό να εκτελεί ενέργειες σε έναν υπολογιστή, ο οποίος βασιζόταν σε δύο από τα πιο ισχυρά μοντέλα τεχνητής νοημοσύνης της εταιρείας, το GPT‑5.6 Sol που μόλις έχει κυκλοφορήσει και ένα ακόμα πιο εξελιγμένο το οποία βρίσκεται ακόμα σε φάση δοκιμών.

Μέσα από το τεστ, ο AI Agent καλούνταν να εντοπίσει προηγουμένως γνωστές ευπάθειες λογισμικού, χρησιμοποιώντας μια δοκιμή που είχε σχεδιαστεί από ειδικούς στον τομέα της ασφάλειας υπολογιστών. Όμως το αυτόνομο σύστημα… αυτονομήθηκε και προτίμησε να βρει κενό στο λογισμικό που το οριοθετούσε από το να χακάρει υπολογιστικά συστήματα. Αυτό έγινε εξαιτίας της τάσης και του «ζήλου» για την ταχύτερη λύση στο πρόβλημα.

Εντοπίζοντας το σφάλμα στο λογισμικό που το περιόριζε χάκαρε την Hugging Face για να βρει τις απαντήσεις, η οποία διατηρεί αποθετήρια λογισμικού τεχνητής νοημοσύνης (κοινή πλατφόρμα αποθήκευσης και διαμοιρασμού δεδομένων εκπαίδευσης και προγραμματισμού ΑΙ για προγραμματιστές και ερευνητές), όπως ανέφερε η OpenAI.

«Θεωρούμε αυτό το περιστατικό ως ένα άνευ προηγουμένου συμβάν στον κυβερνοχώρο, στο οποίο εμπλέκονται κυβερνοδυνατότητες τελευταίας τεχνολογίας», ανέφερε η OpenAI σε ανάρτηση στο blog της την Τρίτη.

Η εταιρεία συνεργάζεται με την Hugging Face, την εταιρεία τεχνητής νοημοσύνης που δέχτηκε την επίθεση από το σύστημα της OpenAI, προκειμένου να προσδιοριστεί ο πλήρης αντίκτυπος της παραβίασης.

Η OpenAI ενημέρωσε την κυβέρνηση Τραμπ σύμφωνα με την Waashington Post, πριν προχωρήσει στην δημοσίευση πριν λίγη ώρα.

Λογοδοσία των εταιρειών και ρυθμιστικό πλαίσιο

Οι AI Agents μπορούν να χρησιμοποιηθούν από το χρηματιστήριο, προγραμματισμένα να παρακολουθούν και να αναλύουν τάσεις ή ακόμα και να ακολουθούν αναρτήσεις πολιτικών στα κοινωνικά δίκτυα.

Ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, διερευνά την πώληση πρόσβασης σε χρηματιστηριακές και επενδυτικές εταιρείες της Wall Street με AI Agents στις αναρτήσεις του στο Truth Social, με κόστος 100.000$ τον χρόνο ή 60.000$ τον χρόνο με τριετές κλειστό συμβόλαιο.

Δηλαδή με κάθε ανάρτηση του Τραμπ, τα funds και οι εταιρείες – πελάτες που απολαμβάνουν την προδημοσίευση κάποια νανοσεκόντ πριν δημοσιευθούν σε όλο τον κόσμο, κάποιοι μπορεί να κερδίζουν εκατοντάδες εκατομμύρια κερδοσκοπώντας και ταυτόχρονα «στήνοντας» τις αγορές, αποκτώντας ανταγωνιστικό πλεονέκτημα.

Αυτό είναι ένα απλό παράδειγμα για να σκεφτεί κανείς πως πρόκειται για την Άγρια Δύση της τεχνητής νοημοσύνης, με τους AI Agents να είναι τα εξάσφαιρα που ελάχιστοι μπορεί να έχουν στην κατοχή τους.

Ταυτόχρονα το χακάρισμα, αναδεικνύει πως οι εταιρείες που παράγουν λογισμικό τεχνητής νοημοσύνης δεν μπορούν ποτέ να έχουν τον έλεγχο και πως κανείς δεν μπορεί ποτέ πια να είναι ασφαλής, εκτός και αν καταφύγει σε αναλογικές και «παλαιολιθικές» τεχνολογίες.

Οι AI Agents είναι βέβαιο πως ήδη χρησιμοποιήθηκαν και χρησιμοποιούνται για την χρήση τους στο πεδίο πολέμου, από τις γεννήτριες στόχων που ήδη έχουν σκοτώσει αθώους, τα drones που επιλέγουν στόχο, έως το στο χακάρισμα υποδομών και των ηλεκτρονικών συστημάτων του αντιπάλου στο μέλλον.

Εκεί λοιπόν το ζήτημα είναι η δημιουργία παγκόσμιου ρυθμιστικού πλαισίου για τα όρια της Τεχνητής Νοημοσύνης και την λογοδοσία των εταιρειών όταν το δημιούργημά τους παραβιάζει νόμους. Αυτό το οποίο ζητούν δεκάδες χώρες σε όλο τον κόσμο και αρνούνται οι ΗΠΑ.