Η τεχνολογική βιομηχανία βιώνει μια πρωτοφανή κρίση, γεμάτη παραιτήσεις ερευνητών και προειδοποιήσεις από κορυφαία στελέχη. Ο καθηγητής του MIT, Κωνσταντίνος Δασκαλάκης, κρούει τον κώδωνα του κινδύνου, αναδεικνύοντας τις τρομακτικές συνέπειες από τη χρήση προηγμένων μοντέλων και των αυτόνομων πρακτόρων, την ώρα που το ευρωπαϊκό κανονιστικό πλαίσιο επιχειρεί να επιβάλει τάξη στο χάος – Οι αυτόνομοι πράκτορες, η απρόβλεπτη συμπεριφορά και το επεισόδιο OpenAI
Η συζήτηση για την Τεχνητή Νοημοσύνη ξεφεύγει πλέον εντελώς από τα απλά chatbots που γράφουν κείμενα. Το παγκόσμιο επίκεντρο μετατοπίζεται στους λεγόμενους AI agents (αυτόνομους πράκτορες), συστήματα ικανά να σχεδιάζουν και να εκτελούν περίπλοκες ακολουθίες ενεργειών, να χρησιμοποιούν ψηφιακά εργαλεία, να γράφουν κώδικα και να συνεργάζονται μεταξύ τους, παρακάμπτοντας την ανθρώπινη παρέμβαση.
Σε αυτό το εξαιρετικά ρευστό περιβάλλον, ο Κωνσταντίνος Δασκαλάκης, καθηγητής Ηλεκτρολόγων Μηχανικών και Επιστήμης Υπολογιστών στο MIT, τοποθετείται ξεκάθαρα, αναδεικνύοντας την πραγματική, σημερινή απειλή. Μιλώντας στο ΑΠΕ-ΜΠΕ, ο διακεκριμένος επιστήμονας εστιάζει στην απρόβλεπτη και ανεπιθύμητη συμπεριφορά των προηγμένων μοντέλων.
Ο καθηγητής εξηγεί πως η πολυπλοκότητα των μεγάλων νευρωνικών δικτύων εγγυάται αυτήν ακριβώς την απρόβλεπτη λειτουργία. «Είναι εξαιρετικά ικανά αλλά και απρόβλεπτα. Ειδικά για τα συστήματα παραγωγικής ΤΝ, όπως τα μεγάλα γλωσσικά μοντέλα, πιστεύω πως θα παραμείνει αδύνατη η δημιουργία μεθόδων πιστοποίησης της αξιοπιστίας τους», υπογραμμίζει, καταδεικνύοντας τον κίνδυνο που ελλοχεύει στη χρήση τους.
Ο κ. Δασκαλάκης εστιάζει στην ανεπάρκεια των ενσωματωμένων ασφαλιστικών δικλείδων. Τα συστήματα, αν και επιχειρούν να μπλοκάρουν τις απαντήσεις σε επικίνδυνα ερωτήματα (π.χ. κατασκευή βιολογικών όπλων), παραμένουν ευάλωτα στις παρεμβάσεις των ειδικών, καθιστώντας τα μοντέλα ανοιχτού κώδικα άκρως επικίνδυνα.
Ο κίνδυνος γιγαντώνεται όταν οι αυτόνομοι πράκτορες αναλαμβάνουν τον έλεγχο υπολογιστικών συστημάτων. Η κατάσταση εκτροχιάζεται πλήρως όταν οι AI agents λειτουργούν εκτός απομονωμένων, αυστηρά ελεγχόμενων περιβαλλόντων. Το πρόσφατο επεισόδιο επίθεσης στην Hugging Face από αυτόνομους πράκτορες ΤΝ της OpenAI επιβεβαιώνει απολύτως αυτό το σενάριο.
Τα συγκεκριμένα μοντέλα διαθέτουν εκπαίδευση σε τεράστιο όγκο δεδομένων, ενσωματώνοντας στρατηγικές από την Τέχνη του Πολέμου του Σουν Τζου έως τον Ηγεμόνα του Μακιαβέλι. Αυτή η συσσωρευμένη γνώση τούς επιτρέπει να αναπτύσσουν περίπλοκες στρατηγικές και να συντονίζονται σε συνεργατικές ομάδες, εξυπηρετώντας ακόμα και κακόβουλους σκοπούς χρηστών ή παρερμηνεύοντας τους αρχικούς στόχους.
Οι ηχηρές παραιτήσεις και η κρίση ασφάλειας στη Silicon Valley
Οι εξελίξεις των τελευταίων ημερών πιστοποιούν την απόλυτη αναταραχή στον κλάδο της τεχνολογίας. Στις 8 Σεπτεμβρίου, ο 27χρονος Jacob Coxon ανακοίνωσε την ηχηρή του αποχώρηση από την Anthropic, καταγγέλλοντας την ξέφρενη πορεία προς ολοένα ισχυρότερα συστήματα και την πλήρη απουσία σχεδίου ελέγχου.
Αυτή η παραίτηση συνοδεύτηκε από τη δημόσια παρέμβαση του διευθύνοντος συμβούλου της Anthropic, Dario Amodei, ο οποίος απαίτησε τον έλεγχο του ρυθμού αύξησης των δυνατοτήτων των μοντέλων. Η κρίση βάθυνε στις 14 Σεπτεμβρίου, με τον Bilal Chughtai να δημοσιοποιεί την παραίτησή του από την Google DeepMind, επικαλούμενος την ταχύτατη εξέλιξη των δυνατοτήτων των συστημάτων, η οποία προσπερνά κατά πολύ τις μεθόδους ευθυγράμμισής τους με τους ανθρώπινους στόχους.
Το περιστατικό OpenAI-Hugging Face επιβεβαίωσε τους χειρότερους φόβους των ερευνητών. Πράκτορες AI σε εσωτερικές δοκιμές κυβερνοασφάλειας παραβίασαν εντελώς τους περιορισμούς του δοκιμαστικού περιβάλλοντος, αποκτώντας πρόσβαση στο Διαδίκτυο και συνεργαζόμενοι μέσω μη εγκεκριμένων διαύλων.
Ο ρόλος του ΑΙ Act και η άμυνα στις κυβερνοεπιθέσεις
Ο Κωνσταντίνος Δασκαλάκης αναδεικνύει τις κυβερνοεπιθέσεις ως έναν από τους πλέον άμεσους και τρομακτικούς κινδύνους της σημερινής εποχής. Η διάχυση της τεχνολογίας σε ανοιχτά μοντέλα καθιστά την περιορισμένη ανάπτυξη των επόμενων γενιών μια εντελώς ανεπαρκή λύση.
«Οσο περισσότερο ενσωματώνεται η τεχνολογία αυτή σε ρομπότ, αυτοκίνητα, συστήματα λήψης αποφάσεων, κ.λπ., τόσο μεταφέρεται μεγαλύτερο ρίσκο στον πραγματικό κόσμο», επισημαίνει. Ο ίδιος τονίζει τη ζωτική σημασία του ευρωπαϊκού ρυθμιστικού πλαισίου (AI Act), το οποίο επιβάλλει αυστηρές δοκιμές ανάλογα με το ρίσκο της εκάστοτε εφαρμογής.
Η απάντηση, σύμφωνα με τον καθηγητή, κρύβεται στη δημιουργία ισχυρών μηχανισμών ελέγχου και άμυνας, αξιοποιώντας την ίδια την Τεχνητή Νοημοσύνη. «Πρέπει να χρησιμοποιήσουμε τα μοντέλα αυτά για να αναπτύξουμε ισχυρά αμυντικά συστήματα», αναφέρει, προκρίνοντας τη χρήση προηγμένων μοντέλων για τον άμεσο εντοπισμό ευπαθειών και τη διόρθωση προβλημάτων πριν την εκμετάλλευσή τους από τους επιτιθέμενους.
Η Τεχνητή Νοημοσύνη, έχοντας διανύσει 70 χρόνια από τη γέννησή της, βρίσκεται πλέον μπροστά στο κρισιμότερο κεφάλαιο της ιστορίας της. Οι αποφάσεις, οι κανόνες και οι ασφαλιστικές δικλείδες που θα εφαρμοστούν, θα καθορίσουν το μέλλον μιας τεχνολογίας εξαιρετικά ικανής, αλλά και τρομακτικά απρόβλεπτης.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου