Τεχνητή νοημοσύνη: Από την ασφάλεια μέχρι την καταστροφή ένα Mythos απόσταση

Ο Χάρης Γεωργίου Γενικός Γραμματέας Δ.Σ. Ένωσης Πληροφορικών Ελλάδας σε μια συζήτηση για τις προκλήσεις της Τεχνητής Νοημοσύνης και της ασφαλείας.

Τον προηγούμενο μήνα μια μια νεοσύστατη εταιρεία, αξίας περίπου 800 δισεκατομμυρίων δολαρίων που έχει ως έδρα το Σαν Φρανσίσκο παρουσίασε ένα πρόγραμμα τεχνητής νοημοσύνης ικανό να εντοπίζει τα κενά ασφαλείας των προγραμμάτων και να τα επισημαίνει. Η Anthropic, η οποία και σχεδίασε το πρόγραμμα Mythos, το περιέγραψε ως «ορόσημο για την κυβερνοασφάλεια».

Στις αρχές του Απριλίου η Anthtropic επέτρεψε σε εταιρείες τεχνολογίας και τράπεζες, συμπεριλαμβανομένων των Apple και Goldman Sachs, να έχουν πρόσβαση στο μοντέλο και να αξιολογήσουν τους κινδύνους που θα μπορούσε να θέσει για τις επιχειρήσεις και τους πελάτες τους αλλά και να αξολογήσουν τα τρωτά τους σημεία και την ασφάλειά τους. Το αποτέλεσμα σύμφωνα με τους συμμετέχοντες ήταν εντυπωσιακό ενώ άλλοι το χαρακτήρισαν τρομακτικό.

Το εντυπωσιακό αφορά στη δυνατότητα εκτέλεσης επιθέσεων που περιλαμβάνουν πολλαπλά βήματα και ο εντοπισμός ελαττωμάτων IT χωρίς ανθρώπινη καθοδήγηση.

Το τρομακτικό αφορά στο ό,τι έγινε κατανοητό ότι η ευλογία του εργαλείου θα μπορούσε να αποτελεί και κατάρα ανάλογα με τη χρήση της καθώς η Τεχνητή Νοημοσύνη θα μπορούσε να προκαλέσει σοβαρές ζημιές στον πραγματικό κόσμο ανάλογα με τα χέρια στα οποία βρίσκεται.

Εχθές η εταιρεία γνωστοποίησε πως ο φόβος έγινε πραγματικότητα, με την Anthropic να επιβεβαιώνει ότι μια ομάδα χρηστών σε ένα ιδιωτικό διαδικτυακό φόρουμ είχε αποκτήσει πρόσβαση στο μοντέλο της..