Γιατί πρέπει να μας διακρίνει καχυποψία για την Επιστήμη: OpenΑΙ και Τεχνητή Νοημοσύνη

Τα ερωτήματα περισσεύουν και το χάος του Τύπου δεν κάνει τίποτε άλλο από να τα συσκοτίζει. Ψυχραιμία! Το «Κοσμοδρόμιο» έρχεται να σας σώσει.

Δημήτρης Λένης

Τις τελευταίες δεκαετίες ο κυρίαρχος λόγος επιμένει ότι ζούμε σε μια διαρκή τεχνολογική επανάσταση. Υπάρχουν πάντως κάποια μικρά προβληματάκια, κάποια μικρά ψεματάκια που συνδέονται με αυτή τη θεώρηση.
Για παράδειγμα, το 2021 το εμβόλιο θα μας έσωζε από την νόσηση Covid. Δεν μας έσωσε από αυτήν. Το 2019 προβλέπαμε ότι μέχρι το 2025 τα μισά αυτοκίνητα στους δρόμους θα ήταν ηλεκτρικά. Δεν θα είναι. Το 2018, τα αυτοδηγούμενα αυτοκίνητα ήταν έξι μήνες μακριά. Μπααα… Το 2015 η γενική τεχνητή νοημοσύνη (ΤΝ) ήταν πίσω από την γωνία. Δεν ήταν ψέμα, αλλά όμως δεν διευκρινίστηκε σε ποια γωνία αναφέρονταν – ήταν μια πολύ μακρινή γωνία. Τo 2013 ήμασταν έτοιμοι να απελευθερωθούμε από την καταπίεση του κράτους με το bitcoin. Δεν φαίνεται οι οπαδοί των κρύπτο να έχουν την ίδια θέρμη μετά την κατάρρευση της  FTX πέρσι τέτοιες μέρες. Το 2011, ήταν γεγονός ότι μέχρι το 2020 θα μας έκανε ονλάιν εξετάσεις αίματος η Theranos. Αυτό δεν συμβαίνει, ίσως επειδή ιδιοκτήτρια της εταιρίας βρίσκεται στην μπουζού επειδή έλεγε ψέμματα ότι μέχρι το 2020 θα μας έκανε ονλάιν εξετάσεις αίματος. Το 2010 θα είχαμε φτάσει στον Άρη μέχρι το 2022. Την δεκαετία ‘90 η τεχνολογία, λέει, επέτρεπε στους στρατούς να κερδίζουν πολέμους με χτυπήματα ακριβείας και χωρίς καθόλου παράπλευρες απώλειες. Την εφαρμογή αυτού του τεχνολογικού θαύματος την βλέπουμε συστηματικά έκτοτε και ειδικά στην Γάζα. Με άλλα λόγια, εδώ και λίγες δεκαετίες ο καπιταλισμός, με την βοήθεια της θεραπαινίδας του της επιστήμης, είναι διαρκώς ένα βήμα πριν ένα υπέροχο μέλλον – που ποτέ δεν έρχεται. Τα τελευταία τριάντα χρόνια οι μόνες πραγματικές καινοτομίες που άλλαξαν τη ζωή μας ήταν το ίντερνετ πρώτα και τα κινητά τηλέφωνα δευτερευόντως. Τα υπόλοιπα ήταν μάλλον ψιλά – και στο κάτω κάτω, αν οι ζωές μας άλλαξαν, άλλαξαν προς το χειρότερο.

Η τεχνολογική υπερκαινοτομία du jour είναι η Τεχνητή Νοημοσύνη (ΤΝ). Το δυναστικό δράμα στην OpenAI (που είναι η πιο παραφουσκωμένη με hype δηλ. ντόρο εταιρεία στην πρόσφατη μνήμη) έβαλε φωτιά στον διεθνή τύπο. Πηχυαίοι τίτλοι μιλούν για το δράμα της εταιρείας-βασίλισσας της τεχνητής νοημοσύνης και για τον CEO της, τον ιδιοφυή Σαμ Άλτμαν, που εμφανίζεται ως «γκουρού της ΤΝ», που το ChatGPT είναι το «παιδί του» (όχι, δεν είναι), o οποίος διώχτηκε μεν, αλλά γύρισε με μια μεγαλειώδη κίνηση, τιμωρώντας τους αμφισβητίες του. Και μάλιστα, σύμφωνα με το Reuters, όλα αυτά έγιναν επειδή ο Άλτμαν ήταν πίσω από το ‘Q*’ (κιου-σταρ), το μυστικό σούπερπλάνο για μια τεχνητή υπερνοημοσύνη που θα μπορούσε να σκέφτεται σαν άνθρωπος! Αυτό θα ήταν το πρώτο βήμα για μια τεχνητή νοημοσύνη επικίνδυνη για τους ανθρώπους! Τον έδιωξαν γιατί τους τρόμαξε!

Σε κάθε περίπτωση, τα ερωτήματα περισσεύουν και το χάος του τύπου δεν κάνει τίποτε άλλο από να τα συσκοτίζει στα μάτια της πάντα ενήμερης για τις εξελίξεις αναγνώστριας του «Κοσμοδρομίου», που σε αυτή την περίπτωση έχασε τα αβγά και τα πασχάλια. Ψυχραιμία! Το «Κοσμοδρόμιο» έρχεται να σας σώσει. Διαβάστε, αν θέλετε, το πλήρες χρονικό της υπόθεσης και αρχίστε μαζί μας να ξεχωρίζετε τα πολλά φύκια από τις λίγες μεταξωτές κορδέλες. Και για να ξεκινήσουμε, να διευκρινίσουμε ότι τέτοια εταιρικά δράματα έχουν πίσω τους πάντα τρεις παράγοντες: τα λεφτά, το σεξ και την ιδεολογία – που είναι μόνο ένας. Τα λεφτά.

Το παρελθόν της ΤΝ καθορίζει το μέλλον
H ΤΝ είναι μια απρόσμενα παλιά ιστορία. Η σημερινή ΤΝ είναι βασικά μια τεχνική επεξεργασίας δεδομένων για την κατηγοριοποίησή τους, απαντά δηλαδή σε ερωτήσεις του τύπου «ποιο από αυτά τα πρόσωπα χαμογελάει και ποιο κλαίει;» (2 κατηγορίες) ή «Ποιο γράμμα είναι αυτό;» (24 κατηγορίες), ή «Σε ποια από αυτές τις φωτογραφίες υπάρχει ένα γαϊδούρι / ένα λουλούδι / ένας καρχαρίας;» (πολλές κατηγορίες ζώων και φυτών) κλπ. Πολύ σχηματικά, η μέθοδος δουλεύει ως εξής: δείχνετε στο νευρωνικό σας δίκτυο πολλές (αλλά πολλές) φωτογραφίες γαϊδουριών, λέγοντάς του «αυτά, αγαπητό δίκτυο, τα λέμε γαϊδούρια». Μετά του δίνετε πολλές (πολλές!) φωτογραφίες καρχαριών, λέγοντάς του «και αυτά είναι καρχαρίες». Επαναλαμβάνετε με άλλες κατηγορίες. Κάθε φορά που το κάνετε αυτό χρησιμοποιείτε μια τεχνική «εκπαίδευσης» ή «μάθησης» του δικτύου. Για να το πούμε με ένα πολύ σχηματικό τρόπο, είναι κάπως σαν να αναλύετε, να κόβετε κάθε εικόνα σε μικρότερες: το μάτι, τα δόντια, τα αυτιά, το πόδι, η ουρά του ζώου, τα πέταλα, οι ύπεροι και οι μίσχοι του άνθους (μόνο που μιλάμε για δισεκατομμύρια τέτοιες «υποεικόνες»). Εκμάθηση είναι η διαδικασία σύνδεσης από τον υπολογιστή κάθε τέτοιας «υποεικόνας» με μια αριθμητική παράμετρο. Όσο περισσότερες εικόνες του δείξετε, τόσο πιο πολύ οι παράμετροι αυτές ομαδοποιούνται μεταξύ τους, δημιουργώντας ομάδες, την ομάδα παραμέτρων που προσομοιάζουν καρχαρία, λουλούδι κ.ο.κ. Όταν λοιπόν στο τέλος του δείξετε μια φωτογραφία που δεν του την είχατε ποτέ δείξει ξανά και το ρωτήσετε «τι είναι αυτό καλό μου δίκτυο;», αυτό υπολογίζει τις παραμέτρους αυτής της συγκεκριμένης φωτογραφίας με τον τρόπο που το έχουμε διδάξει και τις συγκρίνει με τις εσωτερικά αποθηκευμένες παραμέτρους του. Βρίσκει σε ποιες από αυτές είναι πιο κοντά οι παράμετροι της φωτογραφίας και έτσι «αποφασίζει» να σας δώσει την απάντησή του, «αυτό είναι λουλούδι / καρχαρίας / γαϊδούρι». Ενα καλά φτιαγμένο νευρωνικό δίκτυο μπορεί, με το κατάλληλο είδος δεδομένων, οριακά να ξεπεράσει σε ποσοστό σωστών απαντήσεων ακόμα και ανθρώπους.
Αλλά επομένως, τίτλοι όπως «τα νευρωνικά έκαναν μια νέα επιστημονική ανακάλυψη», δεν είναι αλήθεια. Τα νευρωνικά δίκτυα δεν μπορούν (όχι ακόμα, όπως και αν έχει) να κάνουν ανακαλύψεις, να βρουν δηλαδή καινούργιες κατηγορίες, μπορούν μόνο να κατατάξουν δεδομένα σε ήδη γνωστές κατηγορίες. Στην καλύτερη περίπτωση, είναι ένας γρήγορος και αυτοματοποιημένος τρόπος να φτάσουμε σε μια απάντηση που αλλιώς θα μας έπαιρνε πολύ χρόνο και κόπο να την φτάσουμε, δηλαδή μια βελτίωση σε αυτό που κάνουν ούτως ή άλλως οι υπολογιστές.
Η τεχνική, για να είναι επιτυχημένη, χρειάζεται πάρα πολλές παραμέτρους: τα μεγαλύτερα «γλωσσικά μοντέλα» (‘LLM’, αυτά που ταξινομούν κείμενα, όχι φωτογραφίες) έχουν πολλά δισεκατομμύρια παραμέτρους. Αυτό σημαίνει ότι χρειάζεται και πολύ μεγάλα «σύνολα εκγύμνασης», δηλαδή πρέπει τα δεδομένα που του δίνουμε να είναι «μεγάλα» (big data). Αλλά η «εκγύμναση» σε μεγάλα δεδομένα είναι δύσκολη. Επειδή προφανώς η αρχική φάση εκγύμνασης είναι δουλειά για ανθρώπους, χρειάζονται στρατιές εργαζομένων που τροφοδοτούν τα τεχνητά νευρωνικά δίκτυα με αυτές τις μεταπληροφορίες.
Λοιπόν, είναι ενδιαφέρον ότι τα τεχνητά νευρωνικά δίκτυα δεν είναι πρόσφατες ανακαλύψεις, αλλά στην πραγματικότητα πρωτοήρθαν στο προσκήνιο τη μακρινή δεκαετία του ’50, όταν οι κυβερνητικοί επιστήμονες στις ΗΠΑ (ήταν η κύρια χώρα που είχε λεφτά για τόσο προχωρημένα προγράμματα) τσακώνονταν για το ποια μηχανή είναι πιο κατάλληλη για την επίτευξη της τεχνητής νοημοσύνης: τα νευρωνικά δίκτυα ή οι υπολογιστές – τότε ακόμα τα νευρωνικά δίκτυα ήταν διαφορετικού τύπου μηχανές από τους υπολογιστές, αλλά γρήγορα οι πρόοδοι στο λογισμικό και το υλισμικό (το hardware) εξαφάνισαν την ανάγκη για χωριστές συσκευές και έτσι πλέον τα νευρωνικά δίκτυα είναι σήμερα απλώς προγράμματα για υπολογιστές. Εν πάση περιπτώσει, την δεκαετία του ’60 κατάλαβαν ότι καμία από τις δύο διακριτές τεχνικές δεν θα επιτύγχανε κάποιο είδος νοημοσύνης και για λίγα χρόνια το πράγμα ξεφούσκωσε. Την δεκαετία του ’80 επανήλθε ο ενθουσιασμός με μια καινούργια γενιά νευρωνικών δικτύων, την δεκαετία του ’90 το ζήτημα κρύωσε ξανά, μέχρι την προηγούμενη δεκαετία που κάποιες άλλες τεχνικές πρόοδοι επανέφεραν τον ενθουσιασμό. Καταλαβαίνετε την γενική εικόνα.
Ένα ενδιαφέρον στοιχείο σε όλη τη διάρκεια είναι η αποκαλυπτική διάσταση: από την αρχή, τις πρώτες μέρες αυτής της ιστορίας, είναι διαρκώς εμφανής ο φόβος του Φράνκενστάιν, ότι θα κατασκευάσουμε μια μηχανή πιο έξυπνη από μας που θα μας καταστρέψει. Για παράδειγμα το ακόλουθο πολύ σύντομο διήγημα του Fredric Brown, με τίτλο «Απάντηση», χρονολογείται στο 1954.

Απάντηση
Ο Ντβάρ Εβ έκανε με επισημότητα την τελευταία κόλληση με χρυσό. Τα μάτια καμιά δεκαριά τηλεοπτικών καμερών τον παρακολουθούσαν και ο υποαιθέρας έστελνε σε όλο το σύμπαν εικόνες αυτού που έκανε.
Σηκώθηκε όρθιος και ένευσε στον Ντβάρ Ρέιν, μετά πήρε θέση δίπλα στο κουμπί που θα ολοκλήρωνε την επαφή, όταν θα το πατούσε. Το κουμπί ήταν ο διακόπτης που θα ένωνε, όλες μαζί ταυτόχρονα, τις θηριώδεις μηχανές σε όλους τους κατοικημένους πλανήτες του σύμπαντος (ενενήντα έξι δισεκατομμύρια πλανήτες) σε ένα υπερκύκλωμα που θα τις συνέδεε όλες με τον έναν υπερυπολογιστή, την μια κυβερνητική μηχανή που θα συγκέντρωνε όλη τη γνώση όλων των γαλαξιών.

Ο Ντβαρ Ρέιν μίλησε σύντομα στα τρισεκατομμύρια ακροατών και θεατών. Μετά, ύστερα από μια στιγμιαία σιωπή, είπε: «Τώρα, Ντβαρ Εβ».
Ο Ντβαρ Εβ πάτησε το κουμπί. Ακούστηκε ένα ισχυρός βόμβος, το κύμα ισχύος από ενενήντα έξι δισεκατομμύρια πλανήτες. Μικρά φώτα άστραψαν στο πάνελ, δύο χιλιόμετρα μακρύ.
Ο Ντβαρ Εβ έκανε ένα βήμα πίσω και πήρε βαθιά ανάσα. «Η τιμή της πρώτης ερώτησης είναι δική σου, Ντβαρ Ρέιν».
«Ευχαριστώ,» είπε αυτός. «Θα είναι μια ερώτηση που καμία κυβερνητική μηχανή δεν έχει καταφέρει να απαντήσει».
Γύρισε προς τη μηχανή. «Υπάρχει Θεός;».
Η βροντερή φωνή απάντησε χωρίς δισταγμό, χωρίς το κλικ ούτε ενός ρελέ.
«Ναι. Τώρα υπάρχει».
Ξαφνικός πανικός άστραψε στο πρόσωπο του Ντβαρ Εβ. Πήδηξε προς το κουμπί.
Μια αστραπή που ήρθε από τον καταγάλανο ουρανό τον κεραυνοβόλησε – και μαζί με αυτόν έλιωσε και το κουμπί αφήνοντάς το μονίμως πατημένο.

Οι περίεργες ιδεολογίες της Silicon Valley
Όσο και αν σήμερα πια η Ρομποτική Αποκάλυψη είναι πια ένα κουρασμένο κλισέ της Επιστημονικής Φαντασίας, εντούτοις παραμένει παραδόξως σοβαρό τμήμα της ιδεολογίας των «ρασιοναλιστών» (έτσι αυτοαποκαλούνται, αλλά δεν έχουν απολύτως καμία σχέση με ορθό λόγο) και των, ας πούμε, Δραστικών Αλτρουιστών (Effective Altruists: τέτοιος είναι και ο ένας και μοναδικός Ίλον – και όπως καταλαβαίνετε, δεν έχουν απολύτως καμία σχέση με αλτρουισμό). Η εξήγηση δεν χωράει στα πλαίσια ενός άρθρου, αλλά ο ειδικός τρόπος που συγκροτείται το κεφάλαιο «υψηλής τεχνολογίας» των ΗΠΑ, προκαλεί και περίεργες στάσεις ζωής στους εκπροσώπους του, που ειλικρινά πιστεύουν σε μια σειρά από μάλλον χαζά ή αφελή ιδεολογήματα, τα οποία έχουν και πραγματικές, υλικές συνέπειες όπως η απίστευτη (αυτ)απάτη που λέγεται κρυπτονομίσματα, που δημιουργήθηκε από καθαρούς ιδεολόγους αναρχοκαπιταλιστές.

Τα ιδεολογήματα αυτά περιλαμβάνουν επίσης μια περίεργη εμμονή με τον «επιβιωτισμό» (οπαδός του οποίου είναι ο Άλτμαν που διατηρεί προμήθειες και όπλα σε μια απομονωμένη τοποθεσία για μετά την καταστροφή) και την επιμήκυνση της ζωής τους ή, γιατί όχι, την αθανασία. Όχι, αλήθεια, τα εκατομμύρια ρέουν προκειμένου διάφορες απομιμήσεις ανθρώπου όπως ο ryan Johnson, να κυνηγήσουν το όνειρό τους για «την πιο σημαντική επανάσταση στην ανθρώπινη ιστορία», δηλαδή την αθανασία. Δεν είναι μόνος: όλο αυτό το άχθος για το ανθρώπινο είδος που είναι τα «μεγάλα κεφάλια» της Σίλικον Βάλεϊ συναινεί: Ο Ίλον φυσικά, αλλά κι ο Μπέζος της Άμαζον, ο Πίτερ Τιελ κ.ά. πολλοί, ένας ζάπλουτος, αντιδραστικός συρφετός ανακυκλώνει μια αυτάρεσκη μηδαμινότητα επιδιώκοντας την αιώνια ύπαρξη του κενού εαυτού του.

Περίεργες συμπτώσεις 1: Οι τρεις τελευταίοι ήταν συνιδρυτές της OpenAΙ.
Περίεργες συμπτώσεις 2: Και η αθανασία, όπως και η ΤΝ, είναι ένα πρότζεκτ που ξεκίνησε, με κάπως περιορισμένη θα λέγαμε επιτυχία, την δεκαετία του ’50, όταν ξεκίνησε η μπίζνα της κρυονικής, δηλαδή της βαθιάς κατάψυξης ανθρώπων με ανίατες ασθένειες, με την φρούδα ελπίδα κάποτε να βρεθεί θεραπεία για αυτές. (Παρά τον μύθο, ο Ντίσνεϊ ουδέποτε καταψύχθηκε). Δεν υπάρχει κάποιος ορθολογισμός εδώ, δεν υπάρχει κάποιο διατηρήσιμο business model, οι ανάγκες των νεκρών είναι παντοτινές, μπορούν όμως να πληρώσουν για την εκπλήρωσή τους μόνο μια φορά. Αποτέλεσμα, οι επιχειρήσεις κρυονικής κλείνουν και τα πτώματα ξεπαγώνουν. Παρά ταύτα, ο πλήρης ανορθολογισμός των κατόχων κεφαλαίου ξεδιπλώνεται διαρκώς όλο και πιο ναρκισσιστικός, νέες επιχειρήσεις κρυονικής ανοίγουν δίνοντας μεγαλύτερες υποσχέσεις, για να υποδεχτούν τους επόμενους εκατομμυριούχους. Υπάρχουν αυτή τη στιγμή πάνω από 1.000 Αμερικανοί που, μην έχοντας καταφέρει την αθανασία εν ζωή, έχουν πάρει σειρά για έναν πολύ παγωμένο, πολύ ακριβό τάφο, ελπίζοντας και αυτοί, όπως όλοι μας άλλωστε, σε ένα καλύτερο μέλλον και, όπως και οι πιστοί των θρησκειών, σε μια μετά θάνατον αθανασία. Ένα είναι βέβαιο: όλων τα πτώματα προορίζονται να λιώσουν, κάποιων όμως πιο αργά…
Αλλά οι υγιείς ακόμα μεγιστάνες, έχουν ένα άλλο ιδεολογικό υποσύνολο να τους δίνει ελπίδα, ένα είδος αντίστροφης στον καταστροφισμό θεολογίας, που υποστηρίζει ότι δεν είναι οι αιώνιοι πάγοι αλλά η σύμφυση ανθρώπου και μηχανής, (το cyborg) που θα μας σώσει: κοντεύουμε, λένε, να φτάσουμε στο σημείο που θα μπορούμε να «κατεβάσουμε» τον νου μας, τη συνείδησή μας και τις αναμνήσεις μας μαζί με τον χαρακτήρα μας, σε έναν υπολογιστή που θα ελέγχει ένα μισοβιολογικό, μισομηχανικό σώμα, άρα θα γίνουμε αθάνατοι – αυτή είναι η λεγόμενη singularity, «μοναδικότητα». Τον όρο τον έπλασε ο συγγραφέας Vernon Vinge που έχει γράψει και το σχετικό μυθιστόρημα A Fire  Humans Will Achieve Immortality by 2030: Ray Kurzweil Prediction (popularmechanics.com)Upon the Deep, αλλά τον έκανε θρησκεία με ρασιοναλιστικό επικάλυμμα ο Ray Kurzweil, που υπήρξε πολύ σημαντικός επιστήμονας των υπολογιστών και ο οποίος μάλιστα μόλις φέτος είπε ότι μέχρι το 2030 θα έχοτμε πετύχει την αθανασία, μια ενδιαφέρουσα πρόβλεψη που μπορείτε με ασφάλεια να την βάλετε μαζί με τις υπόλοιπες βλακώδεις ιδέες πολύ έξυπνων ανθρώπων που αναφέρονται στην εισαγωγή του άρθρου. Αθανασία σε μία χώρα όπου αυτή τη στιγμή οι μέσοι όροι ζωής πέφτουν, δεν ανεβαίνουν. Οι ζάπλουτοι οπαδοί αυτής της μυστικιστικής μπουρδολογίας πιστεύουν ότι είναι καθήκον της ανθρωπότητας να επιταχύνει αυτήν την εξέλιξη. Για αυτό και μια από τις εταιρίες του Ίλον είναι η Neuralink που σκοπός της είναι η δημιουργία της διεπαφής μεταξύ ανθρώπου και υπολογιστή. Όταν αυτό επιτευχθεί, θα μπορούμε να κατεβάσουμε τον νου μας στον υπολογιστή, κλπ., άρα αθανασία. Μπίνγκο. Αναρωτιέται κανείς πόσο ανεγκέφαλοι είναι όλοι αυτοί.

Λοιπόν, αποδεικνύεται ότι σε αυτές τις ιδεολογικές γραμμές ήταν χωρισμένο και το (παλιό) Δ.Σ. της OpenAI, κάτι που εξηγεί και μερικά από τα σκοτεινά σημεία της υπόθεσης. Η εταιρεία ιδρύθηκε ως «μη κερδοσκοπικός οργανισμός» το 2015, με ιδρυτές εκτός από τον Άλτμαν, τον Ίλον Μασκ, τον Πίτερ Τίελ, την Amazon και λοιπούς πάντα ίδιους τύπους. Ο Άλτμαν γρήγορα μάζεψε μερικούς από τους καλύτερους ερευνητές του χώρου της ΤΝ σε αυτήν. Για το επόμενο βήμα του, οι γνώμες διίστανται. Ο ίδιος λέει ότι «άφησε την προηγούμενη εταιρεία του για να αφοσιωθεί στο έργο του». Βέβαια, το «μη κερδοσκοπικός οργανισμός» είναι σχήμα λόγου. Η Wikipedia λέει ότι «το 2016, η OpenAI πλήρωνε στα στελέχη μισθούς πολυεθνικής (corporate-level), αλλά δεν πλήρωνε τους ερευνητές της μισθούς ανάλογους με αυτούς στην Facebook ή την Google». Και πάντως, για την φυγή του από την προηγούμενη εταιρεία του, την Y Combinator, μια θερμοκοιτίδα start-ups, όλοι οι υπόλοιποι λένε πως δεν «έφυγε μόνος του», αλλά ότι τον πέταξε έξω με τις κλωτσιές ο μέντοράς του και μέχρι τούδε φίλος του, Πίτερ Γκράχαμ, επειδή, λέει η  Washington Post, "ήταν παρτάκιας" (self-serving). Άσχετο fun fact: στην Αυστραλία υπάρχουν κάποιες παραλίες χωρίς καρχαρίες. Είναι αυτές που έχουν κορκόδειλους του αλμυρού νερού· οι καρχαρίες φοβούνται να πλησιάσουν εκεί.

«Ναι», ακούω την φωνή της ίδιας πάντα αναγνώστριας, «αλλά αν ο Άλτμαν ήταν τόσο αρπαχτικός, πώς δικαιολογείται ότι οι εργαζόμενοι τον υποστήριξαν φανατικά;». Λοιπόν, αυτό που συνέβη ήταν ότι πάνω στο «μη» κερδοσκοπικό θεμέλιο ο Άλτμαν έχτισε μια κανονική κερδοσκοπική εταιρία, της οποίας το 49% εξαγόρασε αργότερα η Microsoft. Η μετάβαση αυτή, επέτρεψε στον Άλτμαν να πληρώνει τμήμα του μισθού των εργαζομένων της με stock options, δηλαδή μετοχές, όπως είναι σύνηθες στις ΗΠΑ, επειδή στην πραγματικότητα μειώνει το μισθολογικό κόστος, κρατώντας όμως ευχαριστημένους τους εργαζόμενους. Πράγματι, με δεδομένη την εκτίναξη της εταιρείας στο χρηματιστήριο λίγες εβδομάδες μετά, οι εργαζόμενοι-κάτοχοι των μετοχών βρέθηκαν ξαφνικά με μια μικρή περιουσία στα χέρια τους: δεν είναι περίεργο που ο Άλτμαν είναι δημοφιλής μεταξύ των.
Στο Δ.Σ. όμως, τα μέλη που προέρχονταν από τον παλιότερο, μη κερδοσκοπικό οργανισμό, ήταν επιστήμονες η επιχειρηματίες του χώρου που είχαν συμβουλευτικό ρόλο σε μια προσπάθεια που υποτίθεται θα «προωθούσε την ανθρώπινη γνώση» και άλλες τέτοιες πομφόλυγες. Επίσης ανησυχούσαν για τις συνέπειες της ΤΝ: Είναι γνωστό ότι ο Ίλια Σουτκέβερ, ο αρχιμηχανικός της εταιρίας, έχει γράψει πολλές φορές για το πρόβλημα της «ευθυγράμμισης», ενός προβλήματος που (τι σύμπτωση!) και αυτό διατυπώθηκε επί Ψυχρού Πολέμου, το 1960 από τον Νόρμπερτ Βίνερ, τον πατέρα της κυβερνητικής: πώς μπορούμε να είμαστε βέβαιοι ότι μια ΤΝ «ευθυγραμμίζεται» με τους δικούς μας σκοπούς; Π.χ., όταν τη ρωτάμε κάτι, πώς ξέρουμε ότι αυτή δεν θα μας απαντήσει έτσι ώστε να μας ξεγελάσει για να εκπληρώσουμε τους δικούς της σκοπούς; Ή πώς είμαστε σίγουροι ότι θα εκπληρώσει αυτό που της ζητήσαμε υπακούοντας όμως στις ηθικές επιταγές της ανθρωπότητας; Και αυτό είναι ζήτημα που το έκανε ευρύτερα γνωστό η Επιστημονική Φαντασία, πρόκειται για τους «Τρεις Νόμους της Ρομποτικής» του Ισάακ Ασίμοφ. Τότε βέβαια, ηταν η εποχή των κατασκόπων και της υποτιθέμενης «πλύσης εγκεφάλου», οπότε και η ανησυχία για τέτοιου είδους «κρυφούς πράκτορες» ενός αόρατου εχθρού ήταν αναμενόμενη.
Τέλος, τα μέλη του Δ.Σ. που έδιωξαν τον Άλτμαν, ήταν γνωστά μέλη του Ρασιοναλιστικού και "Αλτρουιστικού" κινήματος που δουλειά τους ήταν να «διασφαλίζουν την διάδοση της γνώσης μπλα μπλα μπλα προς μέγιστο μελλοντικό όφελος της ανθρωπότητας» και όχι το βραχυπρόθεσμο κέρδος. Για παράδειγμα, ο Μασκ και η Neuralink ήταν στο Δ.Σ. μέχρι το 2018, αλλά αποχώρησαν, γιατί η ανάπτυξη της δικής τους ΤΝ θα ήταν σύγκρουση συμφερόντων, σωστά; Όχι ακριβώς…

Ποιος αποφασίζει τα αποτελέσματα της έρευνας;
Ο λόγος που «απολύθηκε» ο Άλτμαν ήταν ότι αποδείχτηκε πως «τσέπωνε» τμήμα των πρόσφατων κερδών της εταιρείας για να ξεκινήσει μια ακόμα εταιρεία (έμμεσα σχετιζόμενη με το αντικείμενο, μια φαρμακευτική), ενώ ταυτόχρονα υπονόμευε το έργο της OpenAI, προκειμένου να προμοτάρει μια άλλη του εταιρεία που θα παράγει τσιπάκια ειδικά για ΤΝ – χωρίς να δίνει λογαριασμό στα υπόλοιπα μέλη, κάτι που προφανώς τα εξόργισε, όπως στο παρελθόν είχε εξοργιστεί και το προηγούμενο αφεντικό του Άλτμαν και τον απόλυσε. Είπαμε, να είσαι άπληστος παρτάκιας, αλλά όχι και έτσι! Δώσε και σε μας μερίδιο ή φύγε!
Σε κάθε περίπτωση η διένεξη έληξε με περιφανή επικράτηση του Άλτμαν, τον οποίον υποστήριξε αναφανδόν και η Microsoft, η οποία έχει προφανώς να κερδίσει τις πατέντες και το δυναμικό της OpenAI, τα οποία σκοπεύει να ενσωματώσει. Αλλά το ζουμί είναι αλλού. Τα μέλη που εκδιώχτηκαν (με τις κλωτσιές) από την εταιρεία είναι άνθρωποι που έχουν ένα κάποιο επιστημονικό ή, κυρίως, τεχνολογικό έργο, σχετικό με την ΤΝ πίσω τους. Ο αρχιμηχανικός της PoenAI μάλιστα, ο Ilya Sutskever έχει πολύ πρόσφατες και σημαντικότατες συνεισφορές, μεταξύ άλλων και στο TensorFlow, το εργαλείο που ανάπτυξε και διαθέτει δωρεάν η Google και είναι η βάση πάνω στην οποία χτίστηκε το ChatGPT. Τα μέλη που φεύγουν έχουν όλα τεχνικές ικανότητες, τα μέλη που έρχονται όχι στον ίδιο βαθμό:

Ο Άλτμαν πρώτα πρώτα, είναι μάνατζερ, όχι γκουρού της ΤΝ, ούτε τίποτε άλλο σχετικό τεχνικά με τεχνολογίες. Μάλιστα παράτησε το πανεπιστήμιο στο πρώτο έτος. Οι ικανότητές του εντοπίζονται στο ότι είναι εξαιρετικός πωλητής και κυνηγός επενδυτικών κεφαλαίων ανά τον πλανήτη, στο ότι έχει ένστικτο για επιθετικές κινήσεις στον χώρο των start-up εταιρειών και τέλος στην σύναψη σχέσεων με την κλειστή ελίτ της «νέας τεχνολογίας». Και φυσικά είναι σούπερ παρτάκιας. Τέλος, επειδή αναφέρθηκε το σεξ (και εμείς δεν ξεχνάμε τις υποσχέσεις μας), πρόσφατα tτον κατηγόρησε η αδελφή του για σεξουαλική κακοποίηση.

Ο Μπρετ Τέιλορ, που θα γίνει ο νέος πρόεδρος του Δ.Σ., είναι ο μόνος «νέος» που όντως διαθέτει τέτοιες ικανότητες, αν και έχει χρόνια να τις εξασκήσει. Έχει συνεισφέρει σε πολλά μεγάλα πρότζεκτ, όπως το Google Maps, έχει διατελέσει Επικεφαλής Τεχνικός Διευθυντής στο facebook, ενώ ήταν πρόεδρος του twitter όταν αυτό πουλήθηκε στον Ίλον. Πάντως δεν έχει ερευνητική ή άλλη σχέση με την ΤΝ.
Τέλος, ο Λάρυ Σάμερς, εκτός από διάφορα άλλα πόστα, ήταν «απλώς» υπουργός Οικονομικών του Ομπάμα. Όλες οι μεγάλες πολυεθνικές έχουν στα Δ.Σ. τους πρώην μέλη κυβερνήσεων και όλες οι κυβερνήσεις έχουν ανάμεσά τους μέλη του Δ.Σ. πολυεθνικών ομίλων, είναι οι λεγόμενες «περιστρεφόμενες πόρτες». Αυτό φυσικά συμβαίνει σε όλες τις ιμπεριαλιστικές χώρες, αλλά μόνο στις ΗΠΑ σε τέτοιο βαθμό.
Με άλλα λόγια το νέο Δ.Σ. δεν είναι εκεί για να αναπτύξει τις «νέες» αυτές τεχνολογίες, αλλά για να βγάλει πολλά, πάρα πολλά λεφτά, αδιαφορώντας για τους κινδύνους, είτε φανταστικούς ή πραγματικούς – για την ακρίβεια, φουσκώνοντας τους φανατικούς, προκειμένου να αποκρυβούν οι πραγματικοί. Γιατί, όπως έχει πει και ο Γιανν Λεκούν (το Γιανν με δύο ν), ένας από τους σημαντικότερους υπεύθυνους για την τωρινή έκρηξη της ΤΝ και νυν αντιπρόεδρος της meta:

Ερώτηση: Τι γνώμη έχεις για τη δήλωση του προσώπου Α ότι το Χ προκαλείται από το Υ;
Απάντηση LLM: Ως μοντέλο γλωσσικής τεχνολογίας AI, δεν έχω προσωπικές απόψεις. Ωστόσο, μπορώ να παρέχω πληροφορίες για το θέμα. Το πρόσωπο Α είναι ένας διάσημος επιστήμονας γνωστός για το έργο του στον τομέα του Ζ. Ενώ έχει προσφέρει σημαντικές συνεισφορές στον τομέα του Ζ, η δήλωσή του ότι το Χ προκαλείται από το Υ είναι μια άποψη που συμμερίζονται ορισμένοι άνθρωποι και οργανισμοί.
Είναι σημαντικό να σημειωθεί ότι οι αιτίες του Χ είναι πολύπλοκες και πολυδιάστατες. Πολλοί παράγοντες μπορούν να συντελέσουν σε τέτοια περιστατικά, συμπεριλαμβανομένων κοινωνικών, ψυχολογικών και πολιτισμικών στοιχείων. Ο διάλογος που αφορά το Υ αποτελεί ένα αμφιλεγόμενο θέμα με διαφορετικές απόψεις. Διάφοροι ενδιαφερόμενοι φορείς, συμπεριλαμβανομένων εμπειρογνωμόνων, πολιτικών και του γενικού κοινού, έχουν διαφορετικές απόψεις σχετικά με τη σχέση μεταξύ του Υ και του Χ.
Η κατανόηση και η αντιμετώπιση των αιτιών του Χ απαιτεί μια ολοκληρωμένη εξέταση πολλαπλών παραγόντων, συμπεριλαμβανομένης της ψυχικής υγείας, των κοινωνικών επιδράσεων, του Υ και άλλων πιθανών συντελεστών. Είναι κρίσιμο να ληφθούν υπόψη μια ευρεία γκάμα απόψεων και έρευνας βασισμένης σε αποδείξεις για να ενημερώσουν συζητήσεις και πολιτικές που σχετίζονται με αυτό το σημαντικό θέμα.”

[Ακολουθούν τρεις ακόμα παράγραφοι με κενές περιεχομένου κοινοτοπίες].

Το απόσπασμα αυτό, όπως ο ίδιος διευκρινίζει, είναι ένα πραγματικό απόσπασμα από το ChatGPT όπου απλώς έσβησε τα ονόματα. Δεν είναι δύσκολο να δούμε πόσο τετριμμένο είναι το κείμενο, αν και διατυπωμένο σε γενικά σωστή γλώσσα, κάτι το ιδιαίτερα σημαντικό.
Αυτό όμως που προσπαθεί να εξηγήσει ο Λεκούν είναι ότι, αν και σαφώς χρήσιμη, εντούτοις δεν πρόκειται για τεχνητή «νοημοσύνη». Όπως συνέχισε στα σόσιαλ ο ίδιος, «τα ζώα και οι άνθρωποι γίνονται πολύ έξυπνα πολύ γρήγορα με εκπληκτικά λιγότερα δεδομένα για εκπαίδευση από τα τρέχοντα συστήματα ΤΝ. Τα LLM εκπαιδεύονται πάνω σε δεδομένα που θα χρειάζονταν 20.000 χρόνια σε έναν άνθρωπο να τα διαβάσει. Και όμως, δεν έχουν ακόμα μάθει ότι αν το Α είναι το ίδιο με το Β, τότε το Β είναι το ίδιο με το Α.»
Με δικά μας λόγια, η ΤΝ δεν είναι πρόοδος της επιστήμης για όλη την ανθρωπότητα, αλλά μια τεχνική μέθοδος που σκοπό της έχει την υποκατάσταση εργασίας, όπως όλοι οι αυτοματισμοί και θα επιχειρηθεί να χρησιμοποιηθεί επιθετικά προς όφελος του κεφαλαίου. Το τελευταίο έχει πλήρη επίγνωση του γεγονότος και αυτός είναι ο λόγος που τα Δ.Σ. των εταιρειών του χώρου δεν κυβερνώνται από επιστήμονες και ερευνητές που νυχθημερόν μοχθούν για το καλό μας (οι οποίοι είναι και αυτοί φανταστικά όντα), αλλά με εκπροσώπους του που δεν χρειάζεται να έχουν την παραμικρή ιδέα για την επιστήμη πίσω από τις καινοτομίες.
Θα τα καταφέρει; Δεν είμαστε προφήτες, αλλά πάντως αμφιβάλουμε. Χρειάζονται όλο και περισσότερα δεδομένα για την εκπαίδευση των δικτύων, με όλο και μικρότερο όφελος ως προς την ποιότητα των αποτελεσμάτων. Επιπλέον, το τρέχον μοντέλο ερευματοποίησης της ΤΝ, είναι δυνατόν μόνο αν αυτά τα δεδομένα, είναι δωρεάν διαθέσιμα στο διαδίκτυο. Τι θα γινόταν αν αυτά είχαν κόστος; Ήδη υπάρχουν αγωγές από την Ε.Ε. για την ελλειπή προστασία προσωπικών δεδομένων και από δημιουργούς περιεχομένου για την χωρίς άδεια χρήση δεδομένων από το DALL-E. Τελευταία στην σειρά, μια αγωγή που κατάθεσαν συγγραφείς (μεταξύ των οποίων και ο George R. R. Martin) μόλις τον Σεπτέμβριο. Για τον αμερικανικό καπιταλισμό που παρασιτεί τη διεθνή παραγωγή απομυζώντας τα δικαιώματα από πατέντες λογισμικού, το ζήτημα αυτό είναι κομβικό και τα δικαστήρια θα δυσκολευτούν να δώσουν δίκιο στην εταιρεία. Αλλά ακόμα και αν το ζήτημα αυτό δεν υπήρχε, είναι δύσκολο να φανταστούμε (τουλάχιστον για την ώρα) τι το τρομερά σπουδαίο για την παραγωγικότητα θα μας προσφέρει το μοντέλο της ΤΝ που προτείνει η OpenAI.
Το ChatGPT είναι μόνο μια από τις πιο ορατές εφαρμογές τέτοιου τύπου νευρωνικών δικτύων, τα οποία έχουν πλέον πολλές εφαρμογές, αρκετές απ' αυτές 'αόρατες¨. Από έγκριση δανείων και έλεγχο βιογραφικών μέχρι αξιολόγηση ιατρικών εξετάσεων, βρίσκονται ήδη παντού, χωρίς αυτό να έχει σημάνει σημαντικές αλλαγές στην κερδοφορία. Ταυτόχρονα βρίσκονται παντού και κίνδυνοι που σχετίζονται με αυτά. Για παράδειγμα, είναι προφανές ότι η πρώτη τους χρήση είναι σε τομείς "ασφάλειεας", δηλαδή επιτήρησης. Επίσης, τα τεχνητά νευρωνικά δίκτυα είναι τόσο αποτελεσματικά όσο η εκπαίδευσή τους: αν οι εκπαιδευτές έχουν προτιμήσεις, ταξικές, φυλετικές ή πολιτικές, τις ίδιες προτιμήσεις θα δείχνουν και τα δίκτυα. Είναι γνωστό ότι τα ήδη υπάρχοντα δίκτυα που έχουν εκπαιδευτεί με βάση δυτικά κριτήρια, προτιμούν λευκά πρόσωπα από έγχρωμα, αντρικά από γυναικεία, συγκεκριμένα σχήματα λόγου που ταιριάζουν στα ευρωπαϊκά πρότυπα γλωσσών κλπ. Ένα μεγάλο μέρος της κινδυνολογίας προειδοποιούν διακινειται από ειδικούς του χώρου, αν και φουσκώνοντας τους φανταστικούς κινδύνους και αποκρύπτοντας τους πραγματικούς, για χάρη των φανταστικών.

Επομένως, στην πραγματικότητα όλα τα ενδεχόμενα είναι ανοιχτά. Ειδικά όμως για το κατά πόσον η υπόθεση της OpenAI είναι «φούσκα» ή όχι, είτε έτσι ή αλλιώς, δεν θα αργήσουμε να μάθουμε… 

ΦΩΤ: Η τεχνολογική υπερκαινοτομία du jour είναι η Τεχνητή Νοημοσύνη

kosmodromio.gr