Η επίκληση της ουδετερότητας συγκαλύπτει το γεγονός ότι τα γλωσσικά μοντέλα δεν καταγράφουν απλώς τη σκέψη, αλλά τη διαμορφώνουν, την υποτάσσουν και εν τέλει την απαλλοτριώνουν προς όφελος ενός ολιγαρχικού υποδείγματος εξουσίας
Η πιο επικίνδυνη πρόταση που ακούγεται σήμερα για την παραγωγική τεχνητή νοημοσύνη είναι πως πρόκειται για ένα ακόμη εργαλείο στη μακρά ιστορία της ανθρώπινης τεχνικής. Ένα στυλό, μια γραφομηχανή, ένας «νοήμον» επεξεργαστής κειμένου. Η αναλογία μοιάζει αθώα, σχεδόν αυτονόητη, όμως ακριβώς εκεί εδράζεται η μεγαλύτερη ιδεολογική απάτη της εποχής μας. Διότι τα συστήματα αυτά δεν περιορίζονται στη μεταφορά μιας ήδη διαμορφωμένης πρόθεσης στο χαρτί· παρεμβαίνουν στην ίδια τη διαδικασία της σκέψης. Διαλέγουν λέξεις, προτείνουν επιχειρήματα, οργανώνουν το ύφος ενός κειμένου. Και όταν μια μηχανή αναλαμβάνει αυτόν τον ρόλο γίνεται παραγωγός νοήματος και διαμεσολαβητής εξουσίας.
Η αυταπάτη του διάφανου μέσου
Η γραφή είναι μια πάλη με τη γλώσσα, κατασκευή νοήματος μέσα από την αβεβαιότητα, την αποτυχία, την απρόβλεπτη τροπή μιας πρότασης που ανοίγει τον δρόμο σε μια σκέψη που δεν προϋπήρχε. Όταν αυτή η πάλη εκχωρείται σε ένα στατιστικό μοντέλο, ο χρήστης μετατρέπεται από δημιουργό σε επιμελητή έτοιμων, προβλέψιμων διατυπώσεων.
Το αποτέλεσμα μπορεί να είναι κάποιες φορές γραμματικά άψογο, αλλά είναι πνευματικά κενό, γιατί δεν φέρει το ίχνος μιας ανθρώπινης εμπειρίας που πάλεψε με τις δικές της αντιφάσεις για να δημιουργήσει νόημα –ανεξαρτήτως του εάν η προσπάθειά της μπορεί να κριθεί επιτυχημένη. Το μολύβι, το στυλό και το πληκτρολόγιο δεν επιλέγουν λέξεις· το γλωσσικό μοντέλο ακριβώς αυτό κάνει, κανονικοποιώντας, ομογενοποιώντας και εξουδετερώνοντας αυτό το μοναδικό αποτέλεσμα που ονομάζουμε ύφος.
Η γλωσσολόγος Έμιλι Μπέντερ περιγράφει τα συστήματα αυτά ως «στοχαστικούς παπαγάλους». Ο όρος «νοημοσύνη» στην ονομασία τους αποτελεί επίτευγμα της βιομηχανίας του μάρκετινγκ, όχι περιγραφικό όρο μιας πραγματικής ικανότητας. Αυτό που παράγουν δεν είναι σκέψη αλλά ανασύνθεση μοτίβων από αχανή σύνολα δεδομένων.
Ο Μαρξ είχε ονομάσει «νεκρή εργασία» το κεφάλαιο που ενσωματώνεται στα μηχανήματα. Στα γλωσσικά μοντέλα, νεκρή εργασία είναι όλη η παρελθούσα γραφή που καταναλώθηκε για την εκπαίδευσή τους, χωρίς τη συγκατάθεση των δημιουργών της. Κάθε χρήση τους συνιστά υφαρπαγή της ανθρώπινης πνευματικής κληρονομιάς.
Η γραφή είναι μια πάλη με τη γλώσσα, κατασκευή νοήματος μέσα από την αβεβαιότητα, την αποτυχία, την απρόβλεπτη τροπή μιας πρότασης που ανοίγει τον δρόμο σε μια σκέψη που δεν προϋπήρχε. Όταν αυτή η πάλη εκχωρείται σε ένα στατιστικό μοντέλο, ο χρήστης μετατρέπεται από δημιουργό σε επιμελητή έτοιμων, προβλέψιμων διατυπώσεων.
Το αποτέλεσμα μπορεί να είναι κάποιες φορές γραμματικά άψογο, αλλά είναι πνευματικά κενό, γιατί δεν φέρει το ίχνος μιας ανθρώπινης εμπειρίας που πάλεψε με τις δικές της αντιφάσεις για να δημιουργήσει νόημα –ανεξαρτήτως του εάν η προσπάθειά της μπορεί να κριθεί επιτυχημένη. Το μολύβι, το στυλό και το πληκτρολόγιο δεν επιλέγουν λέξεις· το γλωσσικό μοντέλο ακριβώς αυτό κάνει, κανονικοποιώντας, ομογενοποιώντας και εξουδετερώνοντας αυτό το μοναδικό αποτέλεσμα που ονομάζουμε ύφος.
Η γλωσσολόγος Έμιλι Μπέντερ περιγράφει τα συστήματα αυτά ως «στοχαστικούς παπαγάλους». Ο όρος «νοημοσύνη» στην ονομασία τους αποτελεί επίτευγμα της βιομηχανίας του μάρκετινγκ, όχι περιγραφικό όρο μιας πραγματικής ικανότητας. Αυτό που παράγουν δεν είναι σκέψη αλλά ανασύνθεση μοτίβων από αχανή σύνολα δεδομένων.
Ο Μαρξ είχε ονομάσει «νεκρή εργασία» το κεφάλαιο που ενσωματώνεται στα μηχανήματα. Στα γλωσσικά μοντέλα, νεκρή εργασία είναι όλη η παρελθούσα γραφή που καταναλώθηκε για την εκπαίδευσή τους, χωρίς τη συγκατάθεση των δημιουργών της. Κάθε χρήση τους συνιστά υφαρπαγή της ανθρώπινης πνευματικής κληρονομιάς.
Η πολιτική οικονομία της σπατάλης
Η τεχνητή νοημοσύνη παρουσιάζεται ως ένα αναπόφευκτο βήμα προόδου. Όμως η ιστορία του πεδίου είναι γεμάτη από κύκλους υπερβολικής αισιοδοξίας και απότομης κατάρρευσης. Η τρέχουσα «άνοιξη», χρηματοδοτούμενη με αμύθητα ποσά, μοιάζει περισσότερο με κερδοσκοπική φούσκα. Κανένα μείζον προϊόν του κλάδου δεν έχει πλησιάσει έστω και ελάχιστα την κερδοφορία, ενώ το ενεργειακό τους αποτύπωμα διογκώνεται ανησυχητικά π.χ. μέσα σε τρία χρόνια περίπου το ένα δέκατο της ηλεκτρικής ζήτησης στις Ηνωμένες Πολιτείες απορροφάται από τα data centres.
Και όλη αυτή η οικολογική επιβάρυνση για ποιο αποτέλεσμα; Για έναν καταιγισμό από κοινοτοπίες, ψευδαισθήσεις, επίπεδα δοκίμια και αναμασημένες φράσεις. Το παραγόμενο αποτέλεσμα είναι το τέλειο ανάλογο του καταναλωτικού πολιτισμού: εύθραυστο, κακότεχνο, αναλώσιμο.
Η λεγόμενη «επανάσταση» της τεχνητής νοημοσύνης δεν είναι τίποτε περισσότερο από την επέκταση της λογικής της ψηφιακής πλατφόρμας σε κάθε πτυχή της πνευματικής ζωής. Η ίδια τεχνολογία που υπόσχεται μείωση του φόρτου εργασίας λειτουργεί στην πραγματικότητα ως μηχανισμός πειθάρχησης: ενισχύει την επισφάλεια, απαξιώνει δεξιότητες και συγκεντρώνει εξουσία στα χέρια ελάχιστων εταιρειών.
Το πανεπιστήμιο γίνεται πεδίο πειραματισμού για την υποχρεωτική «εξοικείωση» με εργαλεία χρηματοδοτούμενα από τους ίδιους τους παρόχους τους. Οι εργαζόμενοι της γνώσης βλέπουν τον μόχθο τους να υποτιμάται και τη γλώσσα τους να μετατρέπεται σε πρώτη ύλη για μοντέλα που προορίζονται να τους αντικαταστήσουν. Η αντίσταση σε αυτή την εξέλιξη δεν είναι άρνηση της τεχνικής· είναι άρνηση της υποταγής σε ένα μοντέλο ανάπτυξης που θυσιάζει την ανθρώπινη αυτονομία στον βωμό της κερδοσκοπίας.
Ο λουδισμός ως κριτική της εξουσίας
Η λέξη «Λουδίτης» χρησιμοποιείται σήμερα από αρκετό κόσμο υποτιμητικά. Όμως, όπως τεκμηριώνει ο Γκάβιν Μιούλερ, ο ιστορικός λουδισμός δεν ήταν τεχνοφοβικός. Οι Λουδίτες δεν αντιμάχονταν τις μηχανές καθεαυτές· αντιμάχονταν τη βιομηχανική κοινωνία που τις χρησιμοποιούσε ως όπλο για να διαλύσει συντεχνιακές ελευθερίες, να μειώσει μισθούς και να υποτάξει την εργασία στο κεφάλαιο. Η εξέγερσή τους ήταν μια βαθιά πολιτική πράξη, που έθετε το ερώτημα ποιος ελέγχει την τεχνολογία και προς όφελος ποιου.
Με τον ίδιο τρόπο, η σημερινή άρνηση της τεχνητής νοημοσύνης δεν είναι νοσταλγία για έναν κόσμο χωρίς υπολογιστές, αν και πτυχές εκείνου του κόσμου –που έχει πλέον χαθεί πιθανόν ανεπανόρθωτα– ήταν πολύ πιο γοητευτικές και όμορφες. Είναι η αναγνώριση ότι τα συστήματα αυτά, στην πραγματική τους λειτουργία, αποτελούν εργαλεία παραγωγής ανοησίας (nonsense θα έλεγε ο Βιτγκενστάιν), στερεοτύπων και συγκέντρωσης εξουσίας. Δεν αρνούμαστε τη γνώση· αρνούμαστε την υποταγή σε μια μηχανή που μετατρέπει την ανθρώπινη επικοινωνία σε πρώτη ύλη για το κέρδος των τεχνο-ολιγαρχών, πολλοί μάλιστα από τους οποίους έχουν και μια τάση προς πιο ακροδεξιές θέσεις και πολιτικές.
Το κόστος της παράδοσης
Όταν χρησιμοποιούμε παραγωγική τεχνητή νοημοσύνη, συναινούμε σε μια αλυσίδα συνεπειών που σπάνια αντιλαμβανόμαστε πλήρως. Γεμίζουμε τις τσέπες των τεχνο-ολιγαρχών, ενισχύουμε την επιτάχυνση της ψηφιακής αποχαύνωσης που επιδεινώνει την ποιότητα της ζωής, αποδεχόμαστε την περαιτέρω υποβάθμιση ενός ήδη υποβαθμισμένου εκπαιδευτικού συστήματος και συναινούμε στην εξάντληση των φυσικών πόρων. Πάνω απ’ όλα, παραδίδουμε την αυτονομία μας, ακριβώς τη στιγμή που ο αυταρχισμός αναδύεται με νέες μορφές και χρειάζεται πειθήνια υποκείμενα, όχι κριτικά σκεπτόμενους πολίτες.
Δεν είμαστε υποχρεωμένοι να αποδεχθούμε το αφήγημα ότι αυτές οι εξελίξεις είναι αναπόφευκτες. Η τεχνολογία ήταν πάντα και πολιτική και το ερώτημα είναι αν θα επιτρέψουμε σε μια μηχανή του νεοφιλευθερισμού που δεν σκέφτεται να αποφασίζει για εμάς.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου