“We can be humble and live a good life with the aid of the machines, or we can be arrogant and die”
Norbert Wiener (1894 – 1964)
Μπορούμε ανά πάσα στιγμή να δούμε σε μια από τις οθόνες μας το ακριβές στίγμα ενός εμπορικού πλοίου που πλέει στον Ειρηνικό ή ενός πυροσβεστικού ελικοπτέρου που πραγματοποιεί ρίψεις νερού σε μια δασική πυρκαγιά στην Πελοπόννησο. Μπορούμε να δούμε τιμές χρηματιστηρίων, την κίνηση στους δρόμους της πόλης μας, ποιο σουπερμάρκετ έχει τη χαμηλότερη τιμή σε σειρά προϊόντων, το μηχανάκι που μας φέρνει τα σουβλάκια…
Από τη μία πλευρά έχουμε το επίτευγμα του διαδικτύου και την προσαρμογή όλων στις τεχνολογικές του προδιαγραφές. Όλα όσα απολαμβάνουμε σήμερα έρχονται μέσω του Internet Protocol (IP), του βασικού πρωτοκόλου επικοινωνίας του διαδικτύου, στις οθόνες μας και καταλήγουν στα μάτια μας. Ακριβώς αυτό θέλουν οι δημιουργοί όλων των online υπηρεσιών – την προσοχή μας, το βλέμμα μας, ώστε να μας πουλήσουν υπηρεσίες και προϊόντα μέσω της online διαφήμισης. Το βλέμμα μας είναι το πρώτο «νόμισμα» με το οποίο πληρώνουμε την πρόσβαση στις περισσότερες από αυτές τις υπηρεσίες, το δεύτερο «νόμισμα» είναι τα προσωπικά μας δεδομένα.
Δεν σταματήσαμε όμως στις εφαρμογές που φέρνουν αεροπλάνα, πλοία, σύννεφα και τιμές μετοχών στην οθόνη μας. Σήμερα η μηχανή μπορεί να γράψει ένα κείμενο, να σου πιάσει κουβέντα, να επιχειρήσει να γίνει φίλος σου, να κρατήσει αναμνήσεις ή να σου χτυπήσει (μεταφορικά μιλώντας) φιλικά την πλάτη, να σε βοηθήσει με ένα Powerpoint ή να σε παραπλανήσει με τρόπο που κανένας επαγγελματίας της παραπλάνησης δεν θα μπορούσε. Όλα αυτά, αφενός χάρη στο IP και αφετέρου χάρη στην επικράτηση των αυτοματισμών ως λογικής την οποία υπηρετεί η τεχνολογία. Ακόμα και οικιακές συσκευές όπως κλιματιστικά, πλυντήρια και ψυγεία ενσωματώνουν λειτουργίες αυτοματισμών, συνδέονται με το διαδίκτυο, για λόγους που οι προηγούμενες γενιές δεν θα μπορούσαν να αντιληφθούν. Εδώ που τα λέμε, γιατί να έχει IP διεύθυνση ένα πλυντήριο;
Έπεται συνέχεια. Δεκάδες επαγγέλματα αναπροσαρμόζονται, μετασχηματίζονται ή καταργούνται χάρη στην εξέλιξη των αυτοματισμών. Ενέργειες που πραγματοποιούμε σε καθημερινή βάση, μοντελοποιούνται, «μεταφράζονται» σε γραμμές κώδικα και γίνονται μέρος της μηχανής. Μιας μηχανής που θα κάνει τη ζωή μας καλύτερη. Η αλήθεια είναι ότι αυτή την υπόσχεση την έχουμε ακούσει πολλές φορές τουλάχιστον τα τελευταία 250 χρόνια άλλες φορές με κάθε τεχνολογικό βήμα που ονομάζουμε βιομηχανική επανάσταση, άλλες φορές με τα πολιτικά και κοινωνικά κινήματα που δημιουργούνται και αλληλεπιδρούν με τις τεχνολογικές εξελίξεις. Όμως εργαζόμαστε περισσότερο, πολλές φορές για λιγότερα και σιγά σιγά φαίνεται να οδεύουμε σε μία κατάσταση όπου μια υπερβολικά πλούσια ελίτ απολαμβάνει όλα τα οφέλη από την τεχνολογία και την αύξηση της παραγωγικότητας που φέρνει η εφαρμογή της στην οικονομία, ενώ τα μεγαλύτερα κομμάτια της κοινωνίας προσπαθούν να αποφύγουν την περιθωριοποίηση.
Ο Yuval Noah Harari περιγράφει αυτή τη (μάλλον επικίνδυνη ) κατάσταση στο τελευταίο του βιβλίο, Homo Deus. O Harari βλέπει καταρχήν ότι η βιοτεχνολογία και η επιστήμη των υπολογιστών βοηθούν στη δημιουργία νέων και ισχυρότερων θρησκειών. Ο συγγραφέας χρησιμοποιεί τον όρο “θρησκεία” για να περιγράψει τα κυρίαρχα φιλοσοφικά, πολιτικά και οικονομικά δόγματα. Σε αυτό το πλαίσιο, θρησκείες δεν είναι μόνο ο χριστιανισμός ή το ισλάμ αλλά και ο οικονομικός φιλελευθερισμός και ο σοσιαλισμός. Σύμφωνα με τον Harari, οι νέες θρησκείες δεν θα ελέγχουν μόνο κάθε λεπτό της ύπαρξής μας, αλλά θα είναι ικανές να διαμορφώνουν το σώμα, τον εγκέφαλο και το νου μας και να δημιουργούν ολόκληρους εικονικούς κόσμους γεμάτους κολάσεις και παραδείσους. Γι’ αυτό, το να διακρίνουμε τη φαντασία από την πραγματικότητα και τη θρησκεία από την επιστήμη θα γίνει πιο δύσκολο και πιο απαραίτητο από ποτέ. Στο σημείο αυτό η σκέψη του Harari μας θυμίζει το σχόλιο του Arthur Clarke που είχε παρατηρήσει σε ένα από τα πιο γνωστά του βιβλία ότι είναι δύσκολο να ξεχωρίσεις μια πραγματικά προηγμένη τεχνολογία από τη μαγεία. Ο Harari όμως κάνει μία δυσοίωνη παρατήρηση:
Στον 21ο αιώνα, μπορεί να δούμε τη δημιουργία μιας νέας τεράστιας και μη εργαζόμενης τάξης. Άνθρωποι χωρίς καμία οικονομική, πολιτική, ακόμα και καλλιτεχνική αξία, οι οποίοι δεν θα συμβάλλουν καθόλου στον πλούτο και τη δόξα της κοινωνίας. Αυτή η «άχρηστη τάξη» δεν θα είναι απλώς μη απασχολούμενη – θα είναι μη απασχολήσιμη, λέει ο Harari. Αυτή η δυστοπική περιγραφή δείχνει στον παρόντα χρόνο να είναι νομοτελειακή, όμως ας πάμε λίγο πίσω στον χρόνο.
Από το απόγειο της πυρηνικής δύναμης στη μαγεία των αυτοματισμών
Ο Norbert Wiener ήταν παιδί-θαύμα. Σε ηλικία 18 ετών, το 1914, έγινε δεκτός για να διδάξει στο Χάρβαρντ. Στη δεκαετία του ’40 ήταν μέλος μιας ελίτ ερευνητών που άνοιξε τον δρόμο στον αυτοματισμό, ο ίδιος είναι δημιουργός του όρου “Κυβερνητική“.
Είχε προβλέψει ότι οι επόμενες γενιές υπολογιστών θα ήταν διαθέσιμες σε όλο και περισσότερους ερευνητές και, τελικά, σε όλους μας μέσω των τηλεφωνικών γραμμών. Έφυγε από τη ζωή το 1964, σε ηλικία μόλις 69 ετών, πέντε χρόνια πριν δει ότι η πρόβλεψη του θα επαληθεύονταν. Το 1969 λειτούργησαν οι πρώτες συνδέσεις που αποτέλεσαν τον θεμέλιο λίθο του διαδικτύου που γνωρίζουμε σήμερα.
Ο Wiener ήταν από εκείνους που έλεγαν ότι κατά κάποιον τρόπο η πυρηνική ενέργεια αποτελούσε το απόγειο της ωμής δύναμης και ότι, πλέον, το ενδιαφέρον θα στρεφόταν στους αυτοματισμούς. Το 1960 σε άρθρο του στο περιοδικό Science διατύπωσε τις απόψεις του για τις ηθικές και τεχνικές επιπτώσεις του αυτοματισμού.
Οι μηχανές που είναι διαθέσιμες εκείνη την εποχή, 64 χρόνια πριν από την ώρα που γράφονται αυτές οι γραμμές, θεωρούνται από τον Wiener εξελιγμένες. «Η θέση μου είναι ότι οι μηχανές μπορούν να ξεπεράσουν κάποιους από τους περιορισμούς των σχεδιαστών τους και μπορούν να είναι εξίσου αποτελεσματικές όσο και επικίνδυνες», γράφει. Επεκτείνοντας περαιτέρω τον συλλογισμό του, σημειώνει ότι η πλήρης υποταγή και η πλήρης ευφυία δεν συμβαδίζουν και για του λόγου το αληθές θυμίζει ότι πολλές φορές στην αρχαιότητα ο καλλιεργημένος Έλληνας σκλάβος κατόρθωνε να επιβληθεί στον ακαλλιέργητο Ρωμαίο ιδιοκτήτη του.
Μια προφητεία 160 ετών
«Αν οι μηχανές γίνουν όλο και πιο αποτελεσματικές και λειτουργούν σε ένα ολοένα και ανώτερο φιλοσοφικό επίπεδο, η καταστροφή που προέβλεψε ο Samuel Butler για την κυριαρχία της μηχανής θα έρχεται όλο και πιο κοντά», γράφει ο Wiener. Ο Samuel Butler στον οποίο αναφέρεται ο Wiener, έζησε τον 19ο αιώνα και σε άρθρο του που δημοσιεύθηκε το 1863 γράφει -100 χρόνια πριν τον Wiener και 160 χρόνια πριν από τη δημιουργία του κειμένου που διαβάζετε- «μέρα με τη μέρα οι μηχανές κερδίζουν έδαφος απέναντί μας – μέρα με τη μέρα γινόμαστε όλο και πιο υποταγμένοι σε αυτές- περισσότεροι άνθρωποι καθημερινά δεσμεύονται ως σκλάβοι για να τις φροντίζουν, περισσότεροι άνθρωποι καθημερινά αφιερώνουν την ενέργεια ολόκληρης της ζωής τους στην ανάπτυξη της μηχανικής ζωής. Το αποτέλεσμα είναι απλώς θέμα χρόνου, αλλά το ότι θα έρθει η ώρα που οι μηχανές θα έχουν την πραγματική κυριαρχία πάνω στον κόσμο και τους κατοίκους του δεν μπορεί να το αμφισβητήσει ούτε στιγμή κανείς άνθρωπος με πραγματικά φιλοσοφικό μυαλό».
Ο Wiener προτείνει, ουσιαστικά, μια πορεία όπου η μηχανή δεν αντικαθιστά το ανθρώπινο πνευματικό έργο με τον τρόπο που οι μηχανικοί αργαλειοί και μύλοι της πρώτης Βιομηχανικής Επανάστασης αντικατέστησαν τους υφαντουργούς και τους παραδοσιακούς μυλωνάδες. O Wiener προτείνει έναν άλλο δρόμο, διαφορετικό από αυτόν τον οποίο χαράξαμε επί των ημερών του και εξακολουθούμε να βαδίζουμε σήμερα. Σήμερα, οι μηχανές ελέγχουν ένα μεγάλο μέρος της ζωής μας. Ο χρηματοπιστωτικός τομέας είναι σχεδόν απόλυτα αυτοματοποιημένος. Η βιομηχανική παραγωγή γίνεται με ολοένα και περισσότερους μεταλλικούς βραχίονες να συμμετέχουν στη διαδικασία. Η εξάρτηση γίνεται σαφής σε κάθε βλάβη. Μία προβληματική ενημέρωση λογισμικού στα μέσα του Ιουλίου προκάλεσε χάος σε αεροδρόμια, νοσοκομεία, τράπεζες και μέσα ενημέρωσης και έδειξε στην πράξη ότι αυτή η σχεδόν τυφλή εμπιστοσύνη στις μηχανικές διαδικασίες (και στην προβληματική επιτήρηση από πλευράς ανθρώπων) μπορεί να μας επιστρέψει αρκετές δεκαετίες πίσω. Η υπερβολική εξάρτηση από τους αυτοματισμούς έχει δείξει αρκετές φορές πόσο προβληματική μπορεί να είναι, απλώς αυτή τη φορά οι δονήσεις ήταν πιο ισχυρές από ό,τι είχαμε ίσως συνηθίσει να περιμένουμε.
Μηχανές και σκλάβοι
Ο Wiener υποστηρίζει ότι η αυτόματη μηχανή έχει το οικονομικό ισοδύναμο της δουλείας και ότι κάθε εργασία που ανταγωνίζεται τη δουλεία δεν μπορεί παρά να αποδέχεται τις οικονομικές επιπτώσεις της δουλείας. Αυτό, ίσως, να είναι περισσότερο θέμα ηθικής και δεοντολογίας, αλλά ο Wiener κάνει μία ακόμα παρατήρηση. Οι αντιδράσεις μας, λέει, βασίζονται σε κάτι που συμβαίνει γύρω μας – οι άνθρωποι αντιδρούμε σε ερεθίσματα που λαμβάνουμε από το περιβάλλον μας, όπως περίπου πράττουν όλα τα είδη που ζουν στη Γη. Αν, λοιπόν, μία μηχανή είναι σε θέση να λειτουργεί με βάση τις εισερχόμενες πληροφορίες (να αντιδρά δηλαδή στα ερεθίσματα που λαμβάνει) σε ρυθμό που δεν μπορούμε να παρακολουθήσουμε, θα είναι πολύ αργά όταν αντιληφθούμε ότι είναι ώρα να την κλείσουμε. Σαφώς στη λογική του Wiener η μηχανή δεν είναι ένας παθητικός δέκτης ερεθισμάτων αλλά μια αυτόνομη μονάδα που δεν έχει σημαντικό εξωτερικό έλεγχο. Υπάρχει εναλλακτική;
Βεβαίως, λέει ο Wiener σε ένα κείμενό του που χρονολογείται από το 1949. Μπορούμε να παραμείνουμε ταπεινοί και να ζήσουμε μια καλή ζωή με τη βοήθεια των μηχανών ή να επιδείξουμε αλαζονεία και να πεθάνουμε, σχολιάζει.
Η έμφαση στον αυτοματισμό και στη δημιουργία μίας μηχανής που θα λειτουργεί όπως ο άνθρωπος δεν είναι αυτό που θα έπρεπε να αποζητούμε, σύμφωνα με τα λεγόμενα του Wiener.
Δύναμη και πρόοδος αλλά για λίγους
Στο τελευταίο του βιβλίο “Power and Progress” οι Daron Acemoglu και Simon Johnson εξερευνούν μεταξύ άλλων τους λόγους που τα οφέλη της τεχνολογικής προόδου δεν διαχέονται αναλογικά στην κοινωνία, αλλά περιορίζονται σε ένα πολύ μικρό μέρος της. Σημειώνουν ότι η εμμονή μας με την αυτοματοποίηση διαδικασιών έχει οδηγήσει σε περιπτώσεις «περίπου αυτοματισμού». Χαρακτηριστικό παράδειγμα είναι τα αυτόματα ταμεία των σουπερμάρκετ που πολλές φορές δεν λειτουργούν όπως θα έπρεπε για διάφορους λόγους, αποδεικνύοντας ότι η θέση του ταμία έχει λόγο ύπαρξης.
Οι Acemoglu και Johnson επικαλούνται αρκετές φορές τον Wiener στο βιβλίο τους. Αυτό που θέλουμε από τις μηχανές δεν είναι μια άμορφη έννοια νοημοσύνης ή δυνατότητες υψηλού επιπέδου, αλλά η χρήση τους για τον άνθρωπο, λέει. Την ανάγκη αυτή συνόψισε εύστοχα η συγγραφέας επιστημονικής φαντασίας Joanna Maciejewska σε μία ανάρτησή στο X. «Θέλω η τεχνητή νοημοσύνη να μου πλένει τα ρούχα και τα πιάτα για να μπορώ να ζωγραφίζω και να γράφω, όχι η τεχνητή νοημοσύνη να ζωγραφίζει και να γράφει και εγώ να πλένω τα ρούχα και τα πιάτα μου».
Κατά τους δύο συγγραφείς του “Power and Progress”, σήμερα κυριαρχεί μία προσέγγιση που θεωρεί μονόδρομο την αποθέωση του αυτοματισμού και τη διαρκή συλλογή δεδομένων με τη χρήση της τεχνητής νοημοσύνης. Αυτό που συμβαίνει σήμερα είναι στην πραγματικότητα μια δαπανηρή επιλογή, όχι μόνο επειδή ακολουθεί τη στάση των ελίτ προς την αυτοματοποίηση και την επιτήρηση (σ.σ. ο συγγραφέας αναφέρεται μεταξύ άλλων στην αξιοποίηση της ψηφιακής τεχνολογίας από την κινεζική κυβέρνηση για τη στενή επιτήρηση των πολιτών της χώρας), βλάπτοντας την οικονομική ευημερία των εργαζομένων. Η έμφαση προς τους αυτοματισμούς, την ψηφιακή τεχνολογία, τη συγκέντρωση δεδομένων και την προώθηση προϊόντων και υπηρεσιών μέσω του διαδικτύου, δεν αφήνει την ερευνητική προσπάθεια να αναζητήσει άλλες, περισσότερο ωφέλιμες κατευθύνσεις για τους ανθρώπους.
Είναι πολύ δύσκολο να φανταστούμε μία άλλη κατεύθυνση όταν από την πορεία της μετοχής της Nvidia εξαρτώνται οι συντάξεις χιλιάδων ανθρώπων στις Ηνωμένες Πολιτείες ή τη Νορβηγία. Γενικότερα είναι δύσκολο να φανταστούμε μία άλλη πορεία όταν όλες οι τεχνολογικές επιδόσεις καταλήγουν τελικά στο πώς μεταφράζονται σε έσοδα και κέρδη. Ωστόσο, ο Acemoglu κλείνει το μάτι λέγοντας ότι είναι σφάλμα να αντιμετωπίζουμε την Ιστορία ως γραμμική πορεία γεγονότων που ήταν μοιραίο να συμβούν. Ενδεχομένως, ένας άλλος δρόμος να είναι εφικτός, χωρίς αυτό να σημαίνει απαραιτήτως ότι θα είναι καλύτερος από αυτόν στον οποίο κινούμαστε σήμερα.
