Η τεχνητή νοημοσύνη είναι ένας ψηφιακός παπαγάλος

Artificial Intelligence

Παγίδες λέξεων, ψευδής λογική και ψευδαίσθηση ευφυΐας.

By Charles Hugh Smith
January 31, 2025

Οι λεκτικές παγίδες και η ψευδής λογική δεν οδηγούν σε κυριαρχία του μέλλοντος ή μονοπωλιακές λαβές σε απεριόριστα κέρδη.

Η καρδιά των σημερινών ευφορικών προσδοκιών για την τεχνητή νοημοσύνη είναι μια απλή αλλά προβληματική πρόταση: η ομοιότητα της λειτουργίας ισούται με τη νοημοσύνη . Εάν η χρήση φυσικής γλώσσας απαιτεί νοημοσύνη και ένας υπολογιστής μπορεί να χρησιμοποιήσει φυσική γλώσσα, τότε είναι έξυπνος. Εάν χρειάζεται ευφυΐα για να συνθέσετε ένα δοκίμιο για τον Κάρολο Δαρβίνο και ένα πρόγραμμα τεχνητής νοημοσύνης μπορεί να συνθέσει ένα δοκίμιο για τον Κάρολο Δαρβίνο, τότε το πρόγραμμα τεχνητής νοημοσύνης είναι έξυπνο.

Το πρόβλημα εδώ είναι ότι αυτό το “η ομοιότητα είναι απόδειξη ευφυΐας” είναι συνάρτηση λέξεων-παγίδων και ψευδούς λογικής, όχι πραγματικής ομοιότητας. Αυτό που ισχυρίζεται ότι είναι ισοδύναμο δεν είναι καθόλου ισοδύναμο. Με άλλα λόγια, η πηγή της σύγχυσης είναι το πώς επιλέγουμε να ορίσουμε την «νοημοσύνη», η οποία είναι από μόνη της μια λεκτική παγίδα του είδους που ο φιλόσοφος Ludwig Wittgenstein προσπάθησε να επιλύσει χρησιμοποιώντας τη λογική και προτάσεις που μοιάζουν με γρίφο.

Φανταστείτε για μια στιγμή ότι είχαμε είκοσι λέξεις για να περιγράψουμε όλα τα χαρακτηριστικά αυτού που συνοψίζουμε ως «ευφυΐα». Στη συνέχεια, θα αναλύαμε τα χαρακτηριστικά και τα αποτελέσματα των προγραμμάτων Τεχνητής Νοημοσύνης με ένα πολύ μεγαλύτερο σύνολο συγκρίσεων.

Η έννοια της ισοδυναμίας πηγαίνει πολύ πίσω. Καθώς η επιστήμη ανέπτυξε μοντέλα για το πώς λειτουργούσε η Φύση, η ιδέα ότι η Φύση ήταν παρόμοια με έναν μηχανισμό όπως ένα ρολόι έγινε κοινή γνώμη.

Οι ανακαλύψεις της σχετικότητας και των κβαντικών επιδράσεων έκαναν κομμάτια αυτό το μοντέλο, καθώς η Φύση αποδείχθηκε ένα πολύ περίεργο ρολόι, σε σημείο που το μοντέλο «Η φύση ως μηχανισμός» εγκαταλείφθηκε ως ανεπαρκές.

Δεν έχουμε φτάσει ακόμη στα όρια του μοντέλου «η ισοδυναμία είναι απόδειξη ευφυΐας», το οποίο είναι τόσο ξεπερασμένο και παράλογο όσο το μοντέλο «το σύμπαν είναι ένας μηχανισμός». Συνεχίζουμε να βρίσκουμε νέα παραδείγματα ισοδυναμίας για να υποστηρίξουμε την ιδέα ότι ένα πρόγραμμα υπολογιστή που εκτελεί οδηγίες είναι “έξυπνο” διότι μπορεί να εκτελέσει εργασίες που συνδέουμε με “νοημοσύνη”, επειδή είμαστε ενσωματωμένοι σε μια μηχανιστική αντίληψη της ολότητας της Φύσης — συμπεριλαμβανομένου του εαυτού μας.

Έτσι, υπάρχει μεγάλος ενθουσιασμός όταν ένα πρόγραμμα τεχνητής νοημοσύνης εμφανίζει “αναδυόμενες ιδιότητες”, που σημαίνει ότι αναπτύσσει συμπεριφορές / διαδικασίες που δεν είχαν προγραμματιστεί ρητά. Αυτό στη συνέχεια διαφημίζεται ως «ισοδυναμία που αποδεικνύει νοημοσύνη»: αυτή η «ικανότητα να δημιουργείς κάτι νέο» είναι απόδειξη ευφυΐας.

Αλλά η Φύση είναι γεμάτη από αναδυόμενες ιδιότητες που κανείς δεν τις θεωρεί «απόδειξη ευφυΐας». Οι αποικίες μυρμηγκιών παράγουν κάθε είδους αναδυόμενες ιδιότητες, αλλά κανείς δεν ισχυρίζεται ότι οι αποικίες μυρμηγκιών έχουν νοημοσύνη σε επίπεδο ανθρώπου και είναι έτοιμες να κατακτήσουν τον κόσμο.

Η τεχνητή νοημοσύνη προγραμματίζει περιεχόμενο παπαγάλου και τεχνικές που δημιουργούνται από ανθρώπους. Δεδομένου ότι χρησιμοποιούν φυσική γλώσσα, ξεγελιόμαστε από την ισοδυναμία στη σκέψη, “Ελάτε τώρα, το πρόγραμμα είναι τόσο έξυπνο όσο εμείς, γιατί μόνο εμείς χρησιμοποιούμε φυσική γλώσσα.”

Η ίδια εννοιολογική παγίδα ανοίγει σε κάθε υποτιθέμενη ισοδυναμία. Εάν ένα πρόγραμμα τεχνητής νοημοσύνης μπορεί να βρει την απάντηση σε ένα περίπλοκο πρόβλημα όπως «πώς διπλώνουν οι πρωτεΐνες;» και το κάνει πολύ πιο γρήγορα από ό,τι μπορούμε, προβάλλουμε αμέσως αυτήν την υποτιθέμενη ισοδυναμία σε «υπερ-νοημοσύνη».

Το πρόβλημα είναι ότι το πρόγραμμα τεχνητής νοημοσύνης απλώς παπαγαλίζει τεχνικές που δημιουργούνται από ανθρώπους και τις προεκβάλλει σε κλίμακα. Το πρόγραμμα δεν «καταλαβαίνει» τις πρωτεΐνες, τις λειτουργίες τους στη Φύση ή στο σώμα μας, ή οτιδήποτε άλλο σχετικά με τις πρωτεΐνες που κατανοούν οι άνθρωποι.

Το να ορίζουμε οτιδήποτε με ισοδυναμία είναι ψευδής λογική, μια λανθασμένη λογική στην οποία πέφτουμε τόσο εύκολα γιατί οι λέξεις είναι παγίδες που δεν τις αναγνωρίζουμε καν ως παγίδες.

Ο Wittgenstein κατέληξε στο συμπέρασμα ότι όλα τα προβλήματα όπως “είναι η τεχνητή νοημοσύνη ευφυής;” βασίστηκαν στη γλώσσα, όχι στον πραγματικό κόσμο. Μόλις παγιδευτούμε στη γλώσσα και στους σιωπηρούς τρόπους και περιορισμούς της, χάνουμε το δρόμο μας. Αυτή η αλήθεια αποκαλύπτεται από λέξεις που δεν έχουν άμεσο αντίστοιχο σε άλλες γλώσσες.

Ένα παράδειγμα αυτού είναι η ιαπωνική λέξη aware (a-waar-re), η οποία έχει μια σειρά από λεπτές έννοιες χωρίς αντίστοιχη στα αγγλικά: μια γλυκιά θλίψη στο πέρασμα του χρόνου, μια συγκεκριμένη γεύση οδυνηρής νοσταλγίας και επίγνωση του χρόνου. Αυτή η λέξη είναι το κλειδί για την κατανόηση της ιαπωνικής κουλτούρας, και παρόλα αυτά δεν υπάρχει αντίστοιχη λέξη στα Αγγλικά, είτε σε νόημα είτε σε πολιτιστική κεντρική θέση.

Με άλλα λόγια – τι θα συμβεί αν δεν υπάρχει ισοδύναμο, και η υποτιθέμενη ισοδυναμία δεν είναι τίποτα άλλο από μια σύγχυση που προκαλείται από παγίδες λέξεων και ψευδή λογική; Ολόκληρη η υπόθεση ότι μπορούμε να μοντελοποιήσουμε την ανθρώπινη νοημοσύνη με μηχανιστικές ισοδυναμίες (η ευφυΐα είναι ένας μηχανισμός) καταρρέει, μαζί με τις προβολές της «υπερ-νοημοσύνης».

Ο πειρασμός να συνεχίσουμε να προσπαθούμε να εξισώνουμε την «ευφυΐα» και τα προγράμματα με τη μηχανιστική ισοδυναμία είναι επιτακτικός επειδή είμαστε τόσο ενσωματωμένοι στο μηχανιστικό μοντέλο που δεν συνειδητοποιούμε καν ότι είναι μια μαύρη τρύπα ψευδούς λογικής που έχει μόνο ένα δυνατό αποτέλεσμα: ανούσιους ισχυρισμούς της «νοημοσύνης» που βασίζονται σε κάποια παράλογα αναγωγική ισοδυναμία.

Ο πειρασμός σε αυτή τη μηχανιστική εννοιολογική παγίδα είναι να υπολογίσουμε ότι αν ορίσουμε μόνο τις λέξεις μας πιο προσεκτικά, τότε θα είμαστε σε θέση να «αποδείξουμε ότι η ισοδυναμία είναι πραγματική». Και αυτό είναι ψευδές. Ο Wittgenstein, που τελικά απομακρύνθηκε από το μοντέλο της ανακρίβειας της γλώσσας, είναι η πηγή όλων των πνευματικών μας προβλημάτων. Δεν είναι τόσο απλό: Οι ακριβέστεροι ορισμοί δημιουργούν μόνο πιο περίπλοκους ισχυρισμούς για ψευδείς ισοδυναμίες.

Το βιβλίο Ο μύθος της τεχνητής νοημοσύνης: Γιατί οι υπολογιστές δεν μπορούν να σκεφτούν με τον τρόπο που σκεπτόμαστε εμείς (μέσω BJ) εκθέτει τις ψευδείς νοητικές υποθέσεις που συγκρατούν ολόκληρο το οικοδόμημα της τεχνητής νοημοσύνης.

Το κλασικό του Michael Polanyi Personal Knowledge: Towards a Post-Critical Philosophy εξηγεί ότι η γνώση είναι μια τέχνη, μια πραγματικότητα που εξερευνήθηκε από τον Donald Schon στο The Reflective Practitioner: How Professionals Think In Action .

Η πραγματικότητα είναι ότι η τέχνη της γνώσης δεν μπορεί να περιοριστεί σε προγραμματιζόμενα ισοδύναμα, καθώς δεν υπάρχουν προγραμματιζόμενα ισοδύναμα. Η σύγκριση των αποδόσεων (μηχανιστική ισοδυναμία ) δεν αποδεικνύει τίποτα για τη φύση των συστημάτων που παράγουν την έξοδο. Αυτό είναι ένα άλμα πίστης, ή ίσως ακριβέστερα, ένα άλμα ύβρεως: είμαστε θεοί που έχουμε δημιουργήσει μια μηχανή κατ’ εικόνα μας.

Αυτό μπορεί ίσως να γίνει καλύτερα κατανοητό διαβάζοντας το The Unknown Craftsman: A Japanese Insight into Beauty, το οποίο θα διευκρινίσει την ανακρίβεια στη μηχανιστική ισοδυναμία: εάν ένα πρόγραμμα τεχνητής νοημοσύνης και η ρομποτική μπορούν να αναπαράγουν ένα ακριβές αντίγραφο μιας χειροποίητης κατσαρόλας κατασκευασμένης από τεχνίτη, δεν συνεπάγεται ότι το πρόγραμμα “γνωρίζει” αυτό που γνωρίζει ο τεχνίτης ή είναι με οποιονδήποτε τρόπο σχήμα ή μορφή του ισοδύναμο του τεχνίτη.

Η ύβρις, οι ψευδαισθήσεις της ακρίβειας και της μηχανιστικής ισοδυναμίας και η ψευδής λογική είναι ο μη αναγνωρισμένος αέρας που κρατά ψηλά τον μύθο της τεχνητής νοημοσύνης. Κανείς δεν ισχυρίζεται ότι ένας παπαγάλος που επαναλαμβάνει μια ανθρώπινη φράση – ή δημιουργεί μια νέα φράση από τα κομμάτια του ανθρωπογενούς περιεχομένου – είναι γι’ αυτό τόσο “έξυπνος” όσο ένας άνθρωπος. Αλλά όταν προγραμματίζουμε έναν μηχανισμό για να κατακερματίσει το ανθρωπογενές περιεχόμενο, τότε το δηλώνουμε όχι απλώς “έξυπνο” αλλά καθ’ οδόν προς την “υπερ-νοημοσύνη”.

Και για ποιο λόγο, εκτός από αποτιμήσεις για επιχειρήσεις τεχνητής νοημοσύνης στην περιοχή των 300 δισεκατομμυρίων δολαρίων και άνω; Μέχρι πολύ πρόσφατα, το ζητούμενο ήταν να κλειδωθούν οι μονοπωλιακές δυνάμεις της Big Tech ακόμη πιο ασφαλώς, μέσω της υπολογιστικής ισχύος ωμής βίας, και να υποστηριχθεί κάποια εκδοχή της εθνικής κυριαρχίας του μέλλοντος.

Οι λεκτικές παγίδες και η ψευδής λογική δεν οδηγούν σε κυριαρχία του μέλλοντος ή μονοπωλιακές λαβές σε απεριόριστα κέρδη. Όλο αυτή η σύγχυση θα μας φέρει μόνο σε μπελάδες.

Έχω εξερευνήσει τις παγίδες και τους περιορισμούς της τεχνητής νοημοσύνης στα βιβλία μου The Mythology of Progress (2024) και Will You Be Picher or Poorer?: Profit, Power, and AI in a Traumatized World (2019).

Ακολουθούν δύο αναφορές μακροχρόνιων συζητήσεων σχετικά με τη μηχανιστική ισοδυναμία , την ευφυΐα και την τεχνητή νοημοσύνη: Chinese room, Stochastic parrot.

New podcasts:

This is a wide-ranging discussion of DeepSeek with Adam Taggart of Thoughtful Money: SPECIAL REPORT: Did China’s DeepSeek Just Pop The AI Stock Bubble? (56 minutes)

CHS on Geopolitics and Empire: Anti-Progress, Resource Constraints, & Digital Neofeudalism (1:29 hrs)

KunstlerCast417: Charles Hugh Smith, Progress and Anti-Progress (1 hour)

Charles Hugh Smith on the Extremes in the U.S. Economy and Markets. (26 min)
—————————-

My recent books:

Disclosure: As an Amazon Associate I earn from qualifying purchases originated via links to Amazon products on this site.

The Mythology of Progress, Anti-Progress and a Mythology for the 21st Century print $18, (Kindle $8.95, Hardcover $24 (215 pages, 2024) Read the Introduction and first chapter for free (PDF)

Self-Reliance in the 21st Century print $18, (Kindle $8.95, audiobook $13.08 (96 pages, 2022) Read the first chapter for free (PDF)

The Asian Heroine Who Seduced Me (Novel) print $10.95, Kindle $6.95 Read an excerpt for free (PDF)

When You Can’t Go On: Burnout, Reckoning and Renewal $18 print, $8.95 Kindle ebook; audiobook Read the first section for free (PDF)

Global Crisis, National Renewal: A (Revolutionary) Grand Strategy for the United States (Kindle $9.95, print $24, audiobook) Read Chapter One for free (PDF).