Say Not “Complexity”
29.08.2007 © Eliezer Yudkowsky |
Μια φορά κι έναν καιρό…
Αυτή η ιστορία είναι από τότε που πρωτογνώρισα τον Μαρτσέλο, με τον οποίο θα εργαζόμουνα μετά για ένα έτος πάνω στη Θεωρία Τεχνητής Νοημοσύνης (ΤΝ). Αλλά εκείνη την περίοδο δεν τον είχα κάνει δεκτό ακόμη ως μαθητή μου. Ήξερα πως είχε πάρει μέρος στις εθνικές ολυμπιάδες μαθηματικών και πληροφορικής, το οποίο αρκούσε για να μου τραβήξει την προσοχή, αλλά δεν ήξερα ακόμη αν θα ήταν σε θέση να μάθει να σκέφτεται κατάλληλα για την έρευνα στην ΤΝ.
Τον είχα ρωτήσει να μου πει πώς νόμιζε πως μια ΤΝ θα έλευνε τον Κύβο του Ρούμπικ. Δεν εννοώ προγραμματιστικά, το οποίο είναι γελοιωδώς απλό, αλλά πώς θα ανακάλυπτε μια ΤΝ από μόνη της τους νόμους στο σύμπαν του Ρούμπικ και πώς να τους χρησιμοποιήσει. Πώς θα ανακάλυπτε μόνη της μια ΤΝ τις έννοιες “πρόσημο” ή “μακροεντολή”, που είναι απαραίτητες για τη λύση του Κύβου του Ρούμπικ;
Κάποια στιγμή κατά τη διάρκεια της συζήτησης ο Μαρτσέλο είπε: “Λοιπόν, νομίζω πως η ΤΝ χρειάζεται πολυπλοκότητα για να κάνει το Χ και πολυπλοκότητα για να κάνει το Ψ…”
Και εγώ του είπα: “Μην λες ‘πολυπλοκότητα’.”
Ο Μαρτσέλο είπε: “Γιατί όχι;”
Είπα: “Η πολυπλοκότητα δεν πρέπει ποτέ να είναι αυτοσκοπός. Μπορεί να χρειάζεται να εφαρμόσεις ένα αλγόριθμο που προσθέτει πολυπλοκότητα, αλλά η πολυπλοκότητα για χάρη της πολυπλοκότητας απλά κάνει τα πράγματα ακόμα πιο δύσκολα”. (Σκεφτόμουν όλα εκείνα τα άτομα που έχω ακούσει να λένε πως το ίντερνετ θα “ξυπνήσει” και θα γίνει ΤΝ μόλις γίνει “επαρκώς πολύπλοκο”).
Και ο Μαρτσέλο είπε: “Μα πρέπει να υπάρχει κάποιο επίπεδο πολυπλοκότητας που απαιτείται.”
Έκλεισα τα μάτια μου για λίγο και προσπάθησα να σκεφτώ πως να το εξηγήσω με λέξεις. Για μένα το να λες “πολυπλοκότητα” απλά το “ένιωθα” ως λάθος βήμα στο χορό της ΤΝ. Κανείς δεν μπορεί να σκεφτεί αρκετά γρήγορα για να αναλύσει με λόγια κάθε πρόταση στη ροή της συνείδησής του· αυτό θα απαιτούσε άπειρη δυνατότητα αναδρομής. Σκεφτόμαστε με λέξεις, αλλά η ροή της συνείδησής μας καθοδηγείται κάτω από το επίπεδο των λέξεων από τα κατάλοιπα των παλιών μας ιδεών και της σκληρής εμπειρίας…
Είπα: “Έχεις διαβάσει το “Μια Περίπλοκη Εξήγηση μιας Περίπλοκης Εξήγησης”;?”
“Ναι”, είπε ο Μαρτσέλο.
“Εντάξει,” είπα, “το να λες ‘πολυπλοκότητα’ δεν πυκνώνει τη μάζα πιθανοτήτων”.
“Α,” είπε ο Μαρτσέλο, “είναι σαν την ‘ανάδυση’. Χμμ. Οπότε… τώρα πρέπει να σκεφτώ πώς θα συμβεί στην πράξη το Χ…”
Τότε σκέφτηκα: “Ίσως αυτός επιδέχεται μαθήσεως.“
Η πολυπλοκότητα δεν είναι άχρηστη έννοια. Συνδέεται με μαθηματικούς ορισμούς, όπως η Πολυπλοκότητα Κολμογκόροφ και η Πολυπλοκότητα Βάπνικ-Τσερβονένκις. Ακόμα και σε διαισθητικό επίπεδο η πολυπλοκότητα είναι χρήσιμη, όταν πρέπει να αξιολογήσεις την πολυπλοκότητα μιας υπόθεσης και να αποφασίσεις αν “παραείναι περίπλοκη” δεδομένων των αποδείξεων ή όταν κοιτάξεις ένα σχέδιο και θες να δοκιμάσεις να το απλοποιήσεις.
Αλλά οι έννοιες δεν είναι χρήσιμες ή άχρηστες από μόνες τους. Μόνο οι χρήσεις τους είναι σωστές ή λανθασμένες. Στο βήμα που πήγαινε να κάνει ο Μαρτσέλο στο χορό ήθελε να εξηγήσει κάτι τζάμπα. Είναι πολύ σύνηθες σφάλμα, τουλάχιστον στον κλάδο μου. Μπορεί να αρχίσεις μια κουβέντα για Τεχνητή Γενική Νοημοσύνη και να δεις κόσμο να κάνει το ίδιο δεξιά και αριστερά, ξανά και ξανά, διαρκώς υπερπηδώντας πράγματα που δεν κατανοούν, χωρίς καν να καταλαβαίνουν ότι το κάνουν.
Συμβαίνει εν ριπή οφθαλμού: βάζοντας έναν μη ελέγξιμο αιτιακό κόμβο πίσω από κάτι μυστηριώδες, έναν αιτιακό κόμβο που μοιάζει με εξήγηση αλλά δεν είναι. Το σφάλμα συντελείται κάτω από το επίπεδο των λέξεων. Δεν χρειάζεται κάποιο ιδιαίτερο κουσούρι για να το κάνεις· έτσι σκέφτονται οι άνθρωποι εκ φύσεως, από τα αρχαία χρόνια.
Αυτό που πρέπει να αποφύγεις είναι το να υπερπηδήσεις το μυστηριώδες τμήμα· πρέπει να παραμείνεις στο μυστήριο και να το αντιμετωπίσεις κατά μέτωπο. Υπάρχουν πολλές λέξεις που μπορούν να χρησιμοποιηθούν για να υπερπηδήσεις μυστήρια και μερικά θα μπορούσε να είναι και έγκυρες σε άλλες περιπτώσεις, όπως η “πολυπλοκότητα” για παράδειγμα. Αλλά το σημαντικό λάθος είναι αυτή η υπερπήδηση, ασχέτως τι αιτιακός κόμβος μπαίνει από πίσω. Η υπερπήδηση δεν είναι σκέψη, αλλά μικρο-σκέψη. Πρέπει να έχει το νου σου για να πιάσεις τον εαυτό σου να κάνει το λάθος. Και όταν εκπαιδεύσεις τον εαυτό σου να το αποφεύγει, θα γίνεται ενστικτωδώς πλέον και όχι ως συνειδητή σκέψη. Πρέπει να νιώθεις ποια μέρη του χάρτη σου είναι ακόμη κενά και, πιο σημαντικό, να δίνεις σημασία στο συναίσθημα αυτό.
Υποπτεύομαι πως στους πανεπιστημιακούς κύκλους υπάρχει μεγάλη πίεση να αγνοείς προβλήματα, ώστε να μπορείς να παρουσιάσεις μια μελέτη που να μοιάζει πλήρης. Δέχεσαι περισσότερα συγχαρητήρια για ένα φαινομενικά πλήρες μοντέλο που περιέχει κάποιο “αναδυόμενο φαινόμενο”, παρά έναν φανερά ατελή χάρτη με μια λεζάντα που λεέι “δεν έχω ιδέα πως συμβαίνει αυτό” ή “και τότε συμβαίνει ένα θαύμα”. Ένα περιοδικό μπορεί να μην κάνει καν δεκτή μια τέτοια μελέτη, μιας και ποιος ξέρει αν το ενδιαφέρον σημείο συμβαίνει στα άγνωστα βήματα; Και ναι, μερικές φορές συμβαίνει όλα τα μη-μαγικά μέρη του χάρτη σου να είναι και αδιάφορα. Αυτό είναι το τίμημα που πρέπει να πληρώσεις όταν μπαίνει σε terra incognita και αρχίζεις να λύνεις προβλήματα σταδιακά. Αλλά είναι ακόμα πιο σημαντικό να ξέρεις όταν έχεις ακόμη κι άλλη δουλειά. Οι περισσότεροι άνθρωποι ούτε καν τολμάνε να μπούνε στην terra incognita, επειδή φοβούνται θανατερά μην πάει τζάμπα ο χρόνος τους.
Και αν εργάζεσαι σε μια επαναστατική νεοσύστατη εταιρεία ΤΝ, υπάρχει ακόμη μεγαλύτερη πίεση να αποκρύψεις προβλήματα· αλλιώς θα πρέπει να συμβιβαστείς με την ιδέα πως δεν ξέρεις ακόμα πώς να κατασκευάσεις μια ΤΝ και όλη σου η ζωή θα καταρρεύσει σαν χάρτινος πύργος. Ίσως να τα παραεξηγώ, μιας και η υπερπήδηση συμβαίνει εκ φύσεως στους ανθρώπους· αν ψάχνεις παραδείγματα, απλά κοίτα τους ανθρώπους να συζητάνε για τη θρσκεία ή τη φιλοσοφία ή την πνευματικότητα ή οποιαδήποτε επιστήμη στην οποία δεν έχουν εντρυφήσει.
Εγώ και ο Μαρτσέλο καταλήξαμε σε μια σύμβαση κατά τη διάρκεια της δουλειάς μας με την ΤΝ: όταν φτάναμε σε κάτι που δεν καταλαβαίναμε, συχνά λέγαμε “μαγεία”, για παράδειγμα “Το Χ κάνει με μαγικό τρόπο το Ψ”, ώστε να θυμόμαστε πως εκεί υπήρχε ένα άλυτο πρόβλημα, ένα κενό στην κατανόησή μας. Καλύτερο το “μαγεία” παρά το “πολυπλοκότητα” και “ανάδυση”. Οι λέξεις αυτές δημιουργούν την ψευδαίσθηση της κατανόησης. Πιο σώφρον είναι να λες “μαγεία” και να θυμάσαι ότι εκείνο το σημείο αργότερα θα πρέπει να το δουλέψεις περισσότερο.
Τα σχόλιά σας είναι ευπρόσδεκτα / Your comments are welcome