|
Fake Causality
23.08.2007 © Eliezer Yudkowsky |
Το φλογιστό ήταν η απάντηση του 18ου αιώνα στο Στοιχειακό Πυρ των Αρχαίων Ελλήνων αλχημιστών. Βάζεις φωτιά σε ένα ξύλο και το αφήνεις να καεί. Τι είναι αυτή η φωτεινή πορτοκαλιά “πύρινη” ουσία; Γιατί το ξύλο μεταμορφώνεται σε στάχτη; Και στις δύο ερωτήσεις οι χημικοί του 18ου αιώνα απαντούσαν “φλογιστό”.
…και αυτή ήταν, βλέπεις, η απάντησή τους: “Φλογιστό”.
Το φλογιστό απελευθερωνόταν από καιόμενες ουσίες ως ορατή φωτιά. Καθώς το φλογιστό απελευθερωνόταν, οι καιόμενες ουσίες έχαναν φλογιστό και μετατρέπονταν σε στάχτη, το “πραγματικό υλικό”. Οι φλόγες σε κλειστά δοχεία έσβηναν επειδή ο αέρας κορεζόταν με φλογιστό, οπότε δεν μπορούσε να κρατήσει περισσότερο. Το κάρβουνο άφηνε ελάχιστα υπολείμματα με την καύση του επειδή ήταν σχεδόν καθαρό φλογιστό.
Φυσικά, κανείς δεν χρησιμοποιούσε τη θεωρία του φλογιστού για να προβλέψει το αποτέλεσμα των χημικών μετουσιώσεων. Έβλεπες το αποτέλεσμα και μετά χρησιμοποιούσες τη θεωρία του φλογιστού για το εξηγήσεις. Δεν είναι ότι οι υποστηρικτές του φλογιστού προέβλεπαν ότι η φλόγα θα έσβηνε σε κλειστό δοχείο· άναβαν μια φωτιά σε ένα δοχείο, την έβλεπαν να σβήνει και έλεγαν “Ο αέρας πρέπει να κορέζεται σε φλογιστό”. Δεν μπορούσες να χρησιμοποιήσεις τη θεωρία του φλογιστού ούτε για να πεις τι δεν θα έπρεπε να παρατηρήσεις· μπορούσε να εξηγήσει τα πάντα.
Αυτή ήταν μια παλιότερη εποχή επιστήμης. Για μεγάλο διάστημα κανείς δεν είχε πάρει χαμπάρι ότι υπήρχε πρόβλημα. Οι ψεύτικες εξηγήσεις δεν μοιάζουν ψεύτικες. Αυτό τις κάνει επικίνδυνες.
Η σύγχρονη έρευνα δείχνει πως οι άνθρωποι σκέφτονται για τα αίτια και τα αιτιατά χρησιμοποιώντας κάτι αντίστοιχο με τα κατευθυνόμενα ακυκλικά γραφήματα δικτύων Μπέυζ. Επειδή έβρεξε, το πεζοδρόμιο είναι βρεγμένο· επειδή το πεζοδρόμιο είναι βρεγμένο, γλιστράει:
[Βροχή] → [Πεζοδρόμιο Βρεγμένο] → [Πεζοδρόμιο γλιστερό]
Από αυτό μπορούμε να συμπεράνουμε -ή σε ένα δίκτυο να υπολογίσουμε με ακρίβεια τις πιθανότητες- ότι όταν ένα πεζοδρόμιο γλιστράει, πιθανώς έβρεξε· αλλά αν ξέρουμε ήδη ότι το πεζοδρόμιο είναι βρεγμένο, το να μάθουμε ότι γλιστράει δεν μας λέει κάτι για το αν έβρεξε ή όχι.
Γιατί η φωτιά είναι καυτή και φωτεινή όταν καίει;
[“Φλογιστό”] → [Φωτιά καυτή και φωτεινή]
Μοιάζει με εξήγηση. Αναπαρίσταται με την ίδια μορφή νοητικών δεδομένων. Αλλά το ανθρώπινο μυαλό δεν μπορεί να ανιχνεύσει αυτόματα πότε μια αιτία έχει ανεμπόδιστο βέλος προς το αποτέλεσμά της. Ακόμα χειρότερα, λόγω της εκ των υστέρων πλάνης, μπορεί να μοιάζει ότι η αιτία περιορίζει το αποτέλεσμα, όταν απλά προσαρμόστηκε στο αποτέλεσμα.
Είναι ενδιαφέρον ότι η σύγχρονη κατανόησή μας του πιθανολογικού λογισμού περί αιτιότητας μας επιτρέπει να δούμε ακριβώς τι λάθος έκαναν οι θεωρητικοί του φλογιστού. Ένας από τους λόγους που οδήγησαν στην δημιουργία των δικτύων Μπέυζ ήταν το πρόβλημα του να μετράει κανείς ένα στοιχείο διπλά, αν υπάρχει συσχετισμός μεταξύ αιτίου και αιτιατού. Για παράδειγμα, ας πούμε ότι έμαθα μια αναξιόπιστη πληροφορία ότι το πεζοδρόμιο είναι βρεγμένο. Αυτό με κάνει να σκεφτώ ότι είναι πιο πιθανό να βρέχει. Αλλά αν είναι πιο πιθανό να βρέχει, αυτό δεν καθιστά πιο πιθανό το πεζοδρόμιο να είναι βρεγμένο; Και αυτό δεν θα καθιστούσε ακόμα πιο πιθανό το πεζοδρόμιο να γλιστράει; Αλλά αν το πεζοδρόμιο γλιστράει, τότε είναι μάλλον βρεγμένο· οπότε θα πρέπει να αυξήσω και πάλι την πιθανότητα να βρέχει…
Η Judea Pearl χρησιμοποιεί μια ιστορία με έναν αλγόριθμο για τη μέτρηση στρατιωτών σε ένα στίχο. Υπέθεσε ότι βρίσκεσαι στη σειρά και βλέπεις δύο στρατιώτες, έναν μπροστά σου και έναν πίσω σου. Σύνολο τρεις. Οπότε ρωτάς τον μπροστινό σου “Πόσους στρατιώτες βλέπεις εσύ;” και σου λέει “Τρεις”. Σύνολο έξι. Αυτή προφανώς είναι λάθος μέθοδος.
Ένας ποιο έξυπνος τρόπος είναι να ρωτήσεις το μπροστινό σου “Πόσοι στρατιώτες είναι μπροστά σου;” και τον πίσω σου “Πόσοι στρατιώτες είναι πίσω σου;” Η ερώτηση “Πόσοι στρατιώτες μπροστά σου;” μπορεί να μεταδοθεί ως μήνυμα χωρίς σύγχυση. Αν είμαι στην αρχή της σειράς, λέω “1 στρατιώτης μπροστά” για μένα και ο από πίσω μου θα πει “2 στρατιώτες μπροστά” στον πισινό του. Ταυτόχρονα κάθε στρατιώτης δέχεται το μήνυμα “Ν στρατιώτες πίσω” από τους πισινούς του και το μεταδίδει ως “Ν+1 στρατιώτες πίσω” μπροστά. Πόσοι στρατιώτες σύνολο; Προσθέτεις τα δύο νούμερα, συν ένα για τον εαυτό σου: αυτός είναι ο συνολικός αριθμός στρατιωτών στη σειρά.
Η κεντρική ιδέα είναι ότι κάθε στρατιώτης πρέπει να κρατάει λογαριασμό δύο διαφορετικών μηνυμάτων, το μπροστινό και το πίσω και να τα προσθέτει μόνο στο τέλος. Ποτέ δεν προσθέτεις τα νούμερα από το μπροστινό μήνυμα σ’αυτό που μεταδίδεις πίσω. Πράγματι, ο συνολικός αριθμός των στρατιωτών ποτέ δεν μεταδίδεται ως μήνυμα -κανείς δεν το λέει φωναχτά.
Μια ανάλογη αρχή υπάρχει και στον αυστηρό πιθανολογικό λογισμό περί αιτιότητας. Αν μάθεις κάτι για το αν βρέχει από πηγή εκτός του να παρατηρήσεις το βρεγμένο πεζοδρόμιο, αυτό θα στείλει ένα σήμα μπροστά από τη [βροχή] στο [πεζοδρόμιο βρεγμένο] και θα αυξήσει την αναμονή μας ότι το πεζοδρόμιο είναι βρεγμένο. Αν δεις ότι το πεζοδρόμιο είναι βρεγμένο, αυτό θα στείλει ένα μήνυμα προς τα πίσω στην πεποίθηση ότι βρέχει και θα μεταδοθεί σε όλους τους γειτονικούς κόμβους εκτός από τον κόμβο [πεζοδρόμιο βρεγμένο]. Κάθε στοιχείο μετράει μία φορά. Το ανανεωμένο μήνυμα δεν “αναπηδά” μπρος-πίσω. Ο ακριβής αλγόριθμος υπάρχει στο κλασσικό βιβλίο της Judea Pearl “Πιθανολογικός Λογισμός σε Ευφυή Συστήματα: Δίκτυα Εύλογης Συνεπαγωγής”.
Τι πήγε λοιπόν στραβά με τη θεωρία του φλογιστού; Όταν παρατηρούμε ότι η φωτιά κάει, ο κόμβος [φωτιά] στέλνει μήνυμα προς τα πίσω στον κόμβο [φλογιστό] και με αυτό ανανεώνουμε τις πεποιθήσεις μας για το φλογιστό. Αλλά τότε δεν μπορούμε να το μετρήσουμε αυτό ως πρόβλεψη της θεωρίας του φλογιστού. Το μήνυμα πρέπει να πάει προς μία κατεύθυνση και να μην αναπηδά πίσω.
Δυστυχώς όμως τα ανθρώπινα όντα δεν χρησιμοποιούν αυστηρούς αλγόριθμους για να ανανεώνουν δίκτυα πεποιθήσεων. Μαθαίνουν για τους κόμβους-γονείς παρατηρώντας τα παιδιά και προβλέπουμε κόμβους-παιδιά από πεποιθήσεις για τους γονείς. Αλλά δεν κρατάμε χωριστά βιβλία για τα μηνύματα προς τα μπρος και προς τα πίσω. Απλά θυμόμαστε ότι το φλογιστό είναι καυτό και αυτό προκαλεί τη θερμότητα της φωτιάς. Οπότε μοιάζει λες και η θεωρία του φλογιστού προβλέπει τη θερμότητα της φωτιάς. Ή ακόμα χειρότερα, μοιάζει λες και το φλογιστό κάνει τη φωτιά καυτή.
Μέχρι να παρατηρήσεις πως δεν κάνεις καμία πρόβλεψη ο μη περιορισμένος αιτιακός κόμβος δεν αναγνωρίζεται ως “ψευδής”. Αναπαρίσταται όπως και όλοι οι υπόλοιποι στο δίκτυο πεποιθήσεών σου. Το νιώθεις σαν να είναι γεγονός, όπως και όλα τα άλλα γεγονότα που ξέρεις: Το φλογιστό κάνει τη φωτιά καυτή.
Μια καλοσχεδιασμένη τεχνητή νοημοσύνη θα αναγνώριζε το πρόβλημα αμέσως. Δεν θα χρειαζόταν καν ειδικό λογισμικό, απλά ορθά βιβλία για το δίκτυο πεποιθήσεων. (Δυστυχώς, εμείς οι άνθρωποι δεν μπορούμε να ξαναγράψουμε τον πηγαίο μας κώδικα, όπως μπορεί μια καλοσχεδιασμένη ΤΝ).
Μιας και μιλήσαμε για την “εκ των υστέρων πλάνη“, πρόκειται απλά για μια μορφή του φαινομένου ότι οι άνθρωποι δεν έχουμε το νου μας στην κατεύθυνση των μηνυμάτων και επιτρέπουμε τα μηνύματα προς τα μπρος να μολύνονται από τα μηνύματα προς τα πίσω.
Εκείνοι που ακολούθησαν την κατεύθυνση του φλογιστού, δεν προσπαθούσαν να γελοιοποιηθούν. Κανείς επιστήμονας δεν θέλει να γίνει περίγελος. Υπάρχουν ψευδείς εξηγήσεις στο δικό σου μυαλό; Αν υπάρχουν, σου εγγυώμαι πως δεν είναι σημειωμένες ως “ψευδής εξήγηση”, οπότε το να αναζητήσεις στις σκέψεις σου τη λέξη “ψευδής” δεν θα σου επιστρέψει αποτελέσματα.
Εξ αιτίας της εκ των υστέρων πλάνης, επίσης δεν αρκεί να τσεκάρεις πόσο καλά μια θεωρία σου “προβλέπει” τα γεγονότα που ήδη ξέρεις. Πρέπει να προβλέψεις για το αύριο, όχι για το χθες. Είναι ο μόνος τρόπος που έχει το ανθρώπινο μπαχαλόμυαλο να στείλει ένα εγγυημένο μήνυμα προς τα μπρος.
Ο Eliezer είναι ιδιοφυΐα αλλά μερικές φορές δυσκολεύομαι να τον παρακολουθήσω, όπως συνέβει στο εν λόγω κείμενο- που κατά τα άλλα είναι εξαιρετικά ενδιαφέρον. Δεν γνωρίζω αν το κάνει εσκεμμένα για εντυπωσιασμό ή είναι στην συγγραφική του ιδιοσυγκρασία, αλλά ενιότε προβαίνει σε εννοιολογικές λαβυρινθώδεις ακροβασίες, που θολώνουν περισσότερο την σκέψη του.
Έχοντας διαβάσει αρκετά από τα κείμενά του έχω πειστεί ότι απλά έτσι σκέπτεται. Μάλιστα θυμάμαι σε ένα σχόλιό του που ο Luke Muehlhauser ανέφερε πως ο Yudkowsky διάβαζε Feynman στα 9 και είχε μάθει διαφορικό λογισμό στα 13. Από άποψη ευφυΐας δεν είναι τυχαίος (βέβαια δε θα έπαιρνε βραβείο εκλαΐκευσης :P)