|
Applause Lights
11.09.2007 © Eliezer Yudkowsky |
Στη Σύνοδο Μοναδικότητας 2007 ένας από τους ομιλητές ζήτησε δημοκρατική, πολυεθνική ανάπτυξη Τεχνητής Νοημοσύνης (ΤΝ). Οπότε πήρα το μικρόφωνο και ρώτησα:
Ας υποθέσουμε πως μια ομάδα δημοκρατικών κρατών δημιουργεί μια ομάδα για την ανάπτυξη ΤΝ και υπάρχει αρκετή πολιτική διαμάχη στην πορεία -μερικοί έχουν υπέρμετρα μεγάλη επιρροή, ενώ άλλοι αγνοούνται- με άλλα λόγια το αποτέλεσμα μοιάζει σαν τα παράγωγα των σύγχρονων δημοκρατιών. Εναλλακτικά, υποθέστε μια ομάδα άναρχων φυτών που φτιάχνουν μια ΤΝ στο υπόγειό τους και της δίνουν την εντολή να ρωτήσει όλους τους ανθρώπους στον κόσμο -δίνοντας κι ένα κινητό σε όποιον δεν έχει- και να κάνει ό,τι της πει η πλειοψηφία. Ποιο από αυτό σας φαίνεται πιο “δημοκρατικό” και θα νιώθατε ασφαλής με οποιαδήποτε από τις δύο επιλογές;
Ήθελα να δω αν όντως πίστευε στην πραγματιστική επάρκεια της δημοκρατικής πολιτικής διαδικασίας ή αν πίστευε στην ηθική ορθότητα της ψηφοφορίας. Αλλά ο ομιλητής απάντησε:
Το πρώτο μοιάζει με το μήνυμα του εκδότη στο περιοδικό “Reason”, το δεύτερο με χολυγουντιανή ταινία.
Μπερδεμένος ρώτησα:
Τι είδους δημοκρατική διαδικασία είχατε κατά νου;
Ο ομιλητής απάντησε:
Κάτι σαν το Πρόγραμμα Καταγραφής Ανθρώπινου Γονιδιόματος -ένα ερευνητικό πρόγραμμα με διεθνή χρηματοδότηση.
Ρώτησα:
Πώς επέλυαν τις διαφορές τους οι διάφορες ομάδες με διαφορετικά συμφέροντα σε ένα πρόγραμμα σαν το Ανθρώπινο Γονιδίωμα;
Και ο ομιλητής είπε:
Δεν ξέρω.
Αυτό μου θύμησε μια ρήση κάποιου δικτάτορα, ο οποίος όταν ρωτήθηκε αν σκόπευε να κινήσει τη διακυβέρνηση του κράτους του προς τη δημοκρατία, είπε:
Πιστεύουμε πως ήδη έχουμε πετύχει ένα δημοκρατικό σύστημα. Μας λείπουν μόνο μερικά στοιχεία, όπως η έκφραση της θέλησης του λαού.
Η ουσία της δημοκρατίας είναι ο συγκεκριμένος μηχανισμός που επιλύει τις διαφορές πολιτικής δράσης. Αν όλες οι ομάδες είχαν τις ίδιες προτιμήσεις, ο κόσμος δεν θα χρειαζόταν δημοκρατία -θα συνεργαζόμασταν αυτόματα. Η διαδικασία επίλησης προβλημάτων μπορεί να περιλαμβάνει μια άμεση ψηφοφορία ή μια εκλεγμένη αντιπροσωπεία ή ακόμα και μια ΤΝ που ακολουθεί τις επιταγές της πλειοψηφίας, αλλά πρέπει να υπάρχει κάποια διαδικασία. Τι ακριβώς σημαίνει μια έκκληση για “δημοκρατική” λύση, αν δεν έχεις ένα συγκεκριμένο μηχανισμό επίλυσης διαφορών κατά νου;
Υποθέτω πως σημαίνει ότι μόλις είπες “δημοκρατία”, οπότε το κοινό πρέπει να ζητωκραυγάσει. Δεν είναι ακριβώς μια πρόταση, αλλά το αντίστοιχο των ανιματέρ που λένε στο κοινό πότε να χειροκροτήσει.
Αυτό το περιστατικό είναι αξιόλογο μόνο υπό την έννοια ότι έκανα ένα λάθος και μπέρδεψα μια ατάκα για χειροκρότημα με ουσιαστική πρόταση, με αποτέλεσμα να γελοιοποιηθούμε όλοι. Οι περισσότερες ατάκες για χειροκρότημα είναι πολύ πιο προφανείς και εντοπίζονται με ένα απλό τεστ αντιστροφής. Για παράδειγμα, υποθέστε ότι κάποιος λέει:
Πρέπει να ισορροπήσουμε τους κινδύνους και τα οφέλη της ΤΝ.
Αν το αντιστρέψεις τότε γίνεται:
Δεν πρέπει να ισορροπήσουμε τους κινδύνους και τα οφέλη της ΤΝ.
Δεδομένου ότι η αντιστροφή ακούγεται αφύσικη, η κανονική πρόταση είναι μάλλον φυσιολογικη, δηλαδή δεν μεταδίδει νέα πληροφορία. Υπάρχουν πολλοί γνήσιοι λόγοι για να πεις απομονωμένα κάτι πασιφανές. Το “πρέπει να ισορροπήσουμε τους κινδύνους και τα οφέλη της ΤΝ” μπορεί να εισάγει νέο θέμα συζήτησης· μπορεί να τονίσει τη σημασία μιας συγκεκριμένης πρότασης· μπορεί να κριτικάρει μια μη ισορροπημένη πρόταση. Συνδεομένη με μια άλλη δήλωση μπορεί να μεταδώσει νέα πληροφορία, αν και σε έναν απαίδευτο ρασιοναλιστή μπορεί να μην είναι προφανές. Αλλά, αν δεν ακολουθεί τίποτε συγκεκριμένο, η πρόταση μάλλον είναι ατάκα για χειροκρότημα.
Δελεάζομαι να δώσω κάποια στιγμή μια διάλεξη που να περιέχει μονάχα ατάκες για χειροκρότημα και να δω πότε θα αρχίσει το κοινό να γελάει:
Βρίσκομαι εδώ σήμερα για να προτείνω πως χρειάζεται να ισορροπήσουμε τους κινδύνους με τα οφέλη μιας εξελιγμένης Τεχνητής Νοημοσύνης. Πρέπει να αποφύγουμε τους κινδύνους όσο το δυνατόν περισσότερο και να υλοποιήσουμε τα οφέλη. Δεν θα πρέπει να βρεθούμε προ εντελώς ανούσιων κινδύνων. Για να επιτύχουμε τους σκοπούς αυτούς πρέπει να οργανωθούμε με σοφία και λογική. Δεν πρέπει να λειτουργήσουμε υπό το κράτος φόβου και πανικού ή να ενδώσουμε στην τεχνοφοβία· ούτε όμως να δουλέψουμε και με τυφλό ενθουσιασμό. Θα πρέπει να σεβαστούμε τα ενδιαφέρονται όλων εκείνων που έχουν συμφέρον στην Μοναδικότητα. Πρέπει να διασφαλίσουμε ώστε τα οφέλη των νέων τεχνολογιών να βρεθούν στα χέρια όσο το δυνατόν περισσοτέρων, αντί να περιοριστούν σε λίγους. Πρέπει να αποφύγουμε όσο γίνεται τις βίαιες αντιπαραθέσεις με τη χρήση αυτών των τεχνολογιών· πρέπει να εμποδίσουμε να βρεθούν στα χέρια μεμονωμένων ατόμων εργαλεία μαζικής καταστροφής. Πρέπει να τα σκεφτούμε αυτά πριν να είναι πολύ αργά για δράση και όχι μετά…
Τα σχόλιά σας είναι ευπρόσδεκτα / Your comments are welcome