Κάτι για την Αλίκη και τον Μπομπ

Τα ρομπότ με δημιουργικές γλωσσικές δεξιότητες έχουν καταλάβει τη λαϊκή φαντασία. Έχουν επίσης αναζωπυρώσει τις ανησυχίες για μια ρομποκάλυψη

Alice and Bob, Alice and Bob Facebook, Facebook bots, bots τεχνητής νοημοσύνηςΗ Alice και ο Bob, τα ρομπότ του Facebook που έχουν κερδίσει τη φήμη λόγω μιας απρόβλεπτης ανεπάρκειας στη λογική προγραμματισμού, αποτελούν μέρος ενός πειράματος για την κατασκευή μηχανών διαπραγμάτευσης. C R Sasikumar

Το Διαδίκτυο έχει φλέγεται με δραματικά καταστροφικούς τίτλους που διακηρύσσουν ότι το Facebook έπρεπε να τραβήξει την πρίζα από τα αδίστακτα ρομπότ τεχνητής νοημοσύνης (AI) που ανέπτυξαν μια δική τους γλώσσα, στην οποία πραγματοποιούσαν απάνθρωπες ιδιωτικές συνομιλίες. Διαβάζουν σαν πειράγματα για μια σφαιροκάλυψη του Terminator, η οποία είναι ο χειρότερος εφιάλτης του πρωτεύοντος που χρησιμοποιεί εργαλεία — που πρέπει να αντικατασταθεί από τη δική του δημιουργία, τη μηχανή.

Η πραγματικότητα είναι λιγότερο δραματική αλλά πιο συναρπαστική. Τα ρομπότ είναι αυτόνομοι πράκτορες που αρχικά είχαν προγραμματιστεί να εκτελούν εργασίες καθαριότητας σε κανάλια επικοινωνίας ή να προσπαθούν να περάσουν το τεστ Turing. Μπορούν να σας υπογράψουν, να σας διώξουν εάν συμπεριφέρεστε άσχημα, να κρατούν ανοιχτά τα chatrooms όταν δεν είναι κανείς στο σπίτι, να παρέχουν πληροφορίες και να μεταμφιέζονται ως άνθρωποι. Στο σύστημα Internet Relay Chat, το bot Eggdrop ήταν το αγαπημένο όλων των εποχών.

Τα εγγόνια τέτοιων bot θυρωρών είναι ενσωματωμένα σε σύγχρονους πράκτορες αναζήτησης και αγγελιοφόρους και διαθέτουν δυνατότητες τεχνητής νοημοσύνης. Μιλούν με τους χρήστες μάλλον όπως θα έκανε ένας άνθρωπος, απαντούν σε ερωτήματα ρουτίνας και προσφέρουν συμβουλές. Εάν το τηλέφωνό σας φαίνεται να γνωρίζει το μυαλό σας και τραβάει τα σωστά πράγματα χωρίς να χρειάζεται να σας ρωτήσουν, μεγάλο μέρος της τιμής πρέπει να πάει στα bots που εργάζονται στα παρασκήνια. Όπως οι άνθρωποι, τα bots μπορούν να μάθουν από την εμπειρία και προορίζονται για μεγαλύτερα πράγματα σε πραγματικές καταστάσεις.

Η Alice και ο Bob, τα ρομπότ του Facebook που έχουν κερδίσει τη φήμη λόγω μιας απρόβλεπτης ανεπάρκειας στη λογική προγραμματισμού, αποτελούν μέρος ενός πειράματος για την κατασκευή μηχανών διαπραγμάτευσης. Απλώς ανακάλυπταν πώς να μοιράζονται ένα σύνολο αντικειμένων, όπως μπάλες, έτσι ώστε κανένα από τα μέρη να μην αισθάνεται εξαπατημένο. Ενώ διαπραγματευόταν, η Άλις έκανε αρχικά ακατανόητες δηλώσεις όπως, Οι μπάλες έχουν μηδέν για μένα για εμένα για μένα για μένα για εμένα... Και ακολούθησαν οι τρομακτικοί τίτλοι.

Η μάθηση καθοδηγείται από κίνητρα, όπως γνωρίζουν οι δάσκαλοι και οι γονείς. Σε αυτή την περίπτωση, καθορίστηκε το σύστημα ανταμοιβής της άσκησης — καλύτερο μερίδιο και αμοιβαία ικανοποίηση, η ουσία της διαπραγμάτευσης. Αλλά δεν υπήρχε κίνητρο για τα ρομπότ να συνεχίσουν να επικοινωνούν στα Αγγλικά, η οποία είναι μια διαβόητη παράλογη γλώσσα. Έτσι, γλίστρησαν σε ένα απλοποιημένο, πιο αποτελεσματικό argot που μοιάζει με Newspeak, το οποίο δεν είναι αρκετά αγγλικό, αλλά δεν είναι ακατανόητο όπως διαφημίζεται.

Η δήλωση της Αλίκης, η οποία έχει παρερμηνευθεί ως ισχυρισμός της ανεξαρτησίας της μηχανής, έδειχνε μόνο απογοήτευση για την απότομη αλλαγή (έχουν μηδέν) και η καθεμία για μένα αντιπροσώπευε ένα αντικείμενο που ζητούσε. Έκανε ακριβώς τη δουλειά για την οποία είχε προγραμματιστεί: Να διαπραγματευόταν τόσο σκληρά όσο ένας καταστηματάρχης στο Μεγάλο Παζάρι της Κωνσταντινούπολης. Και αν διαπίστωνε ότι τα αγγλικά της Βασίλισσας εμπόδιζαν, δεν ήταν μόνη. Πολλές φυλές των πρώην αποικιών θεώρησαν ότι η κύρια γλώσσα εμπόδιζε τις επικοινωνίες στις κοινότητές τους.

Μόνο επαγγελματίες ανθρώπινοι διαπραγματευτές πρέπει να ανησυχούν εάν οι γίγαντες της Silicon Valley επενδύουν σε προγράμματα διαπραγμάτευσης. Οι τρομοκράτες και οι κορυφαίοι θα πρέπει επίσης να φοβούνται τη συνταξιοδότηση, γιατί σε καταστάσεις ομηρίας και διεθνείς συμφωνίες, μπορεί να βρεθούν αντιμέτωποι με μια ανεξερεύνητη, αδυσώπητη μηχανή που είναι πολύ πιο έξυπνη από τον Deep Blue, τον υπερυπολογιστή της IBM που αμφισβήτησε τον πρωταθλητή του σκακιού Garry Kasparov το 1996.

Η επιθυμία για ανάπτυξη ιδιωτικών γλωσσών είναι ένα πολύ ανθρώπινο χαρακτηριστικό. Πριν από τη μηχανογράφηση των χρηματιστηρίων, οι χρηματιστές στο πάτωμα των συναλλαγών κοινοποιούσαν τις προσφορές με χειροκίνητα σήματα που ήταν ακατανόητα για τους άλλους. Για αιώνες, οι αρχές επιβολής του νόμου έχουν μπερδευτεί από τα λημέρια των κλεφτών, τις τεχνητές γλώσσες των καταδίκων που είναι αλαζονεία για τους δεσμοφύλακες τους. Μεταξύ των αγγλόφωνων εγκληματιών του 20ου αιώνα, η ανόητη λέξη arkitnay σήμαινε, Σώπα, κάποιος κρυφακούει. Στην Ινδία, ο William Henry Sleeman μελέτησε το Ramaseeana, το τραγούδι του Thuggee, και δημοσίευσε ένα λεξιλόγιο το 1836. Ένα από τα λιγότερο παιγμένα αλλά πιο ενδιαφέροντα έργα του Tom Stoppard είναι το Dogg's Hamlet, στο οποίο μαθητές ερμηνεύουν τον Σαίξπηρ στη γλώσσα τους, Dogg. Ήταν κάπως σαν κρυπτογράφηση μεταφοράς. Για παράδειγμα, τα απογεύματα σήμαιναν γεια στο Dogg.

Μην πειράζετε τους μοιρολάτρες, αυτό που είναι ενδιαφέρον για την Alice και τον Bob είναι ότι κατά τη δημιουργία μιας γλώσσας, έχουν προδώσει ένα πολύ ανθρώπινο χαρακτηριστικό, το οποίο δεν είχαν προγραμματιστεί ρητά να εκθέσουν. Πριν από εξήντα χρόνια, τα πρώτα bots γράφτηκαν για να διερευνήσουν ακριβώς αυτό το ερώτημα: Θα μπορούσαν οι μηχανές να προγραμματιστούν να συμπεριφέρονται σαν άνθρωποι; Θα μπορούσαν να περάσουν το τεστ Turing; Δηλώθηκε σε ένα άρθρο του 1950 με τίτλο Υπολογιστικές Μηχανές και Νοημοσύνη, ο Τούρινγκ ουσιαστικά πρότεινε ότι εάν οι επικοινωνίες μιας μηχανής φαίνονται να είναι ανθρώπινες, τότε η μηχανή θα πρέπει να θεωρείται ανθρώπινη.

Το πρώτο bot επεξεργασίας φυσικής γλώσσας που βγήκε από το εργαστήριο και κέρδισε μαζική δημοτικότητα ήταν η Eliza, που δημιουργήθηκε το 1964 από τον Joseph Weisenbaum στο MIT. Το έγραψε για να αποδείξει ότι οι γραπτές επικοινωνίες ανθρώπου-μηχανής δεν μπορούσαν να ανέλθουν στο επίπεδο μιας ανθρώπινης συνομιλίας. Αντίθετα, η Ελίζα αύξησε τις προσδοκίες του κοινού ότι θα περάσει το τεστ Turing. Τριάντα χρόνια αργότερα, ακόμη μεγαλύτερες ελπίδες εμπνεύστηκαν η Τζούλια, που δημιουργήθηκε από τον ιδρυτή της Lycos, Michael Mauldin, για να διαγωνιστεί για το βραβείο Loebner, το Ιερό Δισκοπότηρο του Τούρινγκ. Αλλά πέρα ​​από ένα σημείο, οι συνομιλίες της Julia περιπλανήθηκαν σε τυχαίες σκέψεις για τις ιδιότητες των σκύλων και των γατών (μπορείτε να συνομιλήσετε με μια σύγχρονη εκδοχή της στο scratch.mit.edu/projects/2208608).

Τώρα, τα ρομπότ με δημιουργικές γλωσσικές δεξιότητες έχουν καταλάβει τη λαϊκή φαντασία, αναζωπυρώνοντας τις ανησυχίες για μια ρομποκάλυψη. Αλλά μια εξέλιξη στο εργαστήριο AI της Google είναι στην πραγματικότητα πιο συναρπαστική. Τον Σεπτέμβριο του 2016, η Google κυκλοφόρησε με το Σύστημα Μετάφρασης Νευρωνικής Μηχανής, το οποίο εφαρμόζει τη βαθιά εκμάθηση στη γλώσσα. Δύο μήνες αργότερα, έσπρωξαν τον φάκελο: Εάν μια μηχανή μάθαινε να μεταφράζει, ας πούμε, μεταξύ Χίντι και Γερμανικών, και μεταξύ Χίντι και Αγγλικών, θα μπορούσε να μεταφράζει μεταξύ Αγγλικών και Γερμανικών χωρίς τη γλώσσα γέφυρα των Χίντι; Θα μπορούσε, υποδηλώνοντας ότι το νευρωνικό δίκτυο είχε μάθει κάτι θεμελιώδες για το πώς ο νους συνδέει έννοιες και γραμματικές για να σφυρηλατήσει γλώσσες. Το μικρό, κίτρινο ψάρι Βαβέλ σαν βδέλλες, ο ζωντανός παγκόσμιος μεταφραστής που ονειρεύτηκε ο Ντάγκλας Άνταμς στα τέλη του εβδομήντα, αιωρείται τώρα κοντά στο αυτί σας.

Φυσικά, δεδομένου ότι δεν υπάρχει μακροπρόθεσμη πρόγνωση για την τεχνητή νοημοσύνη, θα πρέπει να δοθεί η δέουσα προσοχή στην προειδοποίηση ανθρώπων που θα έπρεπε να γνωρίζουν καλύτερα, όπως ο Elon Musk και ο Stephen Hawking. Πρέπει να υπάρξει ρύθμιση, παρά τις διαμαρτυρίες των υποστηρικτών της ελευθερίας της καινοτομίας, όπως ο Mark Zuckerberg. Και πρέπει να αναπτυχθεί μια γενική συναίνεση, συμφωνώντας σε γραμμές που δεν πρέπει να ξεπεραστούν, όπως στην περίπτωση των παρεμβάσεων στο ανθρώπινο γονιδίωμα. Αλλά δεν μπορεί να αρνηθεί κανείς ότι τα πειράματα στο Facebook και την Google προωθούν τον αρχικό σκοπό της τεχνητής νοημοσύνης, που ήταν να μοντελοποιήσει και να κατανοήσει πτυχές του ανθρώπινου μυαλού. Οι ζοφερές ιστορίες των μέσων ενημέρωσης που προσελκύουν είναι περαστικές αισθήσεις. Την επόμενη μέρα, είναι κατάλληλα για τύλιγμα ψαριών.