The New Yorker: Δεν υπάρχει τεχνητή νοημοσύνη

Δεν αρέσει σε όλου ο όρος «AI» Στην πραγματικότητα, είναι παραπλανητικός—ίσως και λίγο επικίνδυνος. Όλοι χρησιμοποιούν ήδη τον όρο και μπορεί να φαίνεται λίγο αργά μέσα στην ημέρα να διαφωνούμε γι  αυτόν. Όμως βρισκόμαστε στην αρχή μιας νέας τεχνολογικής εποχής — και ο ευκολότερος τρόπος για κακή διαχείριση μιας τεχνολογίας είναι να την παρεξηγήσετε. Ο όρος «τεχνητή νοημοσύνη» έχει μακρά ιστορία – επινοήθηκε τη δεκαετία του 1950, στις πρώτες μέρες των υπολογιστών. Πιο πρόσφατα, επιστήμονες υπολογιστών μεγάλωσαν σε ταινίες όπως το The Terminator  και «The Matrix» και με χαρακτήρες όπως ο Commander Data, από το Star Trek: The Next Generation. Αυτές οι πολιτιστικές δοκιμές έχουν γίνει μια σχεδόν θρησκευτική μυθολογία στον τεχνολογικό πολιτισμό. Είναι φυσικό οι επιστήμονες υπολογιστών να λαχταρούν να δημιουργήσουν AI και να πραγματοποιήσουν ένα μακροχρόνιο όνειρο.

Αυτό που είναι εντυπωσιακό, ωστόσο, είναι ότι πολλοί από τους ανθρώπους που επιδιώκουν το όνειρο της τεχνητής νοημοσύνης ανησυχούν επίσης ότι μπορεί να σημαίνει καταστροφή για την ανθρωπότητα. Λέγεται ευρέως, ακόμη και από επιστήμονες που βρίσκονται στο επίκεντρο των σημερινών προσπαθειών, ότι αυτό που κάνουν οι ερευνητές της τεχνητής νοημοσύνης θα μπορούσε να οδηγήσει στην εξόντωση του είδους μας, ή τουλάχιστον σε μεγάλη ζημιά για την ανθρωπότητα, και σύντομα. Σε μια πρόσφατη δημοσκόπηση, οι μισοί επιστήμονες της τεχνητής νοημοσύνης συμφώνησαν ότι υπήρχε τουλάχιστον δέκα τοις εκατό πιθανότητα να καταστραφεί η ανθρώπινη φυλή από την τεχνητή νοημοσύνη Ακόμη και ο συνάδελφος και φίλος μου Sam Altman, που διευθύνει το OpenAI, έχει κάνει παρόμοια σχόλια. Μπείτε σε οποιοδήποτε καφενείο της Silicon Valley και μπορείτε να ακούσετε την ίδια συζήτηση να ξετυλίγεται: ένα άτομο λέει ότι ο νέος κώδικας είναι απλώς κώδικας και ότι οι άνθρωποι είναι υπεύθυνοι, αλλά ένας άλλος υποστηρίζει ότι όποιος έχει αυτή τη γνώμη απλά δεν καταλαβαίνει πόσο βαθύς είναι ο νέος η τεχνολογία είναι. Τα επιχειρήματα δεν είναι απολύτως λογικά: όταν ζητάω από τους πιο φοβισμένους φίλους μου επιστήμονες να εξηγήσουν πώς μπορεί να συμβεί μια αποκάλυψη της τεχνητής νοημοσύνης, συχνά αρπάζονται από την παράλυση που ξεπερνά κάποιον που προσπαθεί να συλλάβει το άπειρο. Λένε πράγματα όπως «Η επιταχυνόμενη πρόοδος θα μας περάσει και δεν θα μπορούμε να συλλάβουμε τι συμβαίνει».

Δεν συμφωνώ με αυτόν τον τρόπο ομιλίας. Πολλοί από τους φίλους και τους συναδέλφους μου εντυπωσιάζονται βαθιά από τις εμπειρίες τους με τα πιο πρόσφατα μεγάλα μοντέλα, όπως το GPT – 4,  και πρακτικά κρατούν αγρυπνίες για να περιμένουν την εμφάνιση μιας βαθύτερης νοημοσύνης. Η θέση μου δεν είναι ότι κάνουν λάθος, αλλά ότι δεν μπορούμε να είμαστε σίγουροι. διατηρούμε την επιλογή ταξινόμησης του λογισμικού με διαφορετικούς τρόπους. Η πιο ρεαλιστική θέση είναι να θεωρούμε την τεχνητή νοημοσύνη ως εργαλείο και όχι ως πλάσμα. Η στάση μου δεν εξαλείφει την πιθανότητα κινδύνου: όπως και να το σκεφτούμε, μπορούμε ακόμα να σχεδιάσουμε και να λειτουργήσουμε άσχημα τη νέα μας τεχνολογία, με τρόπους που μπορεί να μας βλάψουν ή ακόμα και να μας οδηγήσουν στην εξαφάνιση. Η μυθοποίηση της τεχνολογίας κάνει μόνο πιο πιθανό να αποτύχουμε να τη λειτουργήσουμε σωστά—και αυτού του είδους η σκέψη περιορίζει τη φαντασία μας, συνδέοντάς τη με τα όνειρα του χθες. Μπορούμε να εργαστούμε καλύτερα με την υπόθεση ότι δεν υπάρχει τέτοιο πράγμα όπως AI Όσο πιο γρήγορα το καταλάβουμε αυτό, τόσο πιο γρήγορα θα αρχίσουμε να διαχειριζόμαστε έξυπνα τη νέα μας τεχνολογία.

Αν η νέα τεχνολογία δεν είναι αληθινή τεχνητή νοημοσύνη, τότε τι είναι; Κατά την άποψή μου, ο πιο ακριβής τρόπος για να κατανοήσουμε αυτό που χτίζουμε σήμερα είναι ως μια καινοτόμος μορφή κοινωνικής συνεργασίας. Ένα πρόγραμμα όπως το GPT-4 του OpenAI, το οποίο μπορεί να γράψει προτάσεις κατά παραγγελία, είναι κάτι σαν μια έκδοση της Wikipedia που περιλαμβάνει πολύ περισσότερα δεδομένα, πολτοποιημένα μαζί χρησιμοποιώντας στατιστικά. Τα προγράμματα που δημιουργούν εικόνες κατά παραγγελία είναι κάτι σαν έκδοση διαδικτυακής αναζήτησης εικόνων, αλλά με σύστημα συνδυασμού των εικόνων. Και στις δύο περιπτώσεις, είναι άνθρωποι που έγραψαν το κείμενο και έδωσαν τις εικόνες. Τα νέα προγράμματα συνδυάζουν τη δουλειά που παράγεται από ανθρώπινο μυαλό. Αυτό που είναι καινοτόμο είναι ότι η διαδικασία mashup έχει γίνει καθοδηγούμενη και περιορισμένη, έτσι ώστε τα αποτελέσματα να είναι χρησιμοποιήσιμα και συχνά εντυπωσιακά. Αυτό είναι ένα σημαντικό επίτευγμα και αξίζει να το γιορτάσουμε – αλλά μπορεί να το κάνει λιγότερο μυστηριώδες—λιγότερο σαν το HAL 9000 ή τα Commander Data. Αλλά αυτό είναι καλό, γιατί το μυστήριο κάνει πιο πιθανή την κακοδιαχείριση.

Είναι εύκολο να αποδοθεί ευφυΐα στα νέα συστήματα. έχουν μια ευελιξία και απρόβλεπτο που συνήθως δεν συνδέουμε με την τεχνολογία των υπολογιστών. Αλλά αυτή η ευελιξία προκύπτει από απλά μαθηματικά. Ένα μοντέλο μεγάλης γλώσσας όπως το GPT-4 περιέχει μια αθροιστική εγγραφή για το πώς συμπίπτουν συγκεκριμένες λέξεις στις τεράστιες ποσότητες κειμένου που έχει επεξεργαστεί το πρόγραμμα. Αυτός ο τεράστιος πίνακας κάνει το σύστημα να προσεγγίζει εγγενώς πολλά γραμματικά μοτίβα, μαζί με πτυχές αυτού που θα μπορούσε να ονομαστεί συγγραφικό στυλ. Όταν εισάγετε ένα ερώτημα που αποτελείται από συγκεκριμένες λέξεις με συγκεκριμένη σειρά, η καταχώρισή σας συσχετίζεται με αυτό που υπάρχει στο μοντέλο. Τα αποτελέσματα μπορεί να βγαίνουν λίγο διαφορετικά κάθε φορά, λόγω της πολυπλοκότητας του συσχετισμού δισεκατομμυρίων καταχωρήσεων.