Die Welt: Υπερευφυία. Πόσο κοντά είμαστε;

Η τεχνητή νοημοσύνη θα μπορούσε κάποτε να ξεπεράσει την ανθρώπινη νοημοσύνη. Κάποιοι πιστεύουν ότι είναι επιστημονική φαντασία. Ορισμένοι ερευνητές βλέπουν ήδη τα πρώτα σημάδια αυτού στο GPT-4. Η τεχνητή νοημοσύνη θα μπορούσε να είναι αρκετά επικίνδυνη για εμάς τους ανθρώπους. Υπάρχει καταπληκτική συμφωνία σε αυτό. Η διαφημιστική εκστρατεία σχετικά με την τεχνητή νοημοσύνη και τα chatbots έχει επίσης μετατραπεί σε διαφημιστική εκστρατεία σχετικά με τις προειδοποιήσεις τις τελευταίες εβδομάδες.

Ωστόσο, αν ρίξετε μια πιο προσεκτική ματιά, θα δείτε ότι διεξάγεται μια πικρή διαμάχη για τους κινδύνους που ενέχουν τα συστήματα μηχανικής μάθησης. Ορισμένοι ειδικοί προειδοποιούν για τους κινδύνους εδώ και τώρα. Τα chatbots θα μπορούσαν να χρησιμοποιηθούν κατάχρηση, για παράδειγμα για τη διάδοση μαζικών ψευδών αναφορών. Ή θα μπορούσαν να αναπαράγουν φυλετικές και σεξιστικές προκαταλήψεις στα δεδομένα εκπαίδευσής τους. Άλλοι κοιτάζουν περισσότερο στο μέλλον. Προειδοποιούν για το τι θα μπορούσε να συμβεί εάν η τεχνητή νοημοσύνη συνεχίσει να εξελίσσεται με τον τρέχοντα ρυθμό. Τότε, από τη σκοπιά τους, θα μπορούσε να γίνει εξίσου έξυπνη με τους ανθρώπους ή ακόμα πιο έξυπνη. Τεχνητή γενική νοημοσύνη (AGI), την αποκαλούν οι ερευνητές, ορισμένοι μιλούν επίσης για ισχυρή τεχνητή νοημοσύνη ή υπερευφυΐα.

Μια τέτοια ευφυία  θα μπορούσε «κάποια στιγμή να ξεπεράσει εμάς τους ανθρώπους, να τους κάνει περιττούς και να τους αντικαταστήσει». Τουλάχιστον αυτό έγραψε μια ομάδα επιστημόνων AI και διασημοτήτων της τεχνολογίας σε ανοιχτή επιστολή την περασμένη εβδομάδα. . Ζήτησαν λοιπόν να μην αναπτυχθούν περαιτέρω τα αντίστοιχα συστήματα προς το παρόν, αλλά αντίθετα να κάνουν ένα εξάμηνο διάλειμμα. Θα πρέπει να αναπτυχθούν διασφαλίσεις κατά τη διάρκεια αυτής της παύσης για να διασφαλιστεί ότι μια ενδεχόμενη υπερευφυΐα βοηθά την ανθρωπότητα να λύσει τα προβλήματά της – αντί να ξεφύγει από τον έλεγχο και να μας βλάψει.

Το αν κάποιος βρίσκει αυτό το λογικό ή ανησυχητικό εξαρτάται ουσιαστικά από το αν υποθέσει ότι μια ισχυρή τεχνητή νοημοσύνη είναι πραγματικά επικείμενη. Οι ερευνητές της Microsoft Research θέλουν τώρα να έχουν βρει σημάδια αυτού. Σε μια δημοσίευση, αναφέρουν ότι βρήκαν σπινθήρες γενικής τεχνητής νοημοσύνης" σε μια ευρεία μελέτη του γλωσσικού μοντέλου GPT- 4. Το σύστημα επιδεικνύει «εξαιρετικές ικανότητες» σε διάφορους τομείς, όπως αφαίρεση, προγραμματισμό, μαθηματικά, ιατρική, νομική, κατανόηση ανθρώπινων κινήτρων και συναισθημάτων και πολλά άλλα. Σε πολλά από αυτά ξεπερνά τους ανθρώπους σήμερα.

Τα μοντέλα γλώσσας όπως το GPT-4 μαθαίνουν από έναν τεράστιο όγκο δεδομένων εκπαίδευσης (κατ' αρχήν επεξεργάζονται σχεδόν ολόκληρο το Διαδίκτυο) και προβλέπουν ποια λέξη ή φράση ακολουθεί τις προηγούμενες λέξεις με βάση στατιστικές πιθανότητες. Στην πραγματικότητα, δεν είναι διαισθητικό πώς θα πρέπει να προκύψει μια πραγματική κατανόηση του κόσμου ή ακόμα και νοημοσύνη σε αυτή τη βάση. Σύμφωνα με τους ερευνητές της Microsoft, δεν μπορούσαν ούτε να απαντήσουν πώς συνέβη αυτό: «Αυτές οι ερωτήσεις είναι μέρος του μυστηρίου και της γοητείας των μεγάλων γλωσσικών μοντέλων». Ισχυρίζονται όμως ότι παρατήρησαν αυτές τις «σπίθες» νοημοσύνης στα πολλά πειράματά τους.

Η απόδοση του μηχανήματος δεν διακρίνεται σε μεγάλο βαθμό από την ανθρώπινη παραγωγή. Δεδομένου ότι αυτές οι ικανότητες καλύπτουν ένα ευρύ φάσμα τομέων και πολλές από αυτές έφτασαν ή και ξεπέρασαν τα ανθρώπινα επίπεδα, «λέμε με καλή συνείδηση ​​ότι το GPT-4 είναι ένα σημαντικό βήμα προς το AGI», γράφουν οι ερευνητές. Από τη σκοπιά τους, υπήρξε ένα σημαντικό άλμα προς τη γενική τεχνητή νοημοσύνη  μεταξύ του προκατόχου του GPT-3.5, της βάσης για την πρώτη γενιά του ChatGPT και του GPT – 4.