Καμπανάκι κινδύνου για ανακάλυψη τεχνητής νοημοσύνης από την Open AI
ΧΡΟΝΟΣ ΑΝΑΓΝΩΣΗΣ 10 '
Πηγή Φωτογραφίας: freepik.com
Πριν από τις τέσσερις ημέρες εξορίας του διευθύνοντος συμβούλου της OpenAI, Σαμ Άλτμαν, αρκετοί ερευνητές της εταιρείας έγραψαν μια επιστολή στο διοικητικό συμβούλιο, προειδοποιώντας για μια μεγάλη ανακάλυψη στον τομέα της τεχνητής νοημοσύνης που είπαν ότι θα μπορούσε να απειλήσει την ανθρωπότητα, όπως αποκαλύπτει το Reuters, επικαλούμενο δύο πηγές με γνώση του θέματος.
Η επιστολή που δεν είχε αναφερθεί προηγουμένως και η εξέλιξη του αλγορίθμου τεχνητής νοημοσύνης ήταν βασικά γεγονότα που προηγήθηκαν της αποπομπής του Άλτμαν από το διοικητικό συμβούλιο, ανέφεραν οι δύο πηγές. Πριν από τη θριαμβευτική επιστροφή του, αργά την Τρίτη, περισσότεροι από 700 υπάλληλοι είχαν απειλήσει να παραιτηθούν και να ενταχθούν στη Microsoft, σε αλληλεγγύη με τον απολυμένο ηγέτη τους.
Οι πηγές ανέφεραν την επιστολή ως έναν παράγοντα μεταξύ ενός μακρύτερου καταλόγου παραπόνων από το διοικητικό συμβούλιο που οδήγησαν στην απόλυση του Altman, μεταξύ των οποίων ήταν ανησυχίες σχετικά με την εμπορευματοποίηση της επιστημονικής προόδου στην τεχνητή νοημοσύνη πριν από την κατανόηση των συνεπειών. Το Reuters σημειώνει ότι δεν ήταν σε θέση να εξετάσει αντίγραφο της επιστολής, ενώ συντάκτες της δεν απάντησαν σε αιτήματα για σχολιασμό.
Αφού επικοινώνησε με το Reuters, η OpenAI, η οποία αρνήθηκε να σχολιάσει, αναγνώρισε σε εσωτερικό μήνυμα προς το προσωπικό την ύπαρξη ενός έργου, που ονομάζεται Q* και την ύπαρξη μιας επιστολής προς το διοικητικό συμβούλιο, πριν από τα γεγονότα του Σαββατοκύριακου, δήλωσε μία από τις πηγές του πρακτορείου. Ένας εκπρόσωπος της OpenAI δήλωσε ότι το μήνυμα, που εστάλη από το υψηλόβαθμο στέλεχος, Μίνα Μουράτι, προειδοποίησε το προσωπικό για ορισμένες δημοσιεύσεις των μέσων ενημέρωσης, χωρίς να σχολιάσει την ακρίβειά τους.
Κάποιοι στην OpenAI πιστεύουν ότι το Q* (προφέρεται Q-Star) θα μπορούσε να είναι μια σημαντική ανακάλυψη στην αναζήτηση της startup για αυτό που είναι γνωστό ως τεχνητή γενετική νοημοσύνη (AGI), δήλωσε ένας από τους ανθρώπους στο Reuters. Η OpenAI ορίζει τα AGI ως αυτόνομα συστήματα που ξεπερνούν τους ανθρώπους στις πιο οικονομικά πολύτιμες εργασίες.
Με τη χρήση τεράστιων υπολογιστικών πόρων, το νέο μοντέλο ήταν σε θέση να λύσει ορισμένα μαθηματικά προβλήματα. Αν και η απόδοση των μαθηματικών φτάνει ως τώρα μόνο στο επίπεδο των μαθητών Δημοτικού, η επιτυχία σε τέτοιες δοκιμές έκανε τους ερευνητές πολύ αισιόδοξους για τη μελλοντική επιτυχία του Q*, δήλωσε η πηγή.Οι ερευνητές θεωρούν ότι τα μαθηματικά είναι ένα σύνορο της γενετικής ανάπτυξης AI. Επί του παρόντος, η γενετική τεχνητή νοημοσύνη είναι καλή στη γραφή και τη μετάφραση γλώσσας, προβλέποντας στατιστικά την επόμενη λέξη και οι απαντήσεις στην ίδια ερώτηση μπορεί να διαφέρουν πολύ. Αλλά η κατάκτηση της ικανότητας μαθηματικού υπολογισμού -όπου υπάρχει μόνο μία σωστή απάντηση- συνεπάγεται ότι η τεχνητή νοημοσύνη θα έχει μεγαλύτερες δυνατότητες συλλογισμού που μοιάζουν με την ανθρώπινη νοημοσύνη. Αυτό θα μπορούσε να εφαρμοστεί σε νέες επιστημονικές έρευνες, για παράδειγμα, όπως πιστεύουν οι ερευνητές της τεχνητής νοημοσύνης.
Σε αντίθεση με μια αριθμομηχανή που μπορεί να λύσει περιορισμένο αριθμό λειτουργιών, η AGI μπορεί να γενικεύσει, να μάθει και να κατανοήσει.
Στην επιστολή τους προς το διοικητικό συμβούλιο, οι ερευνητές επισήμαναν τον πιθανό κίνδυνο της τεχνητής νοημοσύνης, ανέφεραν οι πηγές, χωρίς να διευκρινίζουν τις ακριβείς ανησυχίες για την ασφάλεια που σημειώνονται στην επιστολή. Υπάρχει εδώ και καιρό συζήτηση μεταξύ των επιστημόνων υπολογιστών σχετικά με τον κίνδυνο που θέτουν οι εξαιρετικά ευφυείς μηχανές, για παράδειγμα αν θα μπορούσαν να αποφασίσουν ότι η καταστροφή της ανθρωπότητας ήταν προς το συμφέρον τους.
Οι ερευνητές έχουν επίσης επισημάνει το έργο μιας ομάδας επιστημόνων τεχνητής νοημοσύνης, την ύπαρξη της οποίας επιβεβαίωσαν πολλές πηγές. Η ομάδα, που σχηματίστηκε συνδυάζοντας στελέχη από τις προηγούμενες ομάδες “Code Gen” και “Math Gen”, διερευνούσε πώς να βελτιστοποιήσει τα υπάρχοντα μοντέλα AI για να βελτιώσει τη συλλογιστική τους και τελικά να εκτελέσει επιστημονική εργασία, δήλωσε ένας από τους ανθρώπους.
Ο Altman ηγήθηκε των προσπαθειών να γίνει το ChatGPT μία από τις ταχύτερα αναπτυσσόμενες εφαρμογές λογισμικού στην ιστορία και προσέλκυσε επενδύσεις – και υπολογιστικούς πόρους – απαραίτητους από τη Microsoft για να πλησιάσει την AGI.
Εκτός από την ανακοίνωση μιας σειράς νέων εργαλείων σε μια εκδήλωση αυτό το μήνα, ο Άλτμαν την περασμένη εβδομάδα υπαινίχθηκε σε μια σύνοδο κορυφής των παγκόσμιων ηγετών στο Σαν Φρανσίσκο ότι πίστευε ότι σημαντικές πρόοδοι ήταν στον ορίζοντα.
«Τέσσερις φορές τώρα στην ιστορία της OpenAI, η πιο πρόσφατη φορά ήταν μόλις τις τελευταίες δύο εβδομάδες, έχω βρεθεί στο δωμάτιο, όταν κατεβάζουμε το πέπλο της άγνοιας πίσω και φτάνουμε στα σύνορα νέας ανακάλυψης και το να το κάνουμε αυτό έχει την επαγγελματική αξία μιας ζωής», δήλωσε στη σύνοδο κορυφής της Οικονομικής Συνεργασίας Ασίας-Ειρηνικού. Μια ημέρα αργότερα, το διοικητικό συμβούλιο απέλυσε τον Άλτμαν.
Διαβάστε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο
Το σχόλιο σας