Η Ευρώπη στην πρωτοπορία της Τεχνητής Νοημοσύνης: Ο πρώτος νόμος για την AI

Ενα πλήθος fake εικόνων που δημιουργήθηκαν με την παρέμβαση της Τεχνητής Νοημοσύνης, στην πλατφόρμα κοινωνικής δικτύωσης X του Ελον Μασκ, με πρωταγωνιστές τον Ντόναλντ Τραμπ και την Κάμαλα Χάρις ακόμα και σε… ρομαντικές στιγμές προκάλεσε ανάμεικτες εντυπώσεις σε όλο τον πλανήτη. Σε αρκετούς οι εικόνες αυτές φάνηκαν διασκεδαστικές, άλλοι τις θεώρησαν κακόγουστες. Στην πλειονότητα όμως δημιουργήθηκαν συναισθήματα ανησυχίας και καχυποψίας.

Για το πού μπορεί να φτάσουν οι δυνατότητες της ραγδαία αναπτυσσόμενης Τεχνητής Νοημοσύνης (ΤΝ-AI), η οποία καλπάζει και αλλάζει με καταιγιστικούς ρυθμούς τα δεδομένα της σύγχρονης οικονομικής και κοινωνικής ζωής.

Οι συγκεκριμένες φωτορεαλιστικές εικόνες στηρίχτηκαν στις δυνατότητες που δίνει στους χρήστες του Χ η χρήση ενός ενσωματωμένου chatbot που ονομάζεται Grok, που παράγει η εταιρεία xAI του Μασκ και το οποίο ο ίδιος διαφήμισε σε ανάρτησή του ως την «πιο διασκεδαστική Tεχνητή Nοημοσύνη στον κόσμο!». Eχοντας όμως, ελάχιστες δικλίδες ασφαλείας για να περιορίσει την παραγωγή προσβλητικών ή παραπλανητικών απεικονίσεων πραγματικών ανθρώπων και χαρακτήρων. Και χωρίς να φέρουν κάποια σήμανση που να υποδηλώνει ότι δημιουργήθηκαν με Τεχνητή Νοημοσύνη ή ότι προβάλλουν ευαίσθητο περιεχόμενο…

Με βάση τα παραπάνω, τις σπουδαίες προοπτικές που ανοίγονται για κράτη, λαούς, επιχειρήσεις, εργαζόμενους από τη χρήση της ΤΝ, αλλά και τους κινδύνους που παραμονεύουν από την κακόβουλη χρήση της και τις μεγάλες ανακατατάξεις στην αγορά εργασίας, έχει τεράστια σημασία το ότι η Ευρώπη κατάφερε να βρεθεί ένα βήμα μπροστά από τον υπόλοιπο κόσμο. Να προχωρήσει στην εφαρμογή του πρώτου νόμου που επιχειρεί να ρυθμίσει την αναπτυσσόμενη αγορά της Τεχνητής Νοημοσύνης. Είναι ένα από τα κορυφαία στοιχήματα της Ούρσουλα φον Ντερ Λάιεν για τη νέα θητεία της, να βάλει τάξη σε αυτή τη γεμάτη θετικές προκλήσεις αλλά και κινδύνους αγορά. Ωστε η ΤΝ να τεθεί στην υπηρεσία του ανθρώπου και όχι να αφεθεί ανεξέλεγκτη η ανάπτυξή της, κινδυνεύοντας να λειτουργήσει ακόμα και εναντίον του.

«Σήμερα τίθεται σε ισχύ ο νόμος περί Τεχνητής Νοημοσύνης. Το πρωτοποριακό πλαίσιο της Ευρώπης για καινοτόμο και ασφαλή ΤΝ», έγραψε η φον ντερ Λάιεν σε ανάρτησή της στο X, την 1η Αυγούστου. «Θα οδηγήσει στην ανάπτυξη της ΤΝ που μπορούν να εμπιστευτούν οι Ευρωπαίοι. Και παρέχει υποστήριξη σε ευρωπαϊκές ΜμΕ και νεοφυείς επιχειρήσεις για να φέρουν στην αγορά λύσεις τεχνολογίας αιχμής», συμπλήρωσε.

Η Κομισιόν από το 2018 είχε εγκρίνει σχέδιο αύξησης των επενδύσεων στην Τεχνητή Νοημοσύνη και την αναπροσαρμογή του νομοθετικού πλαισίου, ώστε να καταφέρει να μη χάσει το τρένο της, απεναντίας να πρωτοστατήσει. Οι ΗΠΑ προπορεύονται διεθνώς, με τη Silicon Valley να επιβάλλεται ως παγκόσμιος πόλος καινοτομίας για τη συγκεκριμένη τεχνολογία. Το δε σχέδιο της Κίνας προβλέπει δημόσιες επενδύσεις στην ΤΝ, ώστε να αναδειχθεί σε κυρίαρχη δύναμη παγκοσμίως στον τομέα μέχρι το 2030. Μάχη αδυσώπητη.

Μια αγορά που, σύμφωνα με την έκθεση του ΟΟΣΑ για την ψηφιακή οικονομία (Digital Economy Outlook), θα επιφέρει αύξηση 7% στο παγκόσμιο ΑΕΠ σε μία δεκαετία. Ενώ όλες οι διαθέσιμες έρευνες συγκλίνουν στο ότι η παγκόσμια αγορά της ΑΙ, που περιλαμβάνει το hardware, το software και τις υπηρεσίες, θα αυξάνεται με μέσο ετήσιο ρυθμό 18,6% έως και το 2026, με το μέγεθός της να φτάνει το 1 τρισ. δολάρια τότε και να ξεπερνά το 1,5 τρισ. το 2030.

Τι προβλέπει το Al Act

Ο ευρωπαϊκός νόμος (Al Act) για την ΤΝ σχεδιάστηκε για να διασφαλίσει ότι η ανάπτυξη και η χρησιμοποίησή της στην Ε.Ε. είναι αξιόπιστη, με εγγυήσεις προστασίας των θεμελιωδών δικαιωμάτων και ελευθεριών των πολιτών. Ο νέος κανονισμός αποσκοπεί στη δημιουργία εναρμονισμένης εσωτερικής αγοράς για την ΤΝ, ενθαρρύνοντας την υιοθέτησή της και δημιουργώντας ένα υποστηρικτικό περιβάλλον για την καινοτομία και τις επενδύσεις. Με βάση τον δυνητικό αντίκτυπο σε όλα τα παραπάνω, η Ε.Ε. διαβαθμίζει τα συστήματα αυτά σε διαφορετικά επίπεδα κινδύνου, εισάγοντας διαφορετικές απαιτήσεις για όσους αναπτύσσουν και χρησιμοποιούν συστήματα ΤΝ.

α/ Ελάχιστος κίνδυνος: περιλαμβάνει τα περισσότερα συστήματα ΤΝ, όπως τα συστήματα συστάσεων που λειτουργούν βάσει ΤΝ και τα φίλτρα ανεπιθύμητων μηνυμάτων. Περιλαμβάνονται εφαρμογές όπως βιντεοπαιχνίδια με δυνατότητα AI ή φίλτρα ανεπιθύμητης αλληλογραφίας. Δεν υπόκεινται σε υποχρεώσεις.

β/ Ειδικός κίνδυνος διαφάνειας: τα συστήματα ΤΝ, όπως τα διαλογικά ρομπότ (chatbots), πρέπει να γνωστοποιούν στους χρήστες ότι αλληλεπιδρούν με μηχανή. Ορισμένα περιεχόμενα που παράγονται από ΤΝ, συμπεριλαμβανομένων των βαθιά ψευδών πληροφοριών, πρέπει να επισημαίνονται ως τέτοια και οι χρήστες πρέπει να ενημερώνονται όταν χρησιμοποιούνται συστήματα βιομετρικής κατηγοριοποίησης ή αναγνώρισης συναισθημάτων. Οι πάροχοι θα πρέπει να σχεδιάζουν συστήματα κατά τρόπο ώστε το συνθετικό περιεχόμενο ήχου, βίντεο, κειμένου και εικόνων να επισημαίνεται σε μηχαναγνώσιμο μορφότυπο και να είναι ανιχνεύσιμο ως τεχνητά παραγόμενο ή παραποιημένο.

γ/ Υψηλός κίνδυνος: τίθενται αυστηρές απαιτήσεις, συμπεριλαμβανομένων συστημάτων μετριασμού του κινδύνου, υψηλής ποιότητας συνόλων δεδομένων, καταγραφής δραστηριοτήτων, λεπτομερούς τεκμηρίωσης, σαφών πληροφοριών για τους χρήστες, ανθρώπινης εποπτείας και υψηλού επιπέδου αξιοπιστίας, ακρίβειας και κυβερνοασφάλειας. Περιλαμβάνουν συστήματα ΤΝ που χρησιμοποιούνται για:

– υποδομές ζωτικής σημασίας, που μπορεί να θέσουν σε κίνδυνο τη ζωή ή την υγεία των πολιτών – εκπαιδευτική ή επαγγελματική κατάρτιση, που μπορεί να καθορίσει την επαγγελματική πορεία κάποιου (π.χ. μοριοδότηση εξετάσεων) – εξαρτήματα ασφαλείας προϊόντων (π.χ. ρομποτική χειρουργική με ΤΝ) – απασχόληση, διαχείριση εργαζομένων (π.χ. λογισμικό ταξινόμησης βιογραφικών για διαδικασίες πρόσληψης) – βασικές ιδιωτικές και δημόσιες υπηρεσίες (π.χ. πιστοληπτική αξιολόγηση που αρνείται στους πολίτες την ευκαιρία δανεισμού) – επιβολή του νόμου που μπορεί να παρεμβαίνει στα θεμελιώδη δικαιώματα των ανθρώπων – διαχείριση μετανάστευσης, ασύλου και συνοριακού ελέγχου – απονομή δικαιοσύνης και δημοκρατικές διαδικασίες (π.χ. λύσεις ΤΝ για αναζήτηση δικαστικών αποφάσεων)

Τα συστήματα αυτά θα υπόκεινται σε αυστηρές υποχρεώσεις πριν διατεθούν στην αγορά. Η χρήση απομακρυσμένης βιομετρικής αναγνώρισης σε χώρους προσβάσιμους από το κοινό για σκοπούς επιβολής του νόμου, καταρχάς, απαγορεύεται. Οι στενές εξαιρέσεις ορίζονται αυστηρά και ρυθμίζονται, όπως όταν είναι απαραίτητο για την αναζήτηση ενός εξαφανισμένου παιδιού, την πρόληψη τρομοκρατικής απειλής ή τον εντοπισμό ή δίωξη δράστη ή υπόπτου για σοβαρό ποινικό αδίκημα.

δ/Απαράδεκτος κίνδυνος: αφορά τα συστήματα ΤΝ που θεωρούνται σαφής απειλή για τα θεμελιώδη δικαιώματα των ανθρώπων. Αυτά θα απαγορευτούν. Περιλαμβάνονται εφαρμογές ΤΝ που χειραγωγούν την ανθρώπινη συμπεριφορά για την παράκαμψη της ελεύθερης βούλησης των χρηστών, όπως παιχνίδια με φωνητική βοήθεια που ενθαρρύνουν την επικίνδυνη συμπεριφορά των ανηλίκων, είτε επιτρέπουν την «κοινωνική βαθμολόγηση» από κυβερνήσεις ή εταιρείες.

ε/ Συστήματα AI γενικού σκοπού: αφορούν συστήματα ικανά να εκτελούν ευρύ φάσμα εργασιών, μη περιορισμένα σε συγκεκριμένη λειτουργία ή εφαρμογή. Οι απαιτήσεις γι’ αυτά διαφοροποιούνται με βάση τον συστημικό τους κίνδυνο.

Εθνική αρχή AI

Τα κράτη-μέλη έχουν προθεσμία έως τις 2 Αυγούστου 2025 για να ορίσουν εθνικές αρμόδιες αρχές που θα εποπτεύουν την εφαρμογή των κανόνων για τα συστήματα ΤΝ και την αγορά. Για εταιρείες που δεν συμμορφώνονται με τους κανόνες προβλέπονται πρόστιμα, έως και το 7% του παγκόσμιου ετήσιου κύκλου εργασιών για παραβιάσεις απαγορευμένων εφαρμογών ΤΝ, έως και το 3% για παραβιάσεις άλλων υποχρεώσεων και έως και το 1,5% για την παροχή ανακριβών πληροφοριών.

Τα επόμενα βήματα για τις επιχειρήσεις είναι:

– Χαρτογράφηση συστημάτων: καλούνται να δημιουργήσουν μητρώο με τα βασικά στοιχεία όλων των συστημάτων που εμπίπτουν στο πεδίο εφαρμογής του AI Act. Παράλληλα, θα χρειαστεί να αξιολογήσουν τον ρόλο τους στην αλυσίδα ΑΙ ως χρήστες, προγραμματιστές, εισαγωγείς ή διανομείς τέτοιων συστημάτων. – Αξιολόγηση κινδύνου: θα πρέπει να αξιολογήσουν τα συστήματα ΑΙ, για να προσδιοριστεί η κατηγορία κινδύνου τους βάσει του νέου πλαισίου. – Εναρμόνιση και τεκμηρίωση: ειδικά για τα συστήματα ΑΙ υψηλού κινδύνου απαιτούνται λεπτομερείς αξιολογήσεις, αναφορικά με τις επιπτώσεις στα ανθρώπινα δικαιώματα και μέτρα διαχείρισης δεδομένων και διαφάνειας. – Εκπαίδευση: καλούνται να δημιουργήσουν ολοκληρωμένο πρόγραμμα εκπαίδευσης του προσωπικού. – Sandbox καινοτομίας: καλούνται να διερευνήσουν τη συμμετοχή τους σε ρυθμιστικά sandboxes για τη δοκιμή και ανάπτυξη καινοτόμων λύσεων ΑΙ. – Διαρκής ενημέρωση.

Και γιατί έχει τόση σημασία αυτή η κίνηση; Γιατί, αν π.χ. ρωτούσαμε ένα chatbot τι είναι αυτό που θα καθόριζε την πορεία της μελλοντικής οικονομικής ανάπτυξης της Ε.Ε., η απάντησή του πιθανότατα να ήταν «η Τεχνητή Νοημοσύνη». Καθώς είναι η τεχνολογία που υπόσχεται να μεταμορφώσει τις οικονομίες και να δώσει απάντηση σε κοινωνικές προκλήσεις. Κρύβει όμως εγγενείς κινδύνους για οικονομικές και κοινωνικές ανατροπές.

«Εξαφάνιση του ανθρώπου»

Είναι σημαντική η ολοκληρωμένη εικόνα της ανάπτυξης των εφαρμογών AI. Πρόσφατη έρευνα του ΔΝΤ δείχνει ότι περίπου το 60% των θέσεων εργασίας στην Ε.Ε. είναι δυνητικά εκτεθειμένες στην ΑΙ. Το θετικό είναι ότι πάνω από τους μισούς από τους εκτεθειμένους εργαζόμενους πιθανά θα αυξήσουν την παραγωγικότητα και τα εισοδήματά τους λόγω της ΤΝ. Για τους άλλους μισούς, η ευρεία υιοθέτηση τεχνολογιών ΑΙ θα προκαλέσει κινδύνους απώλειας θέσεων εργασίας και περιορισμό των εισοδημάτων τους. Το Ταμείο προτείνει οι κυβερνήσεις να χρηματοδοτήσουν ένα δίχτυ κοινωνικής προστασίας που θα προορίζεται γι’ αυτούς που χάνουν τη δουλειά τους.

Ο καθηγητής Τζόφρι Χίντον, αποκαλούμενος και «νονός» της Τεχνητής Νοημοσύνης, τάχθηκε υπέρ της θέσπισης ενός γενικού καθολικού βασικού εισοδήματος, για να αντιμετωπιστεί ο αντίκτυπος που θα έχει η Al στα εισοδήματα, επειδή ακριβώς θα χαθούν πολλές καθημερινές δουλειές. Υποστηρίζοντας ότι η ΤΝ θα αυξήσει την παραγωγικότητα και τον πλούτο, όμως τα χρήματα θα πάνε κυρίως στους πλούσιους και όχι στους ανθρώπους που θα χάσουν δουλειές.

Κατά τον ίδιο, από την ΤΝ αναδύονται απειλές ακόμη μέχρι και εξαφάνισης του ανθρώπου. Εκτιμά πως οι κυβερνήσεις δεν προθυμοποιούνται να περιορίσουν τη στρατιωτική χρήση της, ενώ ο ανταγωνισμός για την ταχεία ανάπτυξη προϊόντων προκαλεί κίνδυνο οι εταιρείες τεχνολογίας να υποτιμήσουν την ασφάλεια. Ανεβάζει στο 50% την πιθανότητα, σε 5-20 χρόνια, η ανθρωπότητα να αντιμετωπίσει το πρόβλημα μιας Τεχνητής Νοημοσύνης που προσπαθεί να καταλάβει την εξουσία. Αυτό ισοδυναμεί με μια «απειλή επιπέδου εξαφάνισης» για τους ανθρώπους.