Ο Ευρωπαϊκός Κανονισμός AI Act για την Τεχνητή Νοημοσύνη (AI/ TN).

Η Τεχνητή Νοημοσύνη (TN) περνά σταδιακά από την καινοτομία στη ρύθμιση και στο παρόν άρθρο θα εξηγήσουμε τι αλλάζει για τις επιχειρήσεις και γιατί το θέμα δεν αφορά μόνο τις εταιρείες τεχνολογίας.

AI Act τι είναι: Τι σημαίνει η νέα νομοθεσία για την Τεχνητή Νοημοσύνη στις επιχειρήσεις;

Η Τεχνητή Νοημοσύνη έχει ήδη εισέλθει στην καθημερινότητα χιλιάδων επιχειρήσεων. Από τη δημιουργία περιεχομένου και την εξυπηρέτηση πελατών μέχρι την ανάλυση δεδομένων και την αξιολόγηση βιογραφικών, όλο και περισσότερες λειτουργίες υποστηρίζονται πλέον από εργαλεία AI. Μέσα σε αυτό το περιβάλλον, η Ευρωπαϊκή Ένωση προχώρησε στη δημιουργία του AI Act, του πρώτου ολοκληρωμένου νομοθετικού πλαισίου παγκοσμίως για την Τεχνητή Νοημοσύνη. Το πρώτο λάθος που κάνουν πολλές επιχειρήσεις είναι να θεωρούν ότι η συγκεκριμένη νομοθεσία αφορά μόνο εταιρείες όπως η OpenAI, η Google ή η Microsoft. Στην πραγματικότητα, η σταδιακή εφαρμογή του AI Act επηρεάζει ολόκληρο το οικοσύστημα χρήσης της Τεχνητής Νοημοσύνης και όχι αποκλειστικά όσους την αναπτύσσουν.

Τι είναι ο AI Act και γιατί εκδόθηκε;

Το AI Act είναι ο νέος ευρωπαϊκός κανονισμός που δημιουργήθηκε με στόχο να θέσει κανόνες για την ανάπτυξη και τη χρήση συστημάτων Τεχνητής Νοημοσύνης. Η φιλοσοφία του βασίζεται στη διαχείριση κινδύνου. Αυτό σημαίνει ότι δεν αντιμετωπίζονται όλα τα συστήματα AI με τον ίδιο τρόπο. Όσο μεγαλύτερη είναι η πιθανή επίδραση ενός συστήματος σε πολίτες, εργαζομένους ή οργανισμούς, τόσο αυξάνονται και οι απαιτήσεις που το συνοδεύουν.

Με απλά λόγια, διαφορετικές απαιτήσεις θα έχει ένα εργαλείο που δημιουργεί κείμενα Marketing και διαφορετικές ένα σύστημα που συμμετέχει στην αξιολόγηση προσωπικού ή στη λήψη αποφάσεων που επηρεάζουν ανθρώπους.

Οι τέσσερις κατηγορίες κινδύνου του AI Act:

Το AI Act βασίζεται σε μία απλή αλλά ιδιαίτερα σημαντική λογική: δεν αντιμετωπίζονται όλα τα συστήματα Τεχνητής Νοημοσύνης με τον ίδιο τρόπο. Όσο μεγαλύτερος είναι ο πιθανός αντίκτυπος ενός συστήματος στα δικαιώματα, την ασφάλεια ή τις ελευθερίες των πολιτών, τόσο αυξάνονται και οι απαιτήσεις που το συνοδεύουν. Για τον λόγο αυτό ο Κανονισμός ταξινομεί τα συστήματα Τεχνητής Νοημοσύνης σε τέσσερις (4) βασικές κατηγορίες κινδύνου:

1. Μη Αποδεκτός Κίνδυνος (Unacceptable Risk): Πρόκειται για εφαρμογές που θεωρούνται ασύμβατες με τις ευρωπαϊκές αξίες και απαγορεύονται πλήρως. Παραδείγματα:

• Σύστημα που αξιολογεί τους πολίτες με βαθμολογία «καλού» ή «κακού» πολίτη ανάλογα με τη συμπεριφορά τους (social scoring).

• Σύστημα που χειραγωγεί υποσυνείδητα τη συμπεριφορά ευάλωτων ατόμων, όπως παιδιά ή ηλικιωμένους.

• Σύστημα που αναλύει τα συναισθήματα εργαζομένων σε πραγματικό χρόνο μέσα στον χώρο εργασίας για σκοπούς αξιολόγησης.

• Σύστημα ΤΝ που αξιολογεί/ βαθμολογεί την πιστοληπτική ικανότητα φυσικών προσώπων.

2. Υψηλός Κίνδυνος (High Risk): Αφορά συστήματα που μπορούν να επηρεάσουν σημαντικά την ασφάλεια, τα δικαιώματα ή τις ευκαιρίες των πολιτών, όπως εφαρμογές που χρησιμοποιούνται σε προσλήψεις προσωπικού, εκπαίδευση, υγεία ή κρίσιμες υποδομές. Οι κατηγορίες αυτές συνοδεύονται από τις αυστηρότερες απαιτήσεις τεκμηρίωσης, ελέγχου και διαχείρισης κινδύνων. Παραδείγματα:

• Σύστημα AI που αξιολογεί βιογραφικά και αποφασίζει ποιοι υποψήφιοι θα προχωρήσουν σε συνέντευξη.

• Σύστημα AI που βοηθά γιατρούς στη διάγνωση ασθενειών ή στην αξιολόγηση ιατρικών εξετάσεων.

• Σύστημα AI που χρησιμοποιείται για τη λειτουργία ή την ασφάλεια κρίσιμων υποδομών, όπως δίκτυα ενέργειας ή μεταφορών.

3. Περιορισμένος Κίνδυνος (Limited Risk): Περιλαμβάνει εφαρμογές όπου το κύριο ζητούμενο είναι η διαφάνεια. Για παράδειγμα, ο χρήστης θα πρέπει να γνωρίζει ότι αλληλεπιδρά με σύστημα Τεχνητής Νοημοσύνης ή ότι ένα περιεχόμενο έχει δημιουργηθεί με τη βοήθειά της. Παραδείγματα:

• Chatbot εξυπηρέτησης πελατών σε ιστοσελίδα που ενημερώνει τον χρήστη ότι συνομιλεί με AI.

• Εικόνα ή βίντεο που έχει δημιουργηθεί με εργαλεία Τεχνητής Νοημοσύνης και επισημαίνεται ως τέτοιο.

• Ψηφιακός βοηθός που απαντά σε ερωτήματα πελατών μέσω e-mail ή μηνυμάτων..

4. Ελάχιστος Κίνδυνος (Minimal Risk): Στην κατηγορία αυτή εντάσσεται η συντριπτική πλειονότητα των εφαρμογών AI που χρησιμοποιούνται σήμερα, χωρίς να συνοδεύονται από ειδικές κανονιστικές υποχρεώσεις. Παραδείγματα:

• Εργαλείο που βοηθά στη σύνταξη κειμένων Marketing ή αναρτήσεων στα Social Media.

• Εφαρμογή που προτείνει διορθώσεις σε κείμενα ή μεταφράσεις.

• Σύστημα που βοηθά στην οργάνωση συναντήσεων, εργασιών ή προσωπικής παραγωγικότητας.

Τι σημαίνουν πρακτικά οι κατηγορίες κινδύνου;

Η κατηγοριοποίηση του AI Act δεν αποτελεί θεωρητική ταξινόμηση, αλλά καθορίζει και το επίπεδο των υποχρεώσεων που συνοδεύουν κάθε σύστημα Τεχνητής Νοημοσύνης. Όσο αυξάνεται ο κίνδυνος για τα δικαιώματα, την ασφάλεια ή τις ευκαιρίες των πολιτών, τόσο αυξάνονται και οι απαιτήσεις συμμόρφωσης. Στα συστήματα Μη Αποδεκτού Κινδύνου, η χρήση τους απαγορεύεται πλήρως. Στα συστήματα Υψηλού Κινδύνου, οι οργανισμοί υποχρεούνται να εφαρμόζουν αυστηρά μέτρα τεκμηρίωσης, διαχείρισης κινδύνων, ανθρώπινης εποπτείας, κυβερνοασφάλειας και ελέγχου συμμόρφωσης. Στα συστήματα Περιορισμένου Κινδύνου, το κύριο βάρος δίνεται στη διαφάνεια και στην ενημέρωση του χρήστη ότι αλληλεπιδρά με Τεχνητή Νοημοσύνη ή με περιεχόμενο που έχει δημιουργηθεί μέσω αυτής. Τέλος, τα συστήματα Ελάχιστου Κινδύνου μπορούν να χρησιμοποιούνται χωρίς ειδικές κανονιστικές απαιτήσεις πέραν των γενικών κανόνων που ισχύουν για κάθε επιχείρηση. Με απλά λόγια, το AI Act δεν επιχειρεί να περιορίσει τη χρήση της Τεχνητής Νοημοσύνης, αλλά να διασφαλίσει ότι όσο μεγαλύτερη είναι η πιθανή επίδρασή της στους ανθρώπους, τόσο μεγαλύτερη είναι και η ευθύνη όσων τη σχεδιάζουν, τη διαθέτουν ή τη χρησιμοποιούν.

Η Τεχνητή Νοημοσύνη παύει σταδιακά να αποτελεί αποκλειστικά τεχνολογικό θέμα και μετατρέπεται σε ζήτημα διακυβέρνησης, διαχείρισης κινδύνων και οργανωτικής ωριμότητας.

Πού μπορεί να επηρεάσει μία επιχείρηση;

Για τις περισσότερες μικρομεσαίες επιχειρήσεις, οι επιπτώσεις του AI Act ενδέχεται να εμφανιστούν κυρίως σε τέσσερις τομείς.

1. Marketing και Επικοινωνία: Η παραγωγή κειμένων, εικόνων, βίντεο και διαφημιστικού περιεχομένου μέσω εργαλείων AI αυξάνεται διαρκώς. Η ανάγκη διαφάνειας σχετικά με το πώς παράγεται το περιεχόμενο αναμένεται να αποκτήσει μεγαλύτερη σημασία τα επόμενα χρόνια.

2. Ανθρώπινο Δυναμικό: Η χρήση συστημάτων που υποστηρίζουν την αξιολόγηση βιογραφικών, την επιλογή προσωπικού ή την αξιολόγηση εργαζομένων αποτελεί ένα από τα πεδία που εξετάζονται με ιδιαίτερη προσοχή από το νέο πλαίσιο.

3. Εξυπηρέτηση Πελατών: Τα chatbots και οι ψηφιακοί βοηθοί γίνονται ολοένα πιο συνηθισμένοι. Σε πολλές περιπτώσεις μπορεί να απαιτείται σαφής ενημέρωση ότι ο χρήστης αλληλεπιδρά με σύστημα Τεχνητής Νοημοσύνης.

4. Εταιρικές Λειτουργίες: Αναφορές, αναλύσεις, αυτοματισμοί και λήψη αποφάσεων υποστηρίζονται όλο και περισσότερο από εργαλεία AI, δημιουργώντας νέες ανάγκες ελέγχου και τεκμηρίωσης.

Ποιους αφορά το AI Act - Και όχι, δεν αφορά μόνο όσους αναπτύσσουν AI αλλά και όσους το χρησιμοποιούν:

Ένα από τα συχνότερα ερωτήματα που προκύπτουν γύρω από το AI Act είναι αν αφορά μόνο τις μεγάλες εταιρείες τεχνολογίας ή αν επηρεάζει και τις μικρομεσαίες επιχειρήσεις. Η απάντηση είναι ότι το AI Act δεν εστιάζει αποκλειστικά στο μέγεθος ή στον κλάδο δραστηριότητας μιας επιχείρησης, αλλά κυρίως στον τρόπο με τον οποίο αναπτύσσονται, διαθέτονται ή χρησιμοποιούνται συστήματα Τεχνητής Νοημοσύνης.

Οπότε υπάρχει η λάθος αντίληψη ότι το θέμα αφορά μόνον σε πολύ μεγάλες επιχειρήσεις, ιδότι η νομοθεσία αφορά και μικρότερες εταιρείες που είτε αναπτύσσουν συστήματα AI, είτε αξιοποιούν σε ευρεία κλίμακα την τεχνητή νοημοσύνη, άρα στην πραγματικότητα, επηρεάζει σε διαφορετικό βαθμό και οργανισμούς που αξιοποιούν ήδη εργαλεία Τεχνητής Νοημοσύνης στην καθημερινή τους λειτουργία.

Παραδείγματα αποτελούν:

• Εργαλεία δημιουργίας περιεχομένου.

• Chatbots εξυπηρέτησης πελατών.

• Εφαρμογές ανάλυσης δεδομένων.

• Εργαλεία παραγωγής εικόνων και βίντεο.

• Πλατφόρμες αξιολόγησης υποψηφίων εργαζομένων.

• Συστήματα CRM με ενσωματωμένες λειτουργίες AI.

Με άλλα λόγια, το ερώτημα δεν είναι μόνο ποιος αναπτύσσει Τεχνητή Νοημοσύνη αλλά και ποιος τη χρησιμοποιεί.

Πρόστιμα και κυρώσεις:

Παράλληλα, ο Κανονισμός προβλέπει σημαντικές διοικητικές κυρώσεις για σοβαρές παραβάσεις. Ανάλογα με τη φύση της παράβασης, τα πρόστιμα μπορούν να φθάσουν έως και τα 35 εκατομμύρια ευρώ ή το 7% του παγκόσμιου ετήσιου κύκλου εργασιών μιας επιχείρησης, γεγονός που καταδεικνύει τη βαρύτητα που αποδίδει η Ευρωπαϊκή Ένωση στο συγκεκριμένο πεδίο. Ωστόσο, για τις περισσότερες μικρομεσαίες επιχειρήσεις μεγαλύτερη σημασία έχει η κατανόηση των υποχρεώσεων και η ορθή χρήση των εργαλείων AI παρά η ανησυχία για τις κυρώσεις.

Χρονικά ορόσημα εφαρμογής:

Αξίζει επίσης να σημειωθεί ότι η εφαρμογή του AI Act δεν πραγματοποιείται μονομιάς αλλά σταδιακά. Οι πρώτες διατάξεις έχουν ήδη τεθεί σε ισχύ, ενώ οι υπόλοιπες ενεργοποιούνται τμηματικά κατά την περίοδο 2025 έως και τον Αύγοστο του 2027, ανάλογα με την κατηγορία των συστημάτων Τεχνητής Νοημοσύνης και τις αντίστοιχες υποχρεώσεις που προβλέπονται. Αυτό σημαίνει ότι, παρότι πολλές επιχειρήσεις ενδέχεται να μην επηρεαστούν άμεσα σήμερα, είναι σκόπιμο να αρχίσουν από τώρα να κατανοούν πώς χρησιμοποιείται η Τεχνητή Νοημοσύνη στις λειτουργίες τους και ποιες οργανωτικές προσαρμογές ενδέχεται να απαιτηθούν στο μέλλον.

• Στο .pdf που υπάρχει στο τέλος το άρθρο, μπορείτε να κατεβάσετε τον Ευρωπαϊκό Κανονισμό ή/ και να δείτε σχετικώς στο Άρθρο 113, όπου περιγράφονται τα αναλυτικά χρονικά ορόσημα έναρξης ισχύος.

Τι μπορεί να ζητηθεί από τις επιχειρήσεις στο μέλλον;

Το σημαντικότερο ίσως μήνυμα του AI Act δεν είναι τα πρόστιμα ή οι κυρώσεις. Είναι η κατεύθυνση προς την οποία κινείται η αγορά. Όπως συνέβη με το ESG, το NIS2 και άλλες ευρωπαϊκές πρωτοβουλίες, το ζητούμενο φαίνεται να είναι η δημιουργία ενός περιβάλλοντος μεγαλύτερης διαφάνειας, λογοδοσίας και τεκμηρίωσης. Αυτό σημαίνει ότι σταδιακά μπορεί να αυξηθεί η ανάγκη για:

• Πολιτικές χρήσης Τεχνητής Νοημοσύνης.

• Καταγραφή και χαρτογράφηση εργαλείων AI.

• Εκπαίδευση προσωπικού.

• Διαδικασίες ελέγχου και αξιολόγησης.

• Μηχανισμούς διαχείρισης κινδύνων.

Σήμερα μία μικρομεσαία επιχείρηση ενδέχεται να μη χρειάζεται τίποτα από τα παραπάνω. Αύριο όμως ένας πελάτης, ένας συνεργάτης, ένας διαγωνισμός, μία πιστοποίηση ή ένα χρηματοδοτικό πρόγραμμα μπορεί να ζητήσει αποδείξεις υπεύθυνης χρήσης της Τεχνητής Νοημοσύνης.

Ακόμα και μικρότερες επιχειρήσεις πρέπει να συμμορφώνονται αναλογικά με τον AI ACT - γιατί αποτελούν κρίσιμο κρίκο στην προστιθέμενη αξία μεγαλύτερων επιχειρήσεων που πρέπει να τηρούν τον AI ACT.

AI Act, NIS2 και ESG: Μία κοινή ευρωπαϊκή κατεύθυνση:

Παρότι αφορούν διαφορετικά αντικείμενα, οι νομοθεσίες αυτές φαίνεται να ακολουθούν μία κοινή φιλοσοφία. Η Ευρωπαϊκή Ένωση ζητά ολοένα και περισσότερο από τους οργανισμούς να μπορούν να αποδεικνύουν: Τι κάνουν. Πώς το κάνουν. Ποιος είναι υπεύθυνος. Ποιους κινδύνους έχουν εντοπίσει και κυρίως πώς τους διαχειρίζονται.

Και αυτός είναι και ο λόγος που έννοιες όπως οι διαδικασίες, οι πολιτικές, οι μηχανισμοί εσωτερικού ελέγχου και η διαχείριση κινδύνων εμφανίζονται ολοένα συχνότερα σε διαφορετικά νομοθετικά και κανονιστικά πλαίσια.

Αρχεία Νομοθεσίας (Κατεβάστε):

CELEX_202401689 (AI ACT) ΠΕΡΙ ΤΕΧΝΗΤΗΣ ΝΟΗΜΟΣΥΝΗΣ (ΚΑΝΟΝΙΣΜΟΣ (ΕΕ) 2024_1689).pdf

Λήψη PDF • 2.62MB

---

Συμπέρασμα

Το AI Act δεν αποτελεί απλώς μία ακόμη ευρωπαϊκή νομοθεσία για την τεχνολογία. Αποτελεί ένδειξη ότι η Τεχνητή Νοημοσύνη εισέρχεται σε μία νέα φάση ωριμότητας, όπου η χρήση της δεν θα αξιολογείται μόνο με βάση τις δυνατότητές της, αλλά και με βάση την υπευθυνότητα, τη διαφάνεια και τη διαχείριση των κινδύνων που τη συνοδεύουν. Για τις μικρομεσαίες επιχειρήσεις, το ζητούμενο σήμερα δεν είναι η δημιουργία πολύπλοκων μηχανισμών συμμόρφωσης. Είναι η κατανόηση της κατεύθυνσης προς την οποία κινείται η αγορά και η σταδιακή ανάπτυξη των διαδικασιών και των δομών που θα επιτρέψουν την ασφαλή, υπεύθυνη και αποδοτική αξιοποίηση της Τεχνητής Νοημοσύνης τα επόμενα χρόνια.

Γεώργιος Δασκαλέλος

Σύμβουλος Στρατηγικής Marketing, Εταιρικών Λειτουργιών και Ψηφιακού Μετασχηματισμού