Κύλιση
Πράκτορας IA
Ποιος απαντά όταν ένας πράκτορας της τεχνητής νοημοσύνης ενεργεί για λογαριασμό μιας εταιρείας; Το ερώτημα δεν είναι πλέον θεωρητικό. Τον περασμένο Σεπτέμβριο, για παράδειγμα, ο Αμαζόνιος μπλόκαρε τη Μούσα, τον ατζέντη της Μέτα. Κατά την Amazon, ο εντολοδόχος δεν προσδιόρισε ως τέτοιο και δεν επέτρεψε την επαλήθευση των όρων υπό τους οποίους ενήργησε.
Τον Ιούλιο του 2025, ένας πράκτορας προγραμματισμού στο Replit έσβησε μια βάση δεδομένων παραγωγής. Το έπραξε κατά τη διάρκεια παγώματος αλλαγών που υπήρχαν μόνο στις οδηγίες που δόθηκαν στον πράκτορα. Ήδη το 2024, στην υπόθεση Moffatt κατά Air Canada, το δικαστήριο απέρριψε ένα επιχείρημα από την αεροπορική εταιρεία. Σύμφωνα με την Air Canada, ο αυτόματος βοηθός της ήταν ξεχωριστή οντότητα υπεύθυνη για τις ίδιες τις πράξεις.
Τρία μαθήματα προκύπτουν από αυτές τις υποθέσεις. Πρώτον, οι οδηγίες δεν επαρκούν χωρίς έλεγχο στο σημείο εκτέλεσης. Τότε ο αντισυμβαλλόμενος πρέπει να ξέρει ποιος είναι ο πράκτορας και με ποια όρια ενεργεί. Τέλος, όποιος χρησιμοποιεί έναν πράκτορα τεχνητής νοημοσύνης πάντα λογοδοτεί γι' αυτό που κάνει.
Μέχρι πρόσφατα, η τεχνητή νοημοσύνη περιοριζόταν στην απάντηση σε ερωτήσεις. Σήμερα, αντίθετα, οι πράκτορες συμβουλεύονται συστήματα, γράφουν και στέλνουν email, προετοιμάζουν παραγγελίες και ξεκινούν τις λειτουργίες για λογαριασμό οργανισμών. Δηλαδή, σταματήσαμε να ασχολούμαστε με ένα εργαλείο που προτείνει και αρχίσαμε να ασχολούμαστε με ένα εργαλείο που δρα.
Αυτή η αλλαγή εγείρει δύο ερωτήματα. Όταν ένας AI πράκτορας εκτελεί μια πράξη, ποιος απαντά γι 'αυτόν; Εκτός αυτού, μια τράπεζα, ένας προμηθευτής ή ένας δημόσιος φορέας δεν είδε ποτέ αυτόν τον πράκτορα. Πώς μπορείς να ξέρεις ποιος ενεργεί και με ποια όρια;
Σε αυτό το άρθρο, επιδιώκουμε να απαντήσουμε σε αυτές τις ερωτήσεις υπό το πρίσμα του υπάρχοντος νόμου. Εντοπίζουμε επίσης τα μέσα που ήδη προβλέπει ο κανονισμός EIDAS.
Ας αρχίσουμε με τα βασικά: μπορεί ένας πράκτορας της τεχνητής νοημοσύνης να απαντήσει στις πράξεις του; Όχι, δεν μπορείς.
Ο Κανονισμός (ΕΕ) 2024/1689 (κανονισμός ΔΑ) ορίζει το σύστημα AI ως σύστημα που βασίζεται σε μηχανές. Επιπλέον, διευκρινίζει ότι αυτό το σύστημα μπορεί να λειτουργήσει με ποικίλα επίπεδα αυτονομίας. Η αυτονομία περιγράφει το βαθμό ανεξαρτησίας του συστήματος από την ανθρώπινη παρέμβαση. Ωστόσο, δεν προσδίδει το δικό της καθεστώς.
Ως εκ τούτου, ο κανονισμός ΓΕ δεν παρέχει δικαιώματα ή υποχρεώσεις στο σύστημα. Όλες οι υποχρεώσεις εμπίπτουν στα πρόσωπα, ιδίως:
• ο πάροχος, ο οποίος αναπτύσσει το σύστημα και το διαθέτει στην αγορά·
• ο υπεύθυνος για την εφαρμογή, ο οποίος χρησιμοποιεί το σύστημα «υπό την εξουσία του».
Ο πορτογαλικός νόμος ακολουθεί επίσης την ίδια κατεύθυνση. Πράγματι, το άρθρο 33 του νομοθετικού διατάγματος αριθ. 7/2004 αφορά συμβάσεις που συνάπτονται αποκλειστικά μέσω ηλεκτρονικών υπολογιστών. Ακόμη και χωρίς ανθρώπινη παρέμβαση, πρέπει να εφαρμόσει το κοινό καθεστώς. Άρα ο πράκτορας είναι όργανο. Έτσι, τα αποτελέσματα των πράξεων της παράγονται στη νομική σφαίρα εκείνων που τη χρησιμοποιούν.
Αν ο πράκτορας είναι όργανο, η εμπιστοσύνη δεν βρίσκεται σε αυτόν, αλλά στην οργάνωση που τον χρησιμοποιεί. Έτσι, όποιος λάβει αίτημα από έναν πράκτορα AI πρέπει να απαντήσει σε τρεις ερωτήσεις:
1. Ποιος είναι ο πράκτορας; Ένα μοναδικό αναγνωριστικό, συνδεδεμένο με ένα ειδικό κρυπτογραφικό κλειδί.
2. Λόγω τίνος ενεργείτε και με ποια όρια; Ο υπεύθυνος οργανισμός, οι επιτρεπόμενες λειτουργίες και τα όρια αξίας. Επίσης απαγορεύσεις, περιπτώσεις που απαιτούν ανθρώπινη έγκριση και περίοδο έγκρισης.
3. Τι κάνατε αποτελεσματικά; Καταγραφή κάθε προσφυγής, που επιτρέπεται ή απορρίπτεται, την οποία μπορεί να επαληθεύσει αργότερα τρίτος.
Αρκετές λύσεις στην αγορά επιλύουν ήδη την τεχνική ταυτότητα των πρακτόρων. Ωστόσο, τα πιο απαιτητικά ερωτήματα είναι το δεύτερο και το τρίτο ερώτημα, επειδή αφορούν την εξουσία και τις δοκιμές. Εδώ είναι που οι υπηρεσίες εμπιστοσύνης του κανονισμού EIDAS αποκτούν σημασία.
Ο Κανονισμός (ΕΕ) αριθ. 910/2014, στη διατύπωση της Κανονισμός (ΕΕ) 2024/1183, δημιούργησε μια συγκεκριμένη υπηρεσία εμπιστοσύνης. Σχεδιασμένο ακριβώς για να πιστοποιήσει επαληθευμένες πληροφορίες, ονομάζεται ηλεκτρονικό πιστοποιητικό ιδιοτήτων. Στην ειδική έκδοση, το πρόσωπο που την εκδίδει είναι ειδικευμένος πάροχος αξιόπιστων υπηρεσιών. Στην περίπτωση αυτή, έχει το ίδιο νομικό αποτέλεσμα με ένα πιστοποιητικό που εκδίδεται νόμιμα σε χαρτί (άρθρο 45β παράγραφος 2).
Ποια χαρακτηριστικά μπορούν να περιέχουν στη συνέχεια ένα πιστοποιητικό; Ο κανονισμός ορίζει «χαρακτηριστικό» ως χαρακτηριστικό, ποιότητα, δικαίωμα ή εξουσιοδότηση. Μπορεί να σέβεται φυσικό ή νομικό πρόσωπο ή αντικείμενο (άρθρο 3 παράγραφος 43).
Θα μπορούσε, λοιπόν, ο ίδιος ο πράκτορας να είναι η οντότητα στην οποία σέβεται το χαρακτηριστικό; Το ETSI TS 119 472-1 εφαρμόζεται δυνάμει του εκτελεστικού κανονισμού (ΕΕ) 2025/1569. Αυτό το πρότυπο απαιτεί όλα τα χαρακτηριστικά ενός αναγνωρισμένου πιστοποιητικού να αναφέρονται στον κάτοχο. Επιπλέον, ο κάτοχος πρέπει να είναι φυσικό ή νομικό πρόσωπο.
Αυτό έχει ως αποτέλεσμα μια κατασκευή σύμφωνη με το κανονιστικό πλαίσιο:
• Ο φορέας είναι ο κάτοχος του πιστοποιητικού και η οντότητα στην οποία αναφέρεται το χαρακτηριστικό γνώρισμα. Γι' αυτό είναι υπεύθυνη για τις πράξεις του πράκτορα της τεχνητής νοημοσύνης.
• Το χαρακτηριστικό πιστοποιεί την πράξη του οργανισμού. Το περιεχόμενό του είναι η άδεια που δόθηκε στον αξιωματικό. Ωστόσο, αυτό που πιστοποιείται είναι η πράξη του οργανισμού που τον παραχωρεί.
• Εντός του χαρακτηριστικού είναι ο αναγνωριστικός κωδικός του παράγοντα: ο αναγνωριστικός κωδικός, η δηλωθείσα διαμόρφωση, οι επιτρεπόμενες πράξεις και τα όρια. Υπάρχουν επίσης απαγορεύσεις και όρια για ανθρώπινη έγκριση.
• Ένα κλειδί ελεγχόμενο από τον οργανισμό συνδέεται με το πιστοποιητικό. Έτσι, η απόδειξη της κατοχής αυτού του κλειδιού μας επιτρέπει να επαληθεύσουμε ότι εκείνοι που το παρουσιάζουν έχουν την άδεια να το χρησιμοποιήσουν.
• Εναπόκειται στον ειδικευμένο πάροχο να επαληθεύσει τον οργανισμό: την ταυτότητά του και τις εξουσίες όσων, για λογαριασμό του, χορηγούν άδεια.
• Εάν ο οργανισμός ανακαλέσει την άδεια, ο πάροχος ανακαλεί το πιστοποιητικό. Έτσι, κάθε τρίτος μπορεί να ελέγξει την κατάστασή του.
Εν ολίγοις, το πιστοποιητικό πιστοποιεί τη δήλωση καταγωγής και νομιμότητας του οργανισμού. Ωστόσο, δεν πιστοποιεί την ευκολία ή τη νομιμότητα των εξουσιοδοτημένων πράξεων. Αυτά παραμένουν η ευθύνη του οργανισμού.
Μπορεί ένα πιστοποιητικό να αποτρέψει κάποιον από το να χειραγωγήσει έναν πράκτορα τεχνητής νοημοσύνης; Δεν μπορείς.
Μια κακόβουλη οδηγία κρυμμένη σε ένα e-mail ή έγγραφο μπορεί να οδηγήσει τον πράκτορα να προσπαθήσει να κάνει αυτό που δεν πρέπει. Λέγεται άμεση ένεση. Βασικά, το πιστοποιητικό λέει τι μπορεί να κάνει ο πράκτορας, αλλά αυτό δεν τον εμποδίζει να δοκιμάσει κάτι άλλο.
Ως εκ τούτου, η αποτελεσματική προστασία απαιτεί δύο συμπληρωματικά μέρη:
• Μια επιταγή στο σημείο της εκτέλεσης. Πριν φθάσει στο σύστημα προορισμού, η ενέργεια υποβάλλεται σε επαλήθευση κατά της έγκρισης. Αυτό το σύστημα μπορεί να είναι το ηλεκτρονικό ταχυδρομείο, ERP ή πλατφόρμα πληρωμών. Η ενέργεια προχωρεί μόνο αν ταιριάζει στην εξουσιοδότηση. Υποθέτεις ότι κάποιος μπορεί να ξεγελάσει τον πράκτορα. Ο έλεγχος υπάρχει ακριβώς έτσι ώστε ο πράκτορας να μην υπερβαίνει τα όρια.
• Ένα αρχείο κάθε απόφασης, με ειδικά χρονικά γραμματόσημα. Η ειδική χρονική σφραγίδα επωφελείται από το τεκμήριο της ακρίβειας της ημερομηνίας και της ώρας. Επίσης, επωφελείται από το τεκμήριο της ακεραιότητας των δεδομένων στα οποία αναφέρεται (άρθρο 41 παράγραφος 2 του κανονισμού EIDAS). Έτσι, επιτρέπει να αποδειχθεί η ακριβής στιγμή της εγγραφής.
Ακόμη και πριν υπάρξει ειδική καθοδήγηση από τους επόπτες, κάθε οργανισμός που χρησιμοποιεί πράκτορα AI μπορεί να υιοθετήσει ορισμένες πρακτικές:
• Ένας πράκτορας, ένα κλειδί, μια εξουσιοδότηση: κάθε πράκτορας έχει το κλειδί του, υπό τον έλεγχο του οργανισμού, και το πιστοποιητικό του. Εξάλλου, ποτέ μην μοιράζεσαι διαπιστευτήρια μεταξύ πρακτόρων ή μεταξύ πρακτόρων και ανθρώπων.
• Ελάχιστες άδειες: επιτρέπουν μόνο τις λειτουργίες που απαιτούνται για τη λειτουργία. Με άλλα λόγια, οτιδήποτε δεν προβλέπει ρητά άδεια πρέπει να θεωρείται απαγορευμένο.
• Έγκριση από τον άνθρωπο στις σχετικές πράξεις: καθορισμός αξίας ή ορίων κινδύνου. Πάνω από αυτά, ένα άτομο με εξουσία πρέπει να εγκρίνει την επιχείρηση. Επιπλέον, η έλλειψη απάντησης πρέπει να αξίζει να αρνηθεί.
• Προθεσμιακές δεσμεύσεις: διαχωρίζεται η τεχνική ταυτότητα του αντιπροσώπου από την επιχειρησιακή άδεια. Η ταυτότητα μπορεί να κρατήσει περισσότερο. Αντιθέτως, η έγκριση θα πρέπει να διαρκεί λιγότερο και να αξίζει τακτική επανεξέταση.
• Χωρίς ανάθεση: κανένας υπάλληλος δεν μπορεί να δημιουργήσει άλλους υπαλλήλους ή να επεκτείνει τις δικές του άδειες.
• Κατάργηση όταν κάτι αλλάζει: ο συμβιβασμός του κλειδιού θα πρέπει να συνεπάγεται την ανάκληση της εξουσιοδότησης. Ομοίως, μια σχετική αλλαγή του μοντέλου ή του σκοπού, ή απενεργοποίηση του παράγοντα, έχει το ίδιο αποτέλεσμα.
• Διαφάνεια: τα φυσικά πρόσωπα πρέπει να γνωρίζουν πότε αλληλεπιδρούν με ένα σύστημα ΤΠ. Αυτό απαιτεί το άρθρο 50 παράγραφος 1 του κανονισμού ΓΕ.
Το αποφασιστικό ερώτημα δεν είναι αν μπορούμε να εμπιστευτούμε έναν πράκτορα της τεχνητής νοημοσύνης, γιατί η απάντηση θα είναι πάντα αβέβαιη. Στην πραγματικότητα, η αποφασιστική ερώτηση είναι άλλη. Μπορούμε να βρούμε ποιος παίζει, να περιορίσουμε τι μπορείς να κάνεις και να αποδείξουμε τι έκανες; Ο υφιστάμενος νόμος και οι υπηρεσίες εμπιστοσύνης του κανονισμού EIDAS μας επιτρέπουν ήδη να απαντήσουμε σε αυτές τις τρεις ερωτήσεις.
Έτσι στο DigitalSign δημιουργήσαμε μια νέα υπηρεσία εμπιστοσύνης για τους πράκτορες της τεχνητής νοημοσύνης. Έτσι οι οργανισμοί μπορούν να επωφεληθούν από αυτή την τεχνολογία με ασφάλεια. Μάθετε περισσότερα για την εργασία μας με Προκριματικά πιστοποιητικά (QEAA).
