Του Γιάννη Μαστρογεωργίου*
Δεν είναι όσο απλό ακούγεται. Ας το σκεφτούμε λίγο περισσότερο. Τι σημαίνει ότι ένα ρομπότ μπορεί να αποκτήσει ταυτότητα; Να έχει αναγνωρισμένη προσωπικότητα. Τι δικαιώματα του αναγνωρίζονται; Τι υποχρεώσεις; Τι ευθύνες; Τι θα σημάνει αυτό για τη σχέση των έξυπνων μηχανών με τον άνθρωπο; Τι θα σημαίνει για την εξέλιξη του ανθρώπου ως προς τη δική του υπόσταση.
Ενώ τα αυτόνομα ρομπότ με ανθρώπινες και ολοκληρωμένες δυνατότητες απέχουν ακόμα δεκαετίες από την πλήρη ανάπτυξη τους, οι ευρωπαίοι νομοθέτες, οι νομικοί εμπειρογνώμονες και οι κατασκευαστές είναι ήδη εγκλωβισμένοι σε μια συζήτηση σχετικά με το νομικό τους καθεστώς: είτε πρόκειται για τις μηχανές είτε για τους ανθρώπους που πρέπει να φέρουν την τελική ευθύνη για ενέργειες των ρομπότ.
Η συζήτηση πηγαίνει πίσω σε μια παράγραφο του κειμένου, που θάφτηκε βαθιά σε μια έκθεση του Ευρωπαϊκού Κοινοβουλίου στις αρχές του 2017, που αναφέρει ότι τα ρομπότ θα μπορούσαν να έχουν "ηλεκτρονικές προσωπικότητες".
Εκείνοι που πιέζουν για μια τέτοια αλλαγή, είναι κυρίως ορισμένοι κατασκευαστές και οι θυγατρικές τους, λένε ότι η πρόταση έχει κοινή λογική.
Η νομική προσωπικότητα δεν θα έκανε τα ρομπότ εικονικούς ανθρώπους που μπορούν να παντρευτούν και να επωφεληθούν από τα ανθρώπινα δικαιώματα, ισχυρίζονται, απλώς θα τους έδινε την ίδια αξία με εταιρείες, οι οποίες έχουν ήδη καθεστώς νομικών προσώπων και αντιμετωπίζονται ως τέτοιες από δικαστήρια σε όλο τον κόσμο.
Όμως, τα ρομπότ και η τεχνητή νοημοσύνη ανάγονται πλέον σε πολιτικά ζητήματα και στις δύο πλευρές του Ατλαντικού. Σε μια επιστολή προς την Ευρωπαϊκή Επιτροπή, 156 εμπειρογνώμονες τεχνητής νοημοσύνης που προέρχονται από 14 ευρωπαϊκές χώρες, συμπεριλαμβανομένων επιστημόνων υπολογιστών, καθηγητών νομικών και επικεφαλής εταιριών, προειδοποιούν ότι η χορήγηση νομικής προσωπικότητας στα ρομπότ θα ήταν «ακατάλληλη» από νομική και ηθική προοπτική.
Ευθύνη και Τεχνητή Νοημοσύνη (ΑΙ)
Η ευθύνη δεν συνίσταται μόνο στη γνώση και εφαρμογή κανόνων. Δεν αρκούν κάποια προκαθορισμένα ηθικά πλαίσια που να είναι ευαίσθητα σε ηθικές αρχές και στην ανθρώπινη αξιοπρέπεια.
Η υπευθυνότητα στην εποχή της Τεχνητής Νοημοσύνης, απαιτεί επίγνωση της σημασίας της ευθύνης και αυτό γίνεται μόνο όπου υπάρχει νοημοσύνη και όχι εξυπνάδα απλώς.
Επιπλέον, η υπεύθυνη AI είναι ζήτημα ρύθμισης και νομοθεσίας. Εναπόκειται στις κυβερνήσεις και στους πολίτες να καθορίσουν τον τρόπο ρύθμισης των ζητημάτων ευθύνης. Για παράδειγμα, ποιος θα είναι υπεύθυνος εάν ένα αυτοκίνητο χωρίς οδηγό χτυπήσει έναν πεζό; Είναι ο κατασκευαστής του υλικού (π.χ. των αισθητήρων που χρησιμοποιεί το αυτοκίνητο για να αντιληφθεί το περιβάλλον); ο κατασκευαστής του λογισμικού που επιτρέπει στο αυτοκίνητο να αποφασίσει για τη διαδρομή που θα επιλέξει; οι αρχές που επιτρέπουν το αυτοκίνητο στο δρόμο; ο ιδιοκτήτης που εξατομίκευσε τις ρυθμίσεις λήψης αποφάσεων αυτοκινήτου για να ικανοποιήσει τις προτιμήσεις του ο ίδιος; ή το ίδιο το αυτοκίνητο επειδή η συμπεριφορά του βασίζεται στη δική του «μάθηση»;
Δεύτερον, η υπεύθυνη AI υποδηλώνει την ανάγκη για μηχανισμούς που επιτρέπουν στα ίδια τα συστήματα AI να αιτιολογούν και να ενεργούν σύμφωνα με την ηθική και τις ανθρώπινες αξίες. Αυτό απαιτεί μοντέλα και αλγόριθμους που θα αντιπροσωπεύουν και θα αιτιολογούν και θα λαμβάνουν αποφάσεις με βάση τις ανθρώπινες αξίες και θα δικαιολογούν τις αποφάσεις τους ανάλογα με την επίδρασή τους στις αξίες αυτές. Οι σημερινοί μηχανισμοί μηχανικής μάθησης των μηχανών (deep learning) δεν είναι σε θέση να συνδέσουν ουσιαστικά τις αποφάσεις με τα δεδομένα που λαμβάνουν και επομένως δεν μπορούν να εξηγήσουν τις πράξεις τους με τρόπους που εμείς καταλαβαίνουμε.
Τρίτον, η συμμετοχή των πολιτών. Είναι απαραίτητο να κατανοήσουμε τον τρόπο με τον οποίο συνεργάζονται διαφορετικοί άνθρωποι μεταξύ τους με τις τεχνολογίες AI σε όλους τους πολιτισμούς προκειμένου να αναπτυχθούν αντιπροσωπευτικά πλαίσια για υπεύθυνη AI.
Στην πραγματικότητα, η AI δεν είναι αυτόνομη, αλλά πρέπει να νοείται ως μέρος των κοινωνικοτεχνικών σχέσεων. Εδώ η Παιδεία παίζει σημαντικό ρόλο, τόσο για να εξασφαλίσει ότι η γνώση της AI είναι ευρέως διαδεδομένη, όσο και για να κάνει συνείδηση στους ανθρώπους ότι μπορούν να συμμετάσχουν στη διαμόρφωση της κοινωνικής ανάπτυξης της.
Πώς μπορούμε να αναγνωρίσουμε τη δυνατότητα ανάληψης ευθύνης από ένα ρομπότ όταν δεν το κάνουμε για τις πράξεις ενός ανήλικου παιδιού μας ή του σκύλου μας;
Αν κάτι συμβεί εξαιτίας ενός λάθους του μικρού παιδιού μας ή του κατοικίδιου μας, την ευθύνη την αναλαμβάνουμε εμείς. Αν κάτι συμβεί εξαιτίας του ρομπότ ή της έξυπνης μηχανής μας η ευθύνη αυτή πρέπει να βαρύνει τον άνθρωπο. Μόνο έτσι θα διασφαλίσουμε την διαρκή έλλογη και υπεύθυνη χρήση της τεχνολογίας από τον άνθρωπο.
«Σοφία»: ένα ρομπότ με ταυτότητα
Η Σαουδική Αραβία πέρυσι έδωσε ταυτότητα στο ρομπότ «Σοφία». Η πιο σημαντική ίσως ιδιότητα, εκείνη του πολίτη, δόθηκε σε μια μηχανή.
Η χορήγηση της ιδιότητας αυτής σε ένα ρομπότ είναι μια πράξη εμπιστοσύνης σε μια τεχνολογία που, ανεξαρτήτως αν είναι ή όχι ακόμη αξιόπιστη, προκαλεί κοινωνικά και δεοντολογικά ερωτήματα που προφανώς δεν είμαστε ακόμα έτοιμοι να διαχειριστούμε.
Καταρχάς, ποια είναι η Σοφία; Είναι ένα ρομπότ που αναπτύχθηκε από την Hanson Robotics με έδρα το Χονγκ Κονγκ. Η Σοφία έχει γυναικείο πρόσωπο που μπορεί να εμφανίζει συναισθήματα. Μιλάει αγγλικά. Κάνει αστεία και μπορεί να κάνει μία υποτυπώδη λογική συνομιλία.
Πώς μπορούμε όμως να εμπιστευθούμε την ιδιότητα του πολίτη σε αυτά τα συστήματα; Δεν έχουμε ακόμη αξιόπιστους μηχανισμούς που να μας διαβεβαιώνουν ότι αυτά τα έξυπνα συστήματα θα συμπεριφέρονται πάντα δεοντολογικά και σύμφωνα με τις ηθικές μας αξίες ή θα μας προστατεύουν από το να κάνουν κάτι λάθος με καταστροφικές συνέπειες – βέβαια ούτε οι άνθρωποι δίνουν αυτά τα εχέγγυα, αλλά αυτό είναι άλλη συζήτηση.
Κάθε άνθρωπος διαθέτει μια μοναδική ταυτότητα. Ο καθένας από εμάς, έχει μια υπογραφή που μας διακρίνει. Υπάρχει η δυνατότητα αναγνώρισης προσώπου, δακτυλικών αποτυπωμάτων, ίριδας κλπ.
Στη Σοφία τι είναι αυτό που της δίνει την ταυτότητα της; Ένα πχ barcode, ένα μοναδικό σήμα, ένα σήμα ήχου στη φωνή της, μια ηλεκτρομαγνητική υπογραφή παρόμοια με τα ανθρώπινα εγκεφαλικά κύματα;
Ας υποθέσουμε ότι η Σοφία είναι σε θέση να ψηφίσει. Ποιός αποφασίζει την ημέρα της κάλπης η Σοφία ή ο κατασκευαστής; Πιθανώς η Σοφία ως πολίτης είναι υποχρεωμένος να καταβάλει φόρους εισοδήματος.
Ας μιλήσουμε για σχέσεις και αναπαραγωγή.
Ως πολίτης, θα μπορεί το ανθρωποειδές συναισθηματικό ρομπότ, να «παντρευτεί» ή να «αναπαραχθεί» αν το επιλέξει; Οι σπουδαστές από το πανεπιστήμιο της Βόρειας Ντακότα δημιούργησαν ρομπότ που αυτοαναπαράγεται χρησιμοποιώντας τεχνολογίες εκτύπωσης 3D.
Η ταυτότητα είναι μία πολυδιάστατη έννοια. Βρίσκεται στη διασταύρωση του ποιοι είμαστε βιολογικά, γνωστικά και εμπλουτίζεται από την εμπειρία, τον πολιτισμό και το περιβάλλον που συναντήσαμε.
Δεν είναι σαφές πού βρίσκεται η Σοφία στην περιγραφή αυτή. Όμως, επειδή οι εξελίξεις και τρέχουν και δεν μας ρωτούν και θα δημιουργήσουν κοινωνικές αλλαγές, αυτό που πρέπει να κάνουμε είναι να προσαρμόσουμε τη νομοθεσίας, ώστε να μη βρεθούμε μπροστά σε φαινόμενα που δεν τα έχουμε φανταστεί ή μάλλον που πιστεύαμε ότι ήταν μόνο φαντασία.
* Ο κ. Γιάννης Μαστρογεωργίου είναι Διευθυντής του ΔΙΚΤΥΟΥ.
Φωτογραφία: Shutterstock
