Καθώς αυξάνονται οι ανησυχίες σχετικά με την πιθανότητα παραπλάνησης ατόμων από περιεχόμενο που δημιουργείται μέσω Τεχνητής Νοημοσύνης (AI), οφείλουμε να θυμόμαστε ότι η εκμετάλλευση των ασυμμετριών στην πληροφόρηση δεν είναι κάτι νέο.
Οι κομπογιαννίτες και η διαφημιστική βιομηχανία εδώ και πολύ καιρό είναι «φειδωλοί με την αλήθεια» για να πείσουν αφελείς καταναλωτές να αγοράσουν τα προϊόντα τους. Ευτυχώς, η έκθεση σε τέτοιου είδους τη μπαγαποντιά στον φυσικό κόσμο έχει διευκολύνει την απόκτηση της πρακτικής γνώσης που βοηθά να μειωθεί το κόστος της εξαπάτησης στο ψηφιακό περιβάλλον. Έχει πάντως νόημα να εστιάσουμε την προσοχή μας πέρα από τις σχετικές τεχνολογίες για την προστασία των ευάλωτων καταναλωτών και την αποτροπή ορισμένων από τα χειρότερα αποτελέσματα από την κακή χρήση της τεχνολογίας.
Μια βασική ανησυχία ως προς την τεχνητή νοημοσύνη είναι η ασυμμετρία της πληροφόρησης: Ο καταναλωτής ενός περιεχομένου που δημιουργείται από τεχνητή νοημοσύνη δεν γνωρίζει εάν το περιεχόμενο που καταναλώνει είναι μια αντανακλά την πραγματικότητα ή πρόκειται για μια ψηφιακή δημιουργία ή χειραγώγηση - ο εκδότης όμως το γνωρίζει. Η υπέρβαση αυτής της ασυμμετρίας είναι ένα από τα επιχειρήματα που χρησιμοποιούνται υπέρ της θέσπισης κανονισμών που απαιτούν τη ρητή επισήμανση του περιεχομένου που δημιουργείται από AI.
Μερικές φορές, καμία ζημιά δεν προξενείται αν δεν το γνωρίζει αυτό ο καταναλωτής. Για παράδειγμα, στην περίπτωση που δεν μου πει κάποιος ότι οι εξωγήινοι σε μια ταινία επιστημονικής φαντασίας έχουν δημιουργηθεί από υπολογιστή, είναι μάλλον απίθανο να πάθω κάτι κακό.
Πράγματι, μπορεί να απολαύσω την ταινία λιγότερο αν μου το υπενθυμίζουν αυτό πριν από την έναρξη της ταινίας ή εάν η πληροφορία αυτή εμφανίζεται στην οθόνη όταν οι εξωγήινοι βρίσκονται σε δράση. Μερικές φορές όμως όντως προκαλείται ζημιά αν ο καταναλωτής δεν το γνωρίζει αυτό -για παράδειγμα, όταν ένα βίντεο δείχνει έναν πολιτικό να λέει ή να κάνει πράγματα που δεν είπε και δεν έκανε στην πραγματικότητα. Ωστόσο, ακόμη και εδώ, τα πράγματα δεν είναι απολύτως ξεκάθαρα. Εάν κάποιος σατιρίζει έναν πολιτικό για λόγους διασκέδασης, τότε η επισήμανση είναι πιθανότατα περιττή (και ακόμη και δυνητικά επιβλαβής εάν μειώνει την εμπειρία της ψυχαγωγίας).
Αλλά εάν πρόκειται για μια προεκλογική διαφήμιση και η πρόθεση είναι να πειστούν οι ψηφοφόροι ότι τα γεγονότα που απεικονίζονται είναι πραγματικά και όχι φανταστικά, τότε η ασυμμετρία αποκτά μια πολύ πραγματική υπόσταση.
Αυτά τα παραδείγματα δείχνουν ότι υπάρχουν τουλάχιστον δύο ασυμμετρίες πληροφόρησης — η μία αφορά τη δημιουργία περιεχομένου και η άλλη τις προθέσεις του δημιουργού. Η πιθανότητα βλάβης δεν προέρχεται συγκεκριμένα από τον τρόπο δημιουργίας του περιεχομένου, αλλά από τα κίνητρα για τη χρήση του.
Όταν το περιεχόμενο που προβάλλεται (ανεξάρτητα από το πώς δημιουργήθηκε) έχει σκοπό να εξαπατήσει τον καταναλωτή, τότε ο καταναλωτής χρειάζεται τρόπους διάκρισης των «ψευδών ειδήσεων» (ένας τύπος «φτηνής ομιλίας» [cheap talk], όπου στην οποία κάποιος επισημαίνει κάτι που ισχυρίζεται ότι είναι κάτι που δεν είναι) από τις αξιόπιστες δεσμεύσεις (στις οποίες μπορεί κανείς να πιστέψει πως αυτό που ισχυρίζεται ο προμηθευτής της πληροφορίας ισχύει).
Το περίφημο «Market for Lemons» του George A. Akerlof έδειξε πως όταν δεν είναι εύκολο να διακρίνει κανείς ένα ψέμα από μια αξιόπιστη δέσμευση, τότε ένα εργαλείο που είναι «δαπανηρό να παραποιηθεί» επιτρέπει τη διάκριση των αληθινών ισχυρισμών από τους ψευδείς. Για να το καταδείξει αυτό, ο Akerlof εξήγησε το πώς προσφέρονται εγγυήσεις για μεταχειρισμένα αυτοκίνητα για να ξεχωριστούν τα «λεμόνια» (τα αυτοκίνητα που ο πωλητής ξέρει ότι είναι ελαττωματικά) από τα «ροδάκινα» (τα αυτοκίνητα που ο πωλητής ξέρει ότι δεν είναι ελαττωματικά).
Ενώ όλοι οι πωλητές θα ισχυριστούν ότι τα αυτοκίνητά τους είναι καλά, μόνο οι πωλητές των «ροδάκινων» θα προσφέρουν εγγύηση. Καθώς γνωρίζουν ότι τα αυτοκίνητά τους δεν είναι ελαττωματικά, είναι απίθανο να χρειαστεί να πληρώσουν για επισκευές βλαβών του αυτοκινήτου κατά τη διάρκεια της περιόδου εγγύησης. Δεδομένου ότι ο πωλητής θα επωμιστεί κόστος εάν ένα «λεμόνι» χαλάσει κατά τη διάρκεια της περιόδου εγγύησης (και καθώς είναι ελαττωματικό, αυτό πιθανότατα θα συμβεί), ένας πωλητής «λεμονιού» είναι μάλλον απίθανο να προσφέρει εγγύηση. Η εγγύηση είναι «δαπανηρό να παραποιηθεί» (κοστίζει στον πωλητή εάν ειπωθεί το ψέμα).
Φυσικά, τα «ροδάκινα» (με τις εγγυήσεις) κοστίζουν περισσότερο από τα «λεμόνια» (χωρίς εγγυήσεις) γιατί ο κίνδυνος της βλάβης βαρύνει τον πωλητή των «ροδάκινων» με την εγγύηση. Τα «λεμόνια» είναι φθηνότερα, αλλά ο καταναλωτής επωμίζεται το ρίσκο της δαπανηρής τους επισκευής.
Για το περιεχόμενο που δημιουργείται από την τεχνητή νοημοσύνη, η επισήμανση του ίδιου του περιεχομένου είναι ανεπαρκής, είναι εύκολο να πούμε ψέματα για την προέλευσή του—και δεν είναι απαραίτητη εάν δεν προξενείται βλάβη. Αντίθετα, απαιτούνται έλεγχοι για εκείνο το υποσύνολο των συναλλαγών όπου μπορεί όντως να προκληθεί βλάβη από ψευδές περιεχόμενο. Για τις προεκλογικές διαφημίσεις, υπάρχουν ήδη ισχυροί έλεγχοι στις περισσότερες δικαιοδοσίες, με αυστηρές κυρώσεις που καθιστούν δαπανηρή την παραβίαση για φυσικό και ψηφιακό περιεχόμενο. Οι έλεγχοι των πλατφορμών που απαιτούν επισήμανση δεν θα είναι από μόνοι τους επαρκείς αποτρεπτικοί παράγοντες, καθώς δεν είναι δαπανηρό να παραποιηθούν.
Αυτό υποδηλώνει ότι ο εκλογικός νόμος και όχι οι έλεγχοι τεχνητής νοημοσύνης είναι το καλύτερο μέρος για να αρχίσουμε να διαχειριζόμαστε τους κινδύνους για αυτήν την περίπτωση - για παράδειγμα, η αυστηροποίηση των κυρώσεων για παραπλανητικές διαφημίσεις, ή η επιβολή εγγραφής ή προέγκρισης των διαδικτυακών εκλογικών διαφημίσεων είναι αποτρεπτικά μέτρα «δύσκολα να παραποιηθούν» που μπορούν να αποτρέψουν την εύκολη παραπλάνηση.
Αλλά όπως και με τα «λεμόνια», αυτό έχει κάποιο κόστος για τους καταναλωτές, οι οποίοι θα χρειαστεί κάτι να πληρώσουν (π.χ. ταξίδι και χρόνο) για την προστασία. Στις πρόσφατες εκλογές στη Νέα Ζηλανδία αναζωπυρώθηκαν τα οι επισκέψεις πόρτα-πόρτα και οι συναντήσεις στα Δημαρχεία—οι ψηφοφόροι έλαβαν το αυθεντικό μήνυμα απευθείας από τους υποψηφίους. Είναι δύσκολο να παραποιήσει κανείς αυτό το μήνυμα.
Η Bronwyn Howell είναι διακεκεκριμένη συνεργάτιδα στο American Enterprise Institute, όπου εστιάζει στις ρυθμιστικές πολιτικές, την ανάπτυξη και την εφαρμογή νέων τεχνολογιών και τη χρήση της τεχνολογίας στον τομέα της υγείας.
Το άρθρο δημοσιεύθηκε στα αγγλικά στις 11 Ιουλίου 2023 και παρουσιάζεται στα ελληνικά με την άδεια του American Enterprise Institute και τη συνεργασία του Κέντρου Φιλελεύθερων Μελετών.
