Μια βάση δεδομένων που διέρρευσε στο TechCrunch αποκαλύπτει ότι η Κίνα έχει αναπτύξει ένα σύστημα Τεχνητής Νοημοσύνης που υπερτροφοδοτεί την ήδη τρομερή μηχανή λογοκρισίας της, επεκτεινόμενη πολύ πέρα από τα παραδοσιακά «ταμπού», όπως η σφαγή στην πλατεία Τιενανμέν.
Μερικά παραδείγματα που αναφέρει το Μέσο στο δημοσίευμά του αφορά παράπονα για τη φτώχεια, ένα δελτίο ειδήσεων για ένα διεφθαρμένο μέλος του Κομμουνιστικού Κόμματος ή μια έκκληση για βοήθεια σχετικά με διεφθαρμένους αστυνομικούς που εκβιάζουν επιχειρηματίες.
Το σύστημα φαίνεται να αποσκοπεί κυρίως στη λογοκρισία των Κινέζων πολιτών στο διαδίκτυο, αλλά θα μπορούσε να χρησιμοποιηθεί και για άλλους σκοπούς, όπως η βελτίωση της ήδη εκτεταμένης λογοκρισίας των κινεζικών μοντέλων Τεχνητής Νοημοσύνης.
Ο Xiao Qiang, ερευνητής στο UC Berkeley που μελετά την κινεζική λογοκρισία και ο οποίος εξέτασε επίσης το σύνολο δεδομένων, δήλωσε στο TechCrunch ότι πρόκειται για «σαφή στοιχεία» ότι η κινεζική κυβέρνηση ή οι θυγατρικές της θέλουν να χρησιμοποιήσουν τα LLM για να βελτιώσουν την καταστολή.
«Σε αντίθεση με τους παραδοσιακούς μηχανισμούς λογοκρισίας, οι οποίοι βασίζονται στην ανθρώπινη εργασία για το φιλτράρισμα με βάση τις λέξεις-κλειδιά και τη χειροκίνητη αναθεώρηση, ένα LLM που εκπαιδεύεται σε τέτοιες οδηγίες θα βελτίωνε σημαντικά την αποτελεσματικότητα του κρατικού ελέγχου των πληροφοριών», δήλωσε ο Qiang.
Αυτό έρχεται να προστεθεί στις αυξανόμενες ενδείξεις ότι τα αυταρχικά καθεστώτα υιοθετούν γρήγορα την πιο πρόσφατη τεχνολογία τεχνητής νοημοσύνης. Τον Φεβρουάριο, για παράδειγμα, η OpenAI δήλωσε ότι έπιασε πολλές κινεζικές οντότητες να χρησιμοποιούν LLM για να παρακολουθούν αντικυβερνητικές αναρτήσεις και να συκοφαντούν Κινέζους αντιφρονούντες.
Η κινεζική πρεσβεία στην Ουάσινγκτον δήλωσε στο TechCrunch ότι αντιτίθεται στις «αβάσιμες επιθέσεις και συκοφαντίες κατά της Κίνας» και ότι η Κίνα αποδίδει μεγάλη σημασία στην ανάπτυξη ηθικής AI.
Δεδομένα που βρέθηκαν σε κοινή θέα
Το σύνολο δεδομένων ανακαλύφθηκε από τον ερευνητή ασφαλείας NetAskari, ο οποίος μοιράστηκε ένα δείγμα με το TechCrunch αφού το βρήκε αποθηκευμένο σε μια μη ασφαλή βάση δεδομένων Elasticsearch που φιλοξενείται σε έναν διακομιστή της Baidu.
Αυτό δεν υποδεικνύει καμία ανάμειξη από καμία από τις δύο εταιρείες - όλα τα είδη οργανισμών αποθηκεύουν τα δεδομένα τους σε αυτούς τους παρόχους.
Δεν υπάρχει καμία ένδειξη για το ποιος, ακριβώς, δημιούργησε το σύνολο δεδομένων, αλλά τα αρχεία δείχνουν ότι τα δεδομένα είναι πρόσφατα, με τις πιο πρόσφατες καταχωρήσεις του να χρονολογούνται από τον Δεκέμβριο του 2024.
Μια LLM για την ανίχνευση διαφωνιών
Ο δημιουργός του συστήματος αναθέτει σε ένα ανώνυμο LLM να καταλάβει αν ένα κομμάτι περιεχομένου έχει σχέση με ευαίσθητα θέματα που σχετίζονται με την πολιτική, την κοινωνική ζωή και τον στρατό. Τέτοιο περιεχόμενο θεωρείται «ύψιστης προτεραιότητας» και πρέπει να επισημανθεί αμέσως.
Τα θέματα υψηλής προτεραιότητας περιλαμβάνουν σκάνδαλα ρύπανσης και ασφάλειας τροφίμων, οικονομικές απάτες και εργατικές διαμάχες, τα οποία είναι καυτά ζητήματα στην Κίνα που μερικές φορές οδηγούν σε δημόσιες διαμαρτυρίες, όπως για παράδειγμα, οι διαμαρτυρίες κατά της ρύπανσης στο Shifang το 2012.
Οποιαδήποτε μορφή «πολιτικής σάτιρας» είναι ρητά στοχοποιημένη. Για παράδειγμα, αν κάποιος χρησιμοποιεί ιστορικές αναλογίες για να κάνει μια αναφορά σε τρέχουσες πολιτικές προσωπικότητες, αυτό πρέπει να επισημανθεί αμέσως, όπως και οτιδήποτε σχετίζεται με την πολιτική της Ταϊβάν.
Ένα απόσπασμα του συνόλου δεδομένων μπορείτε να δείτε παρακάτω. Ο κώδικας μέσα σε αυτό παραπέμπει σε prompt tokens και LLMs, επιβεβαιώνοντας ότι το σύστημα χρησιμοποιεί ένα μοντέλο τεχνητής νοημοσύνης για να εκτελέσει τις εντολές του:
Techcrunch
Το σύνολο δεδομένων δεν περιλαμβάνει καμία πληροφορία για τους δημιουργούς του. Λέει όμως ότι προορίζεται για τον καθορισμό της κοινής γνώμης, γεγονός που προσφέρει μια ισχυρή ένδειξη ότι προορίζεται να εξυπηρετήσει τους στόχους της κινεζικής κυβέρνησης, δήλωσε ένας εμπειρογνώμονας στο TechCrunch.
Ο τελικός στόχος είναι να διασφαλιστεί ότι οι αφηγήσεις της κινεζικής κυβέρνησης προστατεύονται στο διαδίκτυο, ενώ κάθε εναλλακτική άποψη «εκκαθαρίζεται». Ο ίδιος ο Κινέζος πρόεδρος Σι Τζινπίνγκ έχει περιγράψει το διαδίκτυο ως την «πρώτη γραμμή» του ΚΚΚ για τον καθορισμό της κοινής γνώμης.
Το σύνολο δεδομένων που εξέτασε το TechCrunch είναι η πιο πρόσφατη απόδειξη ότι οι αυταρχικές κυβερνήσεις επιδιώκουν να αξιοποιήσουν την τεχνητή νοημοσύνη για κατασταλτικούς σκοπούς.
