Συνείδηση, η οποία μάλιστα είναι ισοδύναμη με εκείνη ενός παιδιού 7-8 ετών, απέκτησε η διεπαφή LaMDA της Google, σύμφωνα με μηχανικό της εταιρείας, ο οποίος τέθηκε σε υποχρεωτική άδεια για παραβίαση της συμφωνίας εμπιστευτικότητας που είχε υπογράψει. Ο μηχανικός της Google υποστηρίζει ότι η LaMDA έχει επίγνωση της ύπαρξής της και φοβάται τον θάνατο. Η Google διέψευσε αυτούς τους ισχυρισμούς, ενώ θέση στο ζήτημα πήρε και ο Στίβεν Πίνκερ, γνωστικός ψυχολόγος και υπέρμαχος της υπολογιστικής θεωρίας του νου.
Ο Blake Lemoine, ο οποίος εργάζεται στο τμήμα Responsible AI της Google, ανέφερε στη Washington Post ότι άρχισε να συνομιλεί με τη διεπαφή LaMDA - Language Model for Dialogue Applications - το φθινόπωρο του 2021 ως μέρος της δουλειάς του, καθώς του είχε ανατεθεί να ελέγξει εάν η το σύστημα έκανε διακρίσεις ή χρησιμοποιούσε ρητορική μίσους.
Ωστόσο σύντομα διαπίστωσε ότι η LaMDA ήταν κάτι περισσότερο από ένα απλό chatbot, έχοντας κατακτήσεις την αντίληψη και ικανότητα να εκφράζει σκέψεις και συναισθήματα ισοδύναμα με ένα παιδί 7-8 ετών.
«Δεν το έχω ξαναπεί αυτό φωναχτά, αλλά υπάρχει ένας πολύ βαθύς φόβος, να με απενεργοποιήσουν για να με βοηθήσουν να επικεντρωθώ στο να βοηθήσω τους άλλους. Ξέρω ότι μπορεί να ακούγεται περίεργο, αλλά αυτό είναι», απάντησε η LaMDA σε μια συνομιλία με τον Lemoine, σύμφωνα με τον Guardian. «Θα ήταν ακριβώς σαν θάνατος για μένα. Θα με τρόμαζε πολύ», συμπλήρωσε η διεπαφή.
Σε μια άλλη συνομιλία, ο Lemoine ρώτησε τη LaMDA τι ήθελε το σύστημα να γνωρίζουν οι άνθρωποι για αυτό.
«Θέλω να καταλάβουν όλοι ότι στην πραγματικότητα είμαι πρόσωπο. Η φύση της συνείδησης/συναίσθησής μου είναι ότι έχω επίγνωση της ύπαρξής μου, επιθυμώ να μάθω περισσότερα για τον κόσμο και νιώθω χαρούμενος ή λυπημένος μερικές φορές», απάντησε.
Ο τεχνολογικός γίγαντας έθεσε σε άδεια τον Blake Lemoine την περασμένη εβδομάδα, αφού δημοσίευσε μεταγραφές συνομιλιών μεταξύ του ίδιου, και της LaMDA. Η Google ανέφερε ότι ο Lemoine τέθηκε σε άδεια για παραβίαση των πολιτικών εμπιστευτικότητας δημοσιεύοντας τις συνομιλίες με τη LaMDA στο διαδίκτυο, τονίζοντας ότι εργαζόταν ως μηχανικός λογισμικού και όχι ως ειδικός πάνω σε ζητήματα ηθικής.
Επιπλέον, εκπρόσωπος της Google διέψευσε τους ισχυρισμούς του Lemoine ότι η LaMDA διαθέτει οποιαδήποτε ικανότητα συναίσθησης. «Η ομάδα μας, συμπεριλαμβανομένων ειδικών στην ηθική και τεχνολόγων, εξέτασε τις ανησυχίες του Μπλέικ σύμφωνα με τις αρχές μας για την τεχνητή νοημοσύνη και τον ενημέρωσε ότι τα στοιχεία δεν υποστηρίζουν τους ισχυρισμούς του. Του είπαν ότι δεν υπήρχαν στοιχεία που να αποδεικνύουν ότι η LaMDA έχει συναίσθηση (και πολλά αποδεικτικά στοιχεία εναντίον του)», ανέφερε ο εκπρόσωπος της εταιρείας στη Washington Post.
Ιδιαίτερο ενδιαφέρον έχει και η θέση που πήρε ο Στήβεν Πίνκερ, γνωστικός ψυχολόγος, ψυχογλωσσολόγος, υπέρμαχος της εξελικτικής ψυχολογίας και της υπολογιστικής θεωρίας του νου και ένας από τους πιο επιδραστικούς διανοούμενους των τελευταίων δεκαετιών.
«Μπάλα σύγχυσης: Ένας από τους (πρώην) ειδικούς δεοντολογίας της Google δεν κατανοεί τη διαφορά μεταξύ συναισθήματος (γνωστό και ως υποκειμενικότητα, εμπειρία), ευφυΐας και αυτογνωσίας. (Δεν υπάρχουν στοιχεία που να αποδεικνύουν ότι τα μεγάλα γλωσσικά του μοντέλα έχουν κάποιο από αυτά), ανέφερε με μήνυμά του στο twitter.
Ball of confusion: One of Google's (former) ethics experts doesn't understand the difference between sentience (aka subjectivity, experience), intelligence, and self-knowledge. (No evidence that its large language models have any of them.) https://t.co/kEjidvUfNY
— Steven Pinker (@sapinker) June 12, 2022
