Η Microsoft επιβεβαίωσε εκ νέου την απαγόρευσή της στα αστυνομικά τμήματα των ΗΠΑ να χρησιμοποιούν Τεχνητή Νοημοσύνη για την αναγνώριση προσώπου μέσω της Υπηρεσίας Azure OpenAI, του πλήρως διαχειριζομένου συστήματος, της εταιρείας που εστιάζεται στις επιχειρήσεις γύρω από την τεχνολογία OpenAI.
Η οδηγία που προστέθηκε την Τετάρτη στους Όρους Παροχής Υπηρεσιών για την Υπηρεσία Azure OpenAI σαφέστερα απαγορεύει τη χρήση των ενσωματώσεων με την υπηρεσία Azure OpenAI «από ή για» αστυνομικά τμήματα για αναγνώριση προσώπου στις ΗΠΑ, συμπεριλαμβανομένων των ενσωματώσεων με την τρέχουσα - και πιθανώς μελλοντική - ανάλυση εικόνας του OpenAI μοντέλα.
Ένας ξεχωριστός κανονισμός καλύπτει «οποιαδήποτε επιβολή του νόμου παγκοσμίως» και απαγορεύει ρητά τη χρήση «τεχνολογίας αναγνώρισης προσώπου σε πραγματικό χρόνο» σε κάμερες κινητών, όπως κάμερες σώματος και κάμερες, για την απόπειρα αναγνώρισης ενός ατόμου σε «μη ελεγχόμενα» περιβάλλοντα.
Σύμφωνα με πληροφορίες του Tech Crunch, αυτές οι αλλαγές στην πολιτική έρχονται μια εβδομάδα αφότου η Axon, κατασκευάστρια εταιρία προϊόντων τεχνολογίας και όπλων για τον στρατό και την επιβολή του νόμου, ανακοίνωσε ένα νέο προϊόν που αξιοποιεί το γενετικό μοντέλο κειμένου GPT-4 του OpenAI για να συνοψίζει τον ήχο από τις κάμερες σώματος.
Οι επικριτές έσπευσαν να επισημάνουν τις πιθανές παγίδες, όπως οι ψευδαισθήσεις (ακόμη και τα καλύτερα μοντέλα Τεχνητής Νοημοσύνης σήμερα εφευρίσκουν γεγονότα) και τις φυλετικές προκαταλήψεις που εισήχθησαν από τα δεδομένα εκπαίδευσης (το οποίο είναι ιδιαίτερα ανησυχητικό δεδομένου ότι οι έγχρωμοι είναι πολύ πιο πιθανό να ελεγχθούν από την αστυνομία, σε σχέση με τους λευκούς συνομηλίκους τους).
Δεν είναι σαφές εάν η Axon χρησιμοποιούσε το GPT-4 μέσω της Υπηρεσίας Azure OpenAI και, εάν ναι, εάν η ενημερωμένη πολιτική ήταν απόκριση στην κυκλοφορία του προϊόντος της Axon. Το OpenAI είχε περιορίσει στο παρελθόν τη χρήση των μοντέλων του για αναγνώριση προσώπου μέσω των API του. Επικοινωνήσαμε με την Axon, τη Microsoft και το OpenAI και θα ενημερώσουμε αυτήν την ανάρτηση εάν λάβουμε νέα.
Η πλήρης απαγόρευση της χρήσης της Υπηρεσίας Azure OpenAI αφορά μόνο την αστυνομία των ΗΠΑ και όχι τη διεθνή. Και δεν καλύπτει την αναγνώριση προσώπου που εκτελείται με σταθερές κάμερες σε ελεγχόμενα περιβάλλοντα, όπως ένα back office (αν και οι όροι απαγορεύουν οποιαδήποτε χρήση της αναγνώρισης προσώπου από την αστυνομία των ΗΠΑ).
