Η συνεχώς αυξανόμενη παρουσία της Τεχνητής Νοημοσύνης δημιουργεί ένα δίλημμα για τις εταιρείες: Αν δεν τη χρησιμοποιήσουν ενδεχομένως να χάσουν οφέλη που σχετίζονται με την παραγωγικότητά τους, ενώ αν τη χρησιμοποιήσουν λανθασμένα, τότε η εταιρεία και οι πελάτες εκτίθενται σε αδήριτους κινδύνους.
Ακριβώς πάνω σε αυτό το δίλημμα έρχεται να βασιστεί ένα νέο κύμα startup επιχειρήσεων «ασφάλειας για την Τεχνητή Νοημοσύνη», με την προϋπόθεση ότι αυτές οι απειλές, όπως το jailbreak και το prompt injection, δεν μπορούν να αγνοηθούν.
Όπως η ισραηλινή startup επιχείρηση Noma και οι ανταγωνιστές Hidden Layer και Protect AI με έδρα τις ΗΠΑ, έτσι και η βρετανική ακαδημαϊκή spinoff Mindgard είναι μία από αυτές.
«Η Τεχνητή Νοημοσύνη εξακολουθεί να αποτελεί λογισμικό, οπότε όλοι οι κίνδυνοι στον κυβερνοχώρο για τους οποίους πιθανώς έχετε ακούσει ισχύουν και στην περίπτωσή της», δήλωσε ο διευθύνων σύμβουλος και τεχνικός διευθυντής της, καθηγητής Πίτερ Γκάρραγκαν. «Όμως, αν εξετάσετε την αδιαφανή φύση και την εγγενώς τυχαία συμπεριφορά των νευρωνικών δικτύων και των συστημάτων», πρόσθεσε, «αυτό δικαιολογεί επίσης μια νέα προσέγγιση».
Σύμφωνα με το TechCrunch, στην περίπτωση της Mindgard, η εν λόγω προσέγγιση είναι ένας δυναμικός έλεγχος ασφάλειας εφαρμογών για Τεχνητή Νοημοσύνη (Dynamic Application Security Testing for AI - DAST-AI) που στοχεύει σε αδυναμίες που μπορούν να εντοπιστούν μόνο κατά τη διάρκεια της χρήσης της.
Παραδείγματος χάριν, τα Μεγάλα Γλωσικά Μοντέλα (LLM) συνεχίζουν να αλλάζουν, όπως και οι απειλές σε αυτόν το χώρο.
Αν και έχει δεσμούς με την έρευνα, η Mindgard είναι ήδη σε μεγάλο βαθμό ένα εμπορικό προϊόν, και πιο συγκεκριμένα, μια πλατφόρμα SaaS, με τον συνιδρυτή Στήβ Στρίτ να ηγείται ως COO και CRO.
«Οι επιχειρήσεις είναι ένας φυσικός πελάτης για τη Mindgard, όπως και οι παραδοσιακές red teams (ομάδες που προσποιούνται ότι «εισβάλλουν» ψηφιακά σε έναν οργανισμό με σκοπό να καταγραφούν μέθοδοι βελτίωσης της ασφάλειας) και pen testers (προσομοιωμένες επίθεσεις κατά εφαρμογής ή site στο διαδίκτυο με σκοπό να εντοπιστούν ποια τρωτά σημεία το), αλλά η εταιρεία συνεργάζεται επίσης με startup επιχειρήσεις Τεχνητής Νοημοσύνης που πρέπει να δείξουν στους πελάτες τους ότι παρέχουν εργαλεία που παρέχουν τρόπους αντιμετώπισης σε κινδύνους που αφορούν στην Τεχνητή Νοημοσύνη», δήλωσε ο Πίτερ Γκάρραγκαν.
Η Mindgard αφού συγκέντρωσε από χρηματοδοτήσεις ποσό ύψους 3 εκατομμυρίων λιρών το 2023, ανακοινώνει τώρα ένα νέο γύρο χρηματοδότησης ύψους 8 εκατομμυρίων δολαρίων υπό την ηγεσία της.
Η χρηματοδότηση θα βοηθήσει στη «δημιουργία της ομάδας, την ανάπτυξη προϊόντων, την έρευνα και την ανάπτυξη αλλά και όλα τα πράγματα που θα περίμενε κανείς από μια startup επιχείρηση». Φυσικά, θα συμβάλλει και στην επέκτασή της στις ΗΠΑ.
Με 15 άτομα προσωπικό, η ομάδα της Mindgard είναι σχετικά μικρή και θα παραμείνει έτσι, ενώ σχεδιάζει να φτάσει τα 20 με 25 άτομα μέχρι το τέλος του επόμενου έτους. Αυτό συμβαίνει επειδή η ασφάλεια της Τεχνητής Νοημοσύνης «δεν βρίσκεται ακόμη στην ακμή της», τονίζει ο Πίτερ Γκάρραγκαν.
«Όταν όμως η Τεχνητή Νοημοσύνη αρχίσει να αναπτύσσεται παντού και οι απειλές στα θέματα ασφαλείας ακολουθήσουν, η Mindgard θα είναι έτοιμη.
Τέλος, ο Πίτερ Γκάρραγκαν: «Χτίσαμε αυτή την εταιρεία για να κάνουμε καλό για τον κόσμο, και το καλό εδώ είναι ότι οι άνθρωποι μπορούν να εμπιστεύονται και να χρησιμοποιούν την Τεχνητή Νοημοσύνη με αξιοπιστία και σιγουριά».
