Το λογισμικό είναι πανταχού παρόν, τροφοδοτώντας σχεδόν κάθε πτυχή της ζωής μας. Μόνο τα ηλεκτρονικά συστήματα στο αυτοκίνητό σας περιλαμβάνουν δεκάδες εκατομμύρια γραμμές κώδικα. Ο αυξανόμενος ψηφιακός μετασχηματισμός της κοινωνίας μας σημαίνει ότι η ζήτηση για περισσότερο και καλύτερο λογισμικό είναι πιθανό να συνεχιστεί και στο μέλλον.
Το δίλημμα είναι ότι δεν υπάρχουν αρκετοί ανθρώπινοι προγραμματιστές για να κατασκευάσουν όλο αυτό το λογισμικό. Αυτό σημαίνει ότι όλο και περισσότερο από το λογισμικό που χρησιμοποιείτε καθημερινά κατασκευάζεται με τη βοήθεια της Τεχνητής Νοημοσύνης (AI).
Οι προγραμματιστές λογισμικού είναι ήδη πολύ εξοικειωμένοι με εργαλεία όπως το GitHub Copilot, ένα είδος ChatGPT για προγραμματιστές. Λειτουργεί κάτι σαν ένα έξυπνο εργαλείο αυτόματης συμπλήρωσης για την αύξηση της παραγωγικότητας των ανθρώπινων προγραμματιστών.
Αλλά τώρα γινόμαστε μάρτυρες μιας πιο ριζοσπαστικής επανάστασης, όπου οι «πράκτορες» της ΤΝ είναι έτοιμοι να αναλάβουν πολλούς τύπους εργασιών ανάπτυξης για λογαριασμό των ανθρώπινων προγραμματιστών. Οι πράκτορες είναι προγράμματα που χρησιμοποιούν AI για να εκτελούν εργασίες και να επιτυγχάνουν συγκεκριμένους στόχους για έναν ανθρώπινο χρήστη. Οι πράκτορες Τεχνητής Νοημοσύνης μπορούν να μαθαίνουν και να λαμβάνουν αποφάσεις με κάποιο επίπεδο αυτονομίας, αν και εξακολουθούν να τελούν υπό ανθρώπινη επίβλεψη - προς το παρόν.
Προβλέπουμε ότι στο εγγύς μέλλον, πολλές εφαρμογές λογισμικού θα έχουν κατασκευαστεί εξ ολοκλήρου από πράκτορες ΤΝ. Τα «πρακτορικά» συστήματα είναι κοινότητες πρακτόρων ΤΝ που συνεργάζονται μεταξύ τους, καθένας από τους οποίους είναι εξειδικευμένος στην επίλυση ενός συγκεκριμένου τύπου εργασίας. Με ένα πρακτορικό σύστημα, μπορείτε να δημιουργήσετε μια εφαρμογή λογισμικού από μια απλή αγγλική περιγραφή του τι θα θέλατε να κάνει η εφαρμογή.
Αυτό έχει δυνητικά θετικές επιπτώσεις. Τα πρακτορικά συστήματα θα μπορούσαν να δώσουν τη δυνατότητα σε χρήστες χωρίς δεξιότητες προγραμματισμού λογισμικού να δημιουργήσουν ή να προσαρμόσουν λογισμικό στις ανάγκες τους. Υπάρχουν επίσης πιθανές αρνητικές συνέπειες. Οι πράκτορες απέχουν πολύ από το να είναι τέλειοι και μπορούν εύκολα να δημιουργήσουν κώδικα που είναι ευάλωτος σε επιθέσεις, δεν είναι αποτελεσματικός ή μεροληπτεί έναντι ορισμένων κοινοτήτων.
Για παράδειγμα, ένας πράκτορας που κατασκευάζει λογισμικό προσλήψεων μπορεί να προτιμά τους άνδρες έναντι των γυναικών υποψηφίων λόγω προκαταλήψεων στα δεδομένα που χρησιμοποιούνται για την εκπαίδευση ή τη βελτίωση του λογισμικού. Ως εκ τούτου, πρέπει να θέσουμε σε εφαρμογή μηχανισμούς για την ελαχιστοποίηση τέτοιων κινδύνων, όπως απαιτείται από κανονισμούς για την ΤΝ, όπως η Νομοθετική Πράξη της ΕΕ για την ΤΝ.
Οι ερευνητές αντιμετωπίζουν πρώτα αυτή την πρόκληση δοκιμάζοντας εντατικά τα Μεγάλα Γλωσσικά Μοντέλα (LLMs Large Language Models) που αποτελούν τον πυρήνα κάθε πράκτορα. Ένα LLM είναι ένα σύστημα ΤΝ που εκπαιδεύεται σε τεράστιες ποσότητες δεδομένων. Οι πράκτορες βασίζονται στο εσωτερικό τους LLM για να προβλέψουν και να δημιουργήσουν την καλύτερη απάντηση σε ένα αίτημα του χρήστη.
Αξιολογώντας όλα τα μεγάλα LLMs σε σχέση με μια σειρά από ζητήματα όπως η ακρίβεια, τα τρωτά σημεία ασφαλείας και οι προκαταλήψεις, οι προγραμματιστές λογισμικού μπορούν να επιλέξουν το καλύτερο LLM για έναν πράκτορα Τεχνητής Νοημοσύνης. Αυτό θα εξαρτηθεί από τις συγκεκριμένες εργασίες στις οποίες θα εμπλακεί ο πράκτορας.
Αυτό συμβάλλει στην εξασφάλιση ενός ορισμένου βαθμού ηθικής συμπεριφοράς στους πράκτορες. Πώς μπορούμε όμως να είμαστε σίγουροι ότι κατανοούν και ακολουθούν τις οδηγίες μας; Η λύση μας είναι να ξεκινήσουμε από τα σχεδιαγράμματα (τα σχέδια) του λογισμικού που θα κατασκευαστεί.
Σε γενικές γραμμές, είναι δυνατόν να κατανοήσετε τα σχεδιαγράμματα ενός σπιτιού ακόμη και αν δεν είστε αρχιτέκτονας. Παρομοίως, αν κάνουμε ένα προσχέδιο για λογισμικό όσο το δυνατόν πιο κατανοητό, οι χρήστες χωρίς προχωρημένες γνώσεις ανάπτυξης λογισμικού θα πρέπει να είναι σε θέση να κατανοήσουν τις έννοιες και τον τρόπο με τον οποίο μπορούν να κάνουν αλλαγές σε αυτό.
Από την αρχική περιγραφή του χρήστη, ο πράκτορας ή οι πράκτορες Τεχνητής Νοημοσύνης θα προτείνουν ένα λεπτομερές προσχέδιο μιας πιθανής λύσης και θα το εξηγούν στον χρήστη σε απλά αγγλικά. Ο χρήστης θα μπορούσε στη συνέχεια να το επικυρώσει ή να ζητήσει βελτιώσεις. Μόνο μετά την τελική επικύρωση θα δημιουργούνταν αυτόματα η εφαρμογή λογισμικού από το προσχέδιο.
Αυτός ο τρόπος δημιουργίας λογισμικού είναι γνωστός ως ανάπτυξη χαμηλού κώδικα ή χωρίς κώδικα, καθώς το μεγαλύτερο μέρος του κώδικα (όλος για ορισμένες εφαρμογές) παράγεται από τον υπολογιστή από τα σχέδια, αντί να γράφεται από έναν άνθρωπο από το μηδέν. Η πλατφόρμα ανοικτού κώδικα BESSER μας βοηθάει στην κατασκευή εφαρμογών με αυτόν τον τρόπο.
Όπως παρατήρησε κάποτε ο συγγραφέας επιστημονικής φαντασίας Arthur C Clarke: «Οποιαδήποτε επαρκώς προηγμένη τεχνολογία είναι δυσδιάκριτη από τη μαγεία». Και αρκετά σύντομα, αυτή η μαγεία θα είναι μέρος της καθημερινής μας ζωής. Απλώς πρέπει να προσέξουμε ώστε η μαγεία να μη μετατραπεί σε μαγεία με τη δυνατότητα να διαταράξει, αντί να βελτιώσει.
Εμείς, και πολλοί άλλοι ερευνητές, εργαζόμαστε για να βάλουμε εμπόδια (σ.σ. μηχανισμούς πρόληψης πιθανών βλαβών) στη συμπεριφορά των παραγόντων Τεχνητής Νοημοσύνης, ώστε να τους κρατήσουμε υπό έλεγχο. Αυτό θα βοηθήσει να μετατραπεί κάθε πολίτης σε έναν ικανό προγραμματιστή με τη δύναμη να δημιουργεί αυτόνομα τις ιδανικές λύσεις λογισμικού για τις εταιρείες του ή άλλες πτυχές της ζωής του.
* O Iván Alfonso είναι Βοηθός ερευνητής στο Ινστιτούτο Επιστήμης και Τεχνολογίας του Λουξεμβούργου (LIST). Ο Jordi Cabot είναι Επικεφαλής της Μονάδας ΕΑΕ Τεχνολογίας Λογισμικού στο LIST. FNR Pearl Chair και συνεργαζόμενος καθηγητής στο CS στο Πανεπιστήμιο του Λουξεμβούργου, Ινστιτούτο Επιστήμης και Τεχνολογίας του Λουξεμβούργου (LIST). Το άρθρο τους αναδημοσιεύεται αυτούσιο στο Liberal, μέσω άδειας Creative Commons από τον ιστότοπο TheConversation.
