Παρόλο που η Amazon αναπτύσσει τα δικά της τσιπ Τεχνητής Νοημοσύνης για να μειώσει το κόστος –συμβάλλοντας στην αύξηση της κερδοφορίας της Amazon Web Services (AWS)– δυσκολεύεται να ανταγωνιστεί τα αντίστοιχα τσιπ της Nvidia. Τι επιβραδύνει την Amazon; Τα ζητήματα μετάβασης σε έργα, τα κενά συμβατότητας και η χαμηλή χρήση είναι μερικές από τις ανησυχίες που επιβραδύνουν την υιοθέτηση του τσιπ AI της Amazon. Η επιβράδυνση, έχει επίσης θέσει σε κίνδυνο έσοδα που παράγει η Amazon από την επιχείρησή της στο cloud.
Τα παραπάνω, εντοπίστηκαν μέσω εμπιστευτικών εγγράφων και πηγών που έχουν γνώση του θέματος, όπως αναφέρει το Business Insider.
Τσιπ Τεχνητής Νοημοσύνης της Amazon
Τα Trainium και Inferentia είναι τα κορυφαία τσιπ που σχεδίασε η Amazon και τα οποία έκαναν το ντεμπούτο τους κοντά στα τέλη του περασμένου έτους. Πέρυσι, το ποσοστό υιοθέτησης του Trainium μεταξύ των πελατών της AWS ήταν μόλις 0,5% σε σύγκριση με αυτό των μονάδων επεξεργασίας γραφικών της Nvidia.
Σύμφωνα με την έκθεση, η Amazon προέβη στην αξιολόγηση για τη μέτρηση του ποσοστού χρήσης των διαφόρων τσιπ Τεχνητής Νοημοσύνης μέσω των υπηρεσιών της AWS τον Απρίλιο του 2024. Παράλληλα, το ποσοστό υιοθέτησης για το Inferentia ήταν ελαφρώς υψηλότερο, με 2,7%. Όσο για το Inferentia, είναι ένα ειδικό τσιπ που έχει σχεδιαστεί για συμπερασμό, μια εργασία AI που συνήθως αναφέρεται στην υπολογιστική διαδικασία για τη χρήση μοντέλων AI από τους τελικούς καταναλωτές.
Όπως αναφέρει το cryptorank, μία από τις προκλήσεις που αντιμετώπισαν οι μεγάλοι πελάτες του cloud κατά τη μετάβαση στα custom chips της Amazon, απαντάται στη φράση «οι πρώτες προσπάθειες των πελατών έχουν αποκαλύψει σημεία τριβής». Η πλατφόρμα CUDA της Nvidia θεωρείται πιο ελκυστική για τους πελάτες και η έκθεση την προσδιορίζει ως βασικό λόγο.
Επανεξετάζονται τα τσιπ της Amazon
Η AWS, ο μεγαλύτερος πάροχος υπηρεσιών cloud στον κόσμο, αναπτύσσει πλέον τα τσιπ υπολογιστών για να διευκολύνει τις λειτουργίες της. Κατά καιρούς, η Amazon επιδεικνύει τις προσπάθειές της για τσιπ Tεχνητής Nοημοσύνης, μόνο που η εικόνα που παρουσιάζεται στα έγγραφα είναι διαφορετική από αυτή που προβάλλει η εταιρεία.
Ειδικότερα, από τα έγγραφα της εταιρείας προκύπτει ότι αγωνίζεται με αργό ρυθμό υιοθέτησης, αλλά ο CEO της Amazon έχει διαφορετική άποψη. «Διαθέτουμε την ευρύτερη επιλογή υπολογιστικών μονάδων NVIDIA, αλλά η ζήτηση για το προσαρμοσμένο πυρίτιο, την εκπαίδευση και την εξαγωγή συμπερασμάτων είναι αρκετά υψηλή, δεδομένων των ευνοϊκών πλεονεκτημάτων τιμής-απόδοσης σε σχέση με τις διαθέσιμες εναλλακτικές λύσεις.»
Τα GPUs της Nvidia
Η Amazon Web Services προσφέρει μια ποικιλία επεξεργαστών, από τα τσιπ Grass Hopper της Nvidia μέχρι την AMD και την Intel. Το μεγαλύτερο μέρος της κερδοφορίας της προέρχεται από το σχεδιασμό των δικών της τσιπ για τα κέντρα δεδομένων, γεγονός που τη βοηθά να εξοικονομεί κόστος αποφεύγοντας την αγορά GPU από τη Nvidia.
Υπενθυμίζεται ότι η Amazon παρουσίασε το πρώτο της τσιπ Τεχνητής Νοημοσύνης, το Inferntia, το 2018, αλλά η Nvidia εξακολουθεί να προηγείται στην προσφορά λύσεων που υιοθετούνται ευρύτερα από διάφορες βιομηχανίες. Η AWS, η Microsoft και η Google είναι μερικοί από τους μεγαλύτερους πελάτες της Nvidia. Όλοι αυτοί οι «γίγαντες» νοικιάζουν GPU μέσω των υπηρεσιών cloud τους.
Τον Μάρτιο, ο Adam Selipsku, διευθύνων σύμβουλος της AWS, παρακολούθησε το Nvidia GTC 2023. Οι δύο εταιρείες έκαναν κοινή ανακοίνωση που επικεντρώθηκε στη στρατηγική τους συνεργασία για την προώθηση της δημιουργικής τεχνητής νοημοσύνης.
«Η βαθιά συνεργασία μεταξύ των δύο οργανισμών μας χρονολογείται εδώ και περισσότερα από 13 χρόνια, όταν μαζί ξεκινήσαμε την πρώτη GPU cloud instance στον κόσμο στο AWS, και σήμερα προσφέρουμε το ευρύτερο φάσμα λύσεων GPU της NVIDIA για τους πελάτες».
Η πλατφόρμα της Nvidia, που ονομάζεται Cuda, συνήθως προτιμάται από τους προγραμματιστές. Καθώς η Nvidia ξόδεψε πολλά χρόνια και προσπάθειας για τη δημιουργία της, και η βιομηχανία την έχει υιοθετήσει, γεγονός που διευκολύνει το χειρισμό των πραγμάτων για αυτούς. Από την άλλη πλευρά, η Amazon πρέπει ακόμη να λύσει αυτό το παζλ με τις δοκιμές και τα λάθη.