Η Microsoft ανακοινώνει το Maia AI, Arm CPU, AMD MI300 και νέα κάρτα γραφικών Nvidia για το Azure

Σύνοψη των ανακοινώσεων της Microsoft για την τεχνητή νοημοσύνη

Στο πρόσφατο keynote της (διαβάστε περισσότερα), η Microsoft ανακοίνωσε μια σειρά νέων προϊόντων και υπηρεσιών τεχνητής νοημοσύνης, συμπεριλαμβανομένων:

• Ένα νέο οπτικό καλώδιο με κενή ίνα για χαμηλή κατανάλωση ενέργειας και υψηλή απόδοση δικτύωσης
• Τον Microsoft Maia AI Accelerator, σχεδιασμένο για εσωτερική χρήση και εκπαίδευση και ανάλυση μεγάλων μοντέλων τεχνητής νοημοσύνης
• Νέα στιγμιότυπα AMD MI300 για το Azure, ένα ανταγωνιστή του NVIDIA H100
• Νέα στιγμιότυπα NVIDIA H200 που έρχονται, με περισσότερη μνήμη HBM
• Νέες υπηρεσίες AI foundry της NVIDIA
• Έναν νέο επεξεργαστή Cobalt Arm για το Azure, 40% ταχύτερο από τον Ampere Altra

Η Microsoft ακολουθεί μια προσέγγιση “Ελβετίας” στην επιτάχυνση της τεχνητής νοημοσύνης, υποστηρίζοντας τη δική της πλατφόρμα Maia 100 για εσωτερική χρήση και τις κορυφαίες πλατφόρμες της βιομηχανίας από την NVIDIA και τώρα την AMD για υπηρεσίες cloud.

Συγκεκριμένα, οι ανακοινώσεις περιλαμβάνουν τα εξής:

• Microsoft Maia AI Accelerator: Ο Maia AI Accelerator είναι ένας νέος επεξεργαστής τεχνητής νοημοσύνης που σχεδιάστηκε από τη Microsoft για εσωτερική χρήση και εκπαίδευση και ανάλυση μεγάλων μοντέλων τεχνητής νοημοσύνης. Κατασκευάζεται με βάση την τεχνολογία TSMC 5nm και έχει ισχυρές επιδόσεις TOPS και FLOPS, αλλά σχεδιάστηκε πριν από την έκρηξη των μεγάλων γλωσσικών μοντέλων (LLM). Έχει 105 δισεκατομμύρια τρανζίστορ και παράγει 1.600 TFLOPS MXInt8 και 3.200 TFLOPS MXFP4. Το πιο σημαντικό μειονέκτημα του είναι ότι έχει μόνο 64 GB μνήμη HBM, αλλά πολλή SRAM. Η απόδοση της τεχνητής νοημοσύνης θα εξαρτηθεί από το τι κάνετε. Για την εκπαίδευση LLM, τόσο η NVIDIA όσο και η AMD θα την ξεπεράσουν εύκολα. Η ανάλυση για μεγαλύτερα μοντέλα θα εκτελεστεί επίσης πολύ καλύτερα σε GPU, αλλά για μικρότερα μοντέλα που θα χρησιμοποιούν οι επιχειρήσεις, θα πρέπει να είναι αρκετά ικανοποιητική.
• Microsoft Cobalt Arm CPU: Ο Cobalt Arm CPU είναι ένας νέος επεξεργαστής Arm που σχεδιάστηκε από τη Microsoft για το Azure. Έχει 128 πυρήνες Neoverse N2 στην αρχιτεκτονική Armv9 και 12 κανάλια DDR5. Το Arm Neoverse N2 προσφέρει 40% καλύτερη απόδοση από το Neoverse N1. Δυστυχώς, δεν παρέχονταν benchmarks, αλλά ο επεξεργαστής έχει πολλούς πυρήνες και τεράστιο εύρος ζώνης μνήμης για να τους τροφοδοτήσει. Αναμένουμε ότι θα ξεπεράσει σημαντικά τον Ampere, ο οποίος είναι ο ανταγωνιστής του σήμερα.
• NVIDIA Foundation Services και H200 στο Azure: Η Microsoft και η NVIDIA συνεργάζονται εδώ και χρόνια. Οι νέες υπηρεσίες NVIDIA Foundry Services στο Azure παρέχουν μια ολοκληρωμένη συλλογή μοντέλων AI της NVIDIA, το πλαίσιο και τα εργαλεία NeMo, την NVIDIA AI Enterprise και την υπερυπολογιστική AI DGX Cloud της NVIDIA, διαθέσιμα για νεοσύστατες επιχειρήσεις και επιχειρήσεις για τη δημιουργία και την ανάπτυξη προσαρμοσμένων μοντέλων AI στο Microsoft Azure. Επιπλέον, η Microsoft ανακοίνωσε τη νέα GPU NVIDIA H200 ως υπηρεσία, διαθέσιμη στο 2ο τρίμηνο του 2024 και το TensorRT-LLM σε Windows.
• Δοκιμή AMD MI300 στο Azure: Όπως αναμενόταν, η Microsoft αποφάσισε επίσης να φέρει την επερρχουσα GPU AMD MI300 Instinct στο Azure, προσφέροντας στους πελάτες πρώιμη πρόσβαση σε αυτό που μπορεί να γίνει ένας σημαντικός εναλλακτικός προμηθευτής για τις GPU της NVIDIA. Αυτή είναι μια σημαντική κίνηση τόσο για το Azure όσο και για την AMD, καθώς πολλοί προγραμματιστές θέλουν να αποκτήσουν πρόσβαση σε αυτή τη νέα τεχνολογία, η οποία θα πρέπει να βοηθήσει στην επιτάχυνση της απαραίτητης ανάπτυξης λογισμικού για το MI300.

Η Microsoft με τις ανακοινώσεις της αυτές ενισχύει τη θέση της ως κορυφαίου παρόχου υπηρεσιών cloud για την τεχνητή νοημοσύνη (AI).