Η Intel ξεκίνησε το Vision 2024 με την παρουσίαση του Gaudi 3 AI chip. Αυτό το chip στοχεύει να βοηθήσει στην επιτάχυνση των εργασιών που χρησιμοποιούν τεχνητή νοημοσύνη σε επίπεδο επιχείρησης και η Intel υποστηρίζει ότι είναι γρηγορότερο από την H100 GPU της Nvidia. Το Gaudi 3 χρησιμοποιεί την ίδια αρχιτεκτονική με το Gaudi 2, αλλά με τη νέα διαδικασία 5nm γίνεται ακόμα πιο αποδοτικό.
Το Gaudi 3 υποστηρίζει έως 128GB HBM2e με 3,7 TB/s bandwidth και έχει ισχύ 900W TDP.
Η Intel παρουσίασε benchmarks, όπου σύγκρινε το Gaudi 3 με την H100 GPU, σε διάφορα μοντέλα γλωσσικής επεξεργασίας, όπως τα: LLAMA2-7B, LLAMA2-13B και GPT 3-175B. Το Gaudi 3 αποδείχτηκε 1,7 φορές ταχύτερο και 2,3 φορές πιο αποδοτικό σε κατανάλωση ενέργειας.
Η Intel έχει ήδη στείλει δείγματα του chip στους συνεργάτες της με σύστημα ψύξης μέσω αέρα και αναμένεται να είναι διαθέσιμο ευρέως την τρίτη τριμηνιαία περίοδο του 2024.
Στο τέταρτο τρίμηνο θα ακολουθήσουν και μοντέλα με υδρόψυξη.
