Intel เริ่มต้นการประชุม Vision 2024 ด้วยการเปิดตัวชิปประมวลผล Intel Gaudi 3 AI โดย Gaudi 3 ได้รับการออกแบบมาเพื่อเร่งปริมาณงาน AI ในระดับองค์กร และ Intel ยืนยันว่ามีความเร็วมากกว่าเกณฑ์มาตรฐานอุตสาหกรรมปัจจุบัน นั่นคือ Nvidia GPU H100 นั่นเอง

Intel Gaudi 3 ใช้สถาปัตยกรรมและหลักการเดียวกันกับ Gaudi 2 แต่ใช้กระบวนการผลิตแบบ 5 นาโนเมตรของ TSMC (เทียบกับ 7 นาโนเมตรของ TSMC ใน Gaudi 2) ทำให้มีประสิทธิภาพมากขึ้น โดยมี HBM2e สูงสุด 128GB พร้อมแบนด์วิดท์ 3.7 TB/s และ 900W TDP

Intel โชว์ benckmark พร้อมเปรียบเทียบ Gaudi 3 กับผู้นำตลาดอย่าง Nvidia H100 GPU ที่ครองตลาด ณ ตอนนี้ โดยใช้การทดสอบด้วยการรันโมเดลภาษาขนาดใหญ่ต่างๆ เช่น LLAMA2-7B, LLAMA2-13B และ GPT 3-175B ซึ่ง Gaudi 3 สามารถทำความเร็วได้มากกว่าสูงสุดถึง 1.7 เท่า

นอกจากนี้ Intel ยังกล่าวอีกว่า Gaudi 3 ประหยัดพลังงานมากกว่า H100 ของ Nvidia ถึง 2.3 เท่า

สุดท้าย Intel ได้ส่ง Gaudi 3 รุ่นระบายความร้อนด้วยอากาศไปให้กับพันธมิตรเพื่อทดสอบ ก่อนจะวางจำหน่ายในไตรมาสที่ 3 ในขณะที่รุ่นระบบระบายความร้อนด้วยของเหลวจะมาในไตรมาสที่ 4 ต่อไป

 source: gsmarena