در اینتل ویژن 2024، اینتل شتاب‌دهنده هوش مصنوعی Gaudi 3 خود را راه‌اندازی کرد که این شرکت به‌عنوان رقیب مستقیم H100 انویدیا قرار می‌گیرد و ادعا می‌کند که آموزش و عملکرد سریع‌تری را در مدل‌های GenAI پیشرو ارائه می‌دهد.
پیش بینی می شود که گائودی 3 در کارهای مختلف از جمله زمان آموزش، توان استنتاج و بهره وری انرژی تا 50 درصد بهتر از H100 عمل کند.
بر اساس کارایی و کارایی شتاب‌دهنده هوش مصنوعی Gaudi 2، Gaudi 3 طبق گزارش‌ها دارای 4 برابر محاسبات هوش مصنوعی برای BF16، افزایش 1.5 برابری در پهنای باند حافظه و 2 برابر پهنای باند شبکه برای مقیاس بزرگ سیستم در مقایسه با نسل قبلی خود است.
عملکرد برتر
Gaudi 3 که بر روی فرآیند 5 نانومتری ساخته شده است، دارای 64 TPC سفارشی و قابل برنامه ریزی با هوش مصنوعی و هشت MME با قابلیت انجام 64000 عملیات موازی است. 128 گیگابایت حافظه (HBM2e نه HBM3E)، 3.7 ترابایت پهنای باند حافظه و 96 مگابایت SRAM داخلی برای پردازش کارآمد مجموعه داده های بزرگ ارائه می دهد. با 24 پورت اترنت 200 گیگابایتی یکپارچه، امکان مقیاس پذیری سیستم و شبکه استاندارد باز را فراهم می کند.
اینتل ادعا می کند که Gaudi 3 در مدل های مختلف از H100 برتر است، از جمله زمان آموزش 50٪ سریع تر در پارامترهای Llama 7B و 13B و همچنین مدل های GPT-3 175B. علاوه بر این، در پارامترهای Llama 7B و 70B و مدل‌های Falcon 180B، 50 درصد افزایش توان استنتاج و 40 درصد راندمان انرژی بیشتر وجود دارد. اینتل می گوید Gaudi 3 همچنین در سرعت استنتاج بر روی پارامترهای Llama 7B و 70B از H200 و مدل های پارامتر Falcon 180B تا 30% بهتر عمل می کند. از آنجایی که اینها معیارهای اینتل هستند، با خیال راحت آنها را با کمی نمک امتحان کنید.
Tom's Hardware خاطرنشان می کند، "در پایان روز، کلید تسلط بر حجم کار آموزش هوش مصنوعی و استنتاج امروزی در توانایی مقیاس کردن شتاب دهنده ها به خوشه های بزرگتر است. Gaudi اینتل رویکرد متفاوتی نسبت به سیستم های B200 NVL72 انویدیا دارد که از 200 سریع استفاده می کند. اتصالات اترنت Gbps بین شتاب دهنده های Gaudi 3 و جفت شدن سرورها با سوئیچ های برگ و ستون فقرات برای ایجاد خوشه ها."
جاستین هاتارد، معاون اجرایی و مدیر کل مرکز داده و گروه هوش مصنوعی اینتل، گفت: «در چشم انداز همیشه در حال تحول بازار هوش مصنوعی، شکاف قابل توجهی در عرضه های فعلی وجود دارد. بازخورد مشتریان ما و بازار گسترده‌تر بر تمایل به انتخاب بیشتر تاکید می‌کند. شرکت ها ملاحظاتی مانند در دسترس بودن، مقیاس پذیری، عملکرد، هزینه و بهره وری انرژی را در نظر می گیرند. Intel Gaudi 3 به عنوان جایگزین GenAI با ارائه ترکیبی قانع کننده از عملکرد قیمت، مقیاس پذیری سیستم و مزیت زمان به ارزش برجسته است.
Gaudi 3 در سه ماهه دوم سال 2024 در دسترس سازندگان OEM قرار خواهد گرفت و پیش بینی می شود در سه ماهه سوم در دسترس عموم قرار گیرد.
ارسال نظر