دانشمندان مؤسسه علوم و فناوری پیشرفته کره (KAIST) از یک تراشه هوش مصنوعی رونمایی کرده اند که ادعا می کنند می تواند با سرعت پردازنده گرافیکی A100 انویدیا مطابقت داشته باشد، اما با اندازه کوچکتر و مصرف انرژی به میزان قابل توجهی کمتر است. این تراشه با استفاده از فرآیند تولید 28 نانومتری سامسونگ ، فناوری نسبتا قدیمی در دنیای پرشتاب نیمه هادی ها ساخته شده است.
این تیم به سرپرستی پروفسور Yoo Hoi-jun در مرکز تحقیقات پردازش در حافظه KAIST، اولین تراشه هوش مصنوعی (C-Transformer) جهان را توسعه داده است. این سیستم محاسباتی نورومورفیک با استفاده از یک مدل یادگیری عمیق که اغلب در پردازش داده های بصری استفاده می شود، ساختار و عملکرد مغز انسان را تقلید می کند.
یو گفت: «محاسبات نورومورفیک فناوریای است که حتی شرکتهایی مانند IBM و اینتل نتوانستهاند آن را پیادهسازی کنند و ما مفتخریم که اولین نفری در جهان هستیم که LLM را با یک شتابدهنده نورومورفیک کم مصرف اجرا میکنیم.
سوالات باقی می ماند
این فناوری با ردیابی روابط درون دادهها، مانند کلمات در یک جمله، زمینه و معنا را یاد میگیرد، که یک فناوری کلیدی برای سرویسهای هوش مصنوعی مولد مانند ChatGPT است.
در جریان تظاهراتی در دفتر مرکزی وزارت ارتباطات و فناوری اطلاعات، عضو تیم کیم سانگ یوب قابلیتهای تراشه را به نمایش گذاشت. او در لپتاپ مجهز به تراشه وظایفی مانند جلسات پرسش و پاسخ، جمعبندی جملات و ترجمه را با استفاده از OpenAI 's LLM، GPT-2 انجام داد. کارها حداقل سه برابر سریعتر و در برخی موارد تا نه برابر سریعتر از زمانی که GPT-2 را روی لپتاپ متصل به اینترنت اجرا میکردید، انجام شد.
پیادهسازی LLM در وظایف مولد هوش مصنوعی معمولاً به پردازندههای گرافیکی متعدد و ۲۵۰ وات نیرو نیاز دارد، اما تیم ادعا میکند که نیمهرسانای آنها تنها ۱/۶۲۵ از توان GPU انویدیا را برای همان وظایف استفاده میکند. علاوه بر این، از آنجایی که اندازه آن 1/41 است و فقط 4.5 میلی متر در 4.5 میلی متر است، در نهایت می توان از آن در دستگاه هایی مانند تلفن های همراه استفاده کرد.
با این حال باید دید که آیا تراشه می تواند به وعده های خود در برنامه های کاربردی دنیای واقعی عمل کند یا خیر. همانطور که Tom's Hardware گزارش می دهد، «اگرچه به ما گفته می شود که تراشه KAIST C-Transformer می تواند همان وظایف پردازش LLM را مانند یکی از پردازنده های گرافیکی قدرتمند A100 انویدیا انجام دهد، اما هیچ یک از مطالب مطبوعاتی و کنفرانسی ما هیچ معیار عملکرد مقایسه ای مستقیمی ارائه نکرده ایم. این یک آمار قابل توجه است که به دلیل نبود آن مشخص است، و بدبینان احتمالاً حدس می زنند که مقایسه عملکرد هیچ لطفی به C-Transformer نمی کند.
ارسال نظر