کوالکام از AI Hub خود رونمایی کرده است، یک کتابخانه همه جانبه از مدل‌های هوش مصنوعی از پیش بهینه‌شده آماده برای استفاده در دستگاه‌هایی که روی پلتفرم‌های اسنپدراگون و کوالکام کار می‌کنند.
این مدل‌ها از طیف گسترده‌ای از برنامه‌ها از جمله پردازش زبان طبیعی، بینایی رایانه‌ای و تشخیص ناهنجاری پشتیبانی می‌کنند و برای ارائه عملکرد بالا با حداقل مصرف انرژی، عاملی حیاتی برای دستگاه‌های تلفن همراه و لبه‌ای طراحی شده‌اند.
کتابخانه AI Hub در حال حاضر شامل بیش از 75 مدل محبوب هوش مصنوعی و هوش مصنوعی مولد از جمله Whisper، ControlNet، Stable Diffusion و Baichuan 7B است. همه مدل‌ها در زمان‌های اجرا مختلف همراه هستند و بهینه‌سازی شده‌اند تا از شتاب سخت‌افزاری Qualcomm AI Engine در همه هسته‌ها (NPU، CPU و GPU) استفاده کنند. به گفته کوالکام، زمان استنباط چهار برابر سریع‌تر ارائه می‌شود.
مستندات و آموزش های ارائه شده است
AI Hub همچنین ترجمه مدل را از چارچوب منبع به زمان های اجرا محبوب به طور خودکار انجام می دهد. این به طور مستقیم با Qualcomm AI Engine Direct SDK کار می کند و بهینه سازی های سخت افزاری را اعمال می کند. توسعه دهندگان می توانند مدل ها را بر اساس نیاز خود جستجو کنند، آنها را دانلود کرده و در برنامه های خود ادغام کنند و در زمان و منابع صرفه جویی کنند.
AI Hub همچنین ابزارها و منابعی را در اختیار توسعه‌دهندگان قرار می‌دهد تا این مدل‌ها را سفارشی کنند و آنها می‌توانند با استفاده از Qualcomm Neural Processing SDK و AI Model Efficiency Toolkit که هر دو در این پلتفرم موجود هستند، آنها را تنظیم کنند.
برای استفاده از AI Hub، توسعه دهندگان به یک مدل آموزش دیده در قالب PyTorch، TorchScript، ONNX یا TensorFlow Lite و درک خوبی از هدف استقرار نیاز دارند که می تواند یک دستگاه خاص (مانند Samsung Galaxy S23 Ultra) یا طیف وسیعی از دستگاه ها باشد. .
با این حال، AI Hub منحصراً برای توسعه دهندگان با تجربه نیست. همچنین به عنوان یک پلت فرم یادگیری عمل می کند و مستندات و آموزش های جامعی را برای کسانی که به دنیای هوش مصنوعی می روند ارائه می دهد.
کوالکام قصد دارد به طور منظم هاب هوش مصنوعی را با مدل های جدید و پشتیبانی از پلتفرم ها و سیستم عامل های اضافی به روز کند. توسعه دهندگان می توانند برای دسترسی به این مدل ها در دستگاه های میزبان ابری مبتنی بر پلت فرم های کوالکام ثبت نام کنند و به ویژگی های جدید و مدل های هوش مصنوعی دسترسی داشته باشند.
ارسال نظر