سال 2024 سال بزرگی برای هوش مصنوعی روی دستگاه در لوازم الکترونیکی مصرفی بوده است. هر دو مایکروسافت و اپل با سیستم عامل مربوطه خود تغییراتی را انجام دادند، به طوری که مایکروسافت نام تجاری “Copilot+ PC” خود را برای لپ تاپ های دارای هوش مصنوعی معرفی کرد و اپل نیز Apple Intelligence را منتشر کرد. در ادامه مقاله همراه ریست باشید
این نمونه های اولیه نتایج متفاوتی ارائه کردند. برخی از ویژگی‌ها، مانند ترجمه بلادرنگ و گفتار به متن روی دستگاه، می‌توانند مفید باشند. دیگر موارد، مانند فراخوان ویندوز مایکروسافت، هنوز خود را ثابت نکرده اند.
همه این تبلیغات برای هوش مصنوعی پیامدهای مهمی برای سال جدید دارد. به نظر می رسد سال 2025 تبدیل به سالی شود که توسعه دهندگان اصلی تلاش می کنند تا هوش مصنوعی روی دستگاه را به برنامه های ویندوز خود اضافه کنند، و این بدان معناست که قبل از خرید یک لپ تاپ ویندوزی مدرن و جدید، حتی بیشتر به عملکرد هوش مصنوعی توجه کنید.
من با دو متخصص در تحقیق و آزمایش هوش مصنوعی صحبت کردم تا مغز آنها را برای آگاهی از چگونگی رشد هوش مصنوعی ویندوز روی دستگاه در سال 2025 بررسی کنم.
دستاوردهای بزرگی برای NPU ها در راه است
اگر در مورد عملکرد هوش مصنوعی لپ‌تاپ‌های ویندوزی کنجکاو هستید، احتمالاً «TOPS» وعده داده شده توسط هر مدل لپ‌تاپ را با هم مقایسه خواهید کرد. TOPS («تریلیون‌ها عملیات در ثانیه») اندازه‌گیری توانایی یک NPU برای انجام ضرب‌های ماتریس برای وظایف هوش مصنوعی روی دستگاه است.
سال 2024 شاهد دستاوردهای بزرگی در عملکرد TOPS در لپ‌تاپ‌های ویندوز بود. برای واجد شرایط بودن برای نام تجاری «Copilot PC+» مایکروسافت، یک لپ تاپ ویندوزی باید حداقل 40 TOPS عملکرد NPU داشته باشد. برای مرجع، اولین رایانه های شخصی Copilot+ Qualcomm حدود 45 TOPS را ذکر کردند – این افزایش چهار برابری نسبت به Core Ultra 7 165H “Meteor Lake” اینتل است که تنها یازده TOPS عملکرد NPU را ذکر کرده بود.
کارل فروند، بنیانگذار و تحلیلگر اصلی در تحقیقات هوش مصنوعی کامبرین، گفت: «فکر می‌کنم کوالکام واقعاً همه را بیدار کرد. فروند در ادامه گفته است که ای ام دی و اینتل به سرعت با تراشه های خود واکنش نشان داده اند، که ارتقای مشابهی را ارائه می دهد.
تا پایان سال 2024، خریدارانی که به دنبال یک لپ‌تاپ ویندوزی ممتاز – مانند سرفیس مایکروسافت، ایسوس پروآرت یا دل XPS هستند – می‌توانند انتظار افزایش تقریباً سه یا چهار برابری عملکرد NPU را در مقایسه با لپ‌تاپ‌های پریمیوم مشابهی داشته باشند که تا ان زمان در بازار عرضه می‌شدند. پایان سال 2023. این یک ضربه بزرگ است. اما آیا این روند تا سال 2025 ادامه خواهد داشت؟ بیایید بدانیم :
رایان شروت، رئیس آزمایشگاه تست عملکرد Signal65، فکر می‌کند که می‌تواند ادامه داشته باشد. اگر دوباره دوبل ببینیم تعجب نمی‌کنم، و دوباره سه‌گانه من را شگفت‌زده نمی‌کند.» با این حال، او انتظار دارد که این دستاوردهای نهایی تا پایان سال آینده بیشتر کیفی شود. حدس من این است که اواخر سال 2025 و احتمالاً در سال 2026 خواهد بود، زمانی که ما شاهد مهم ترین پیشرفت های NPU باشیم و به سطح بیشتری قدرت پردازشی خود برسند…
آینده‌ی TOPS
بهبود بالقوه دو تا سه برابری برای عملکرد هوش مصنوعی روی دستگاه قابل توجه است. با این حال، فروند و شروت هشدار دادند که بهتر است به عملکردهای TOPS که سازندگان تراشه نقل می‌کنند اعتبار زیادی ندهیم. روی کاغذ تعداد عملکرد بالا هستند و در عمل اینطور نیست …
فروند گفت: «TOPS واقعاً مخفف «آمار عملکرد بسیار بیش از حد استفاده شده» است. “ارزش زیادی ندارد.”
Shrout با مقایسه TOPS با ارقام TFLOPS که AMD و Nvidia اغلب هنگام بازاریابی پردازنده‌های گرافیکی نقل می‌کنند، موافقت کرد. این اعداد، که به حداکثر سرعت محاسباتی ممکن GPU اشاره می کنند، بینش و درک کمی از عملکرد واقعی در دنیای واقعی ارائه می دهند.
عملکرد هوش مصنوعی در دنیای واقعی در حال حاضر کمی بد است، جا نیفتاده و به بلوغ نرسیده است، تا حدی به این دلیل که ویندوز هنوز حول یک API واحد برای بهره‌برداری از قابلیت‌های هوش مصنوعی NPU ادغام نشده است. این مشکل برای دارندگان لپ‌تاپ‌های Copilot+ است که فاقد تراشه کوالکام هستند.
اگرچه AMD و Intel دارای تراشه هایی هستند که واجد شرایط نام تجاری Copilot+ هستند، کوالکام تاکنون از وضعیت مطلوبی برخوردار بوده است و بهتر از بقیه عمل کرده است. ماشین‌های Qualcomm اولین کسانی بودند که از Recall ویندوز و چندین برنامه محبوب مانند Blender و Affinity Photo پشتیبانی دریافت کردند که اخیراً اعلام شد که فقط روی سخت‌افزار Qualcomm Snapdragon X کار می‌کنند.
با این حال، این باید تا سال 2025 تغییر کند، زیرا مایکروسافت از API یادگیری ماشینی سطح پایین خود (DirectML) و Windows Copilot Runtime پشتیبانی می کند، که شامل چندین API AI ویژه وظایف است (که برخی از آنها هنوز منتشر نشده اند). در حال حاضر، واضح است که رایانه‌های شخصی Copilot+ چیزهای زیادی برای پیشرفت دارند و فضای زیادی برای رشد دارند.
Shrout گفت: “من فکر می کنم مایکروسافت این مشکل را در سال 2025 حل خواهد کرد.” هنگامی که توسعه دهندگان برنامه مانند DirectX به DirectML متصل شوند، مشکل حل خواهد شد. و فکر نمی کنم برای مدت طولانی مشکلی ایجاد شود.» Shrout آن را با روزهای اولیه 3 بعدی در رایانه شخصی مقایسه کرد، که در ابتدا شاهد API های رقیب بودیم اما در نهایت گزینه های مختلف در هم ادغام شد و Microsoft DirectX به محبوب ترین گزینه تبدیل شد.
اثبات این مورد برای ویندوز AI
NPU های بهتر و API یکپارچه که استفاده واقعی از عملکرد کامل یک NPU را برای توسعه دهندگان برنامه های کاربردی ویندوز آسان تر می کند، هر دو گام های مهم رو به جلو هستند، اما لزوما تضمین نمی کنند که هوش مصنوعی روی دستگاه معمولی اجرا شود…
به این دلیل که توسعه‌دهندگان هنوز این گزینه را دارند که به سمت شرکت‌هایی مانند OpenAI و Anthropic بروند که مدل‌ها و خدمات هوش مصنوعی خود را برای هر دستگاهی با دسترسی به اینترنت در دسترس قرار می‌دهند. و مدل‌های هوش مصنوعی آنها هنوز هم نسبت به مدل‌های هوش مصنوعی روی دستگاه توانایی بیشتری دارند و می‌توانند کارهای بیشتری انجام دهند و آن نتایج را با سرعت بیشتری تولید کنند و ارايه دهند…
با این حال، آن دسته از مدل‌های هوش مصنوعی که در فضای ابری میزبانی می‌شوند دارای یک نقطه ضعف بزرگ هستند که در سال 2025 پیش از قبل نمایان خواهند شد – قیمت مردم و هزینه برای زیرساخت شرکت ها…
Shrout می‌گوید: «این واقعیت که ما می‌توانیم مدل‌های زبان کوچک را روی یک NPU به طور مداوم در پس‌زمینه اجرا کنیم تا بر آنچه اتفاق می‌افتد نظارت داشته باشد، این کاری است که ابر نمی‌تواند انجام دهد، یا حداقل از نظر زیرساخت بسیار گران‌تر خواهد بود».
به نظر می‌رسد انتشار اخیر ChatGPT Pro توسط OpenAI، یک سطح ممتاز جدید برای کاربران قدرتمند، این نقطه را به سمت اصلی هدایت کند. ChatGPT Pro دسترسی نامحدود و کامل به مدل جدید o1 شرکت و دسترسی اولویت‌دار به ژنراتور ویدیوی Sora را فراهم می‌کند، اما قیمت آن 200 دلار در ماه است که گران به حساب می آید. بهای هر توکنی که توسعه دهندگان اپلیکیشن برای در دسترس قرار دادن o1 در اختیار کاربران می پردازند نیز به همین ترتیب زیاد است.
از طرف دیگر، کاربران و توسعه دهندگانی که به NPU روی دستگاه لپ تاپ ویندوز روی می آورند، اساساً می توانند هر زمان که بخواهند به صورت رایگان از آن استفاده کنند. مسلماً این آخرین سنگ بنایی است که در مسیر رسیدن به هوش مصنوعی روی دستگاه ( بدون الزام اتصال نت) گذاشته شده است. توسعه‌دهندگان و کاربران هم ابزار و هم انگیزه‌هایی برای تکیه بر NPU لپ‌تاپ ویندوز در صورت امکان برای کاهش هزینه‌ها خواهند داشت.
باید دید که تغییر به سمت هوش مصنوعی روی دستگاه چقدر سریع اتفاق خواهد افتاد و تا چه اندازه از طریق اکوسیستم نرم افزاری ویندوز تکثیر خواهد شد، اما به احتمال زیاد سال 2025 نقطه عطفی بزرگ خواهد بود.
فکر می‌کنم پنج سال پیش Qualcomm درست گفته بود که هوش مصنوعی روی دستگاه حرکت می‌کند. اولش شک داشتم. اما اکنون من یکی ایمان دارم هوش مصنوعی در نهایت باید روی هر دستگاه و بدون الزام به اینترنت باشد…»
منبع : pcworld.com
NPU چیست؟
واحد پردازش عصبی (Neural Processing Unit) یا به‌اختصار NPU، یک پردازنده‌ی تخصصی است که برای مدیریت کارهای سنگین هوش مصنوعی که تا پیش‌ازاین به کارت گرافیک اختصاص داشت، توسعه‌یافته است.
پردازنده‌های گرافیکی فعلی می‌توانند بار کاری هوش مصنوعی را به دوش بکشند، ولی برای این امر به انرژی و زحمت زیادی نیاز دارند. برای ما کاربران غالباً عمر باتری لپ‌تاپ اهمیت زیادی دارد و فشار زیاد روی کارت گرافیک عنصر مطلوبی نیست. حتی روی دسکتاپ هم اجرای برنامه‌ها کند می‌شود و دردسر زیادی به‌همراه دارد.
البته NPUها هنوز نمی‌توانند کنترل کامل چنین وظایفی را از GPU بگیرند. عملکرد فعلی واحد پردازش عصبی و کارت گرافیک بیشتر شبیه به یک همکاری دوجانبه است: آنها پشت‌سرهم کار می‌کنند تا زمان پردازش را کاهش دهند و درعین‌حال مصرف برق را محدود کنند.
برای درک سرعت محاسباتی این تراشه‌ها، فقط باید در ذهن داشته باشید که حجم پردازش آنها در هر ثانیه ۱۰ برابر بیشتر از هسته‌های CPU سنتی است. به همین دلیل برای اجرای مدل‌های زبانی بزرگ یا الگوریتم‌های پیچیده عالی هستند.
بدین‌ترتیب، ان‌پی‌یو در کنار سی‌پی‌یو و جی‌پی‌یو گردش کاری روان‌تری را به کاربران ارائه می‌دهد. این نکته را نیز در ذهن داشته باشید که یک NPU مشابه پلتفرم‌هایی مانند ChatGPT و DALL-E عمل می‌کند، با این تفاوت مهم که مجموعه داده‌ها، الگوریتم‌ها و مدل‌های زبانی خود را به‌صورت محلی روی تراشه دارد، درحالی‌که ChatGPT و DALL-E برای پردازش داده نیاز به سرورهای ابری هستند.
پی‌سی‌ها تنها دستگاه‌هایی نیستند که به‌روزرسانی‌های سخت‌افزاری و نرم‌افزاری هوش مصنوعی را دریافت می‌کنند. تقریباً تمامی لپ‌تاپ‌های پرچم‌داری که امسال وارد بازار می‌شوند، به یکی از انواع ان‌پی‌یوها مجهز شده‌اند. گوشی‌های هوشمند هم از این قاعده مستثنی نیستند و همان‌طور که شاهد بودیم، سامسونگ سری گلکسی اس ۲۴ را با ویژگی‌های متنوعی مانند ابزارهای رونویسی و ترجمه مبتنی بر هوش مصنوعی و همچنین ابزارهای تولید محتوای AI برای ویرایش تصاویر و ویدیوها ارائه کرد.
احتمالاً ان‌پی‌یوهای نسل بعدی قادر خواهند بود به‌تنهایی وظایف هوش مصنوعی را انجام دهند و جی‌پی‌یوها روی بهترین مزیت‌های نسبی‌شان متمرکز می‌شوند؛ اما ما هنوز به این نقطه نرسیده‌ایم.
