Tiiny AI یک استارت‑اپ آمریکایی است که مینیپیسی کاملاً جدیدی را با هدف واحد معرفی کرده است – قرار دادن مدلهای زبانی بزرگ در جیب کاربران. مینیپیسی Pocket Lab به طرز شگفتانگیزی کوچک، یک پردازنده ARM 12‑هستهای همراه با یک واحد پردازش عصبی (NPU) با توان محاسباتی تا ۱۶۰ TOPS در خود دارد. حافظه نقش کلیدی ایفا میکند؛ این مینیپیسی با ۸۰ گیگابایت RAM LPDDR5X مجهز است.
Tiiny Lab یک استارت‑اپ مستقر در ایالات متحده است که بهنظر میرسد بر سختافزارهای طراحی شده برای مدلهای زبانی شخصی تخصص دارد. جدیدترین محصول آنها گامی نوین به حوزه مینیپیسیها است که با نام Pocket Lab شناخته میشود. این مینیپیسی که نامش بهخوبی توصیفکننده است، بهطور فوقالعاده کوچک بوده و سختافزاری قدرتمند دارد که میتواند مدلهای زبانی با حداکثر ۱۲۰ میلیارد پارامتر را اجرا کند؛ ادعای شگرفی است.
پردازنده ARM 12‑هستهای با dNPU برای 160 + 30 TOPS محاسبات هوش مصنوعی
جالب است که Tiiny AI ادعا کرده است مینیپیسی Pocket Lab عنوان «کوچکترین مینیپیسی جهان» را در دسته «مدلهای زبانی ۱۰۰ میلیاردی محلی» توسط کتاب جهانی گینس به دست آورده است که بهنظر میرسد این دستهبندی بسیار خاص باشد. هرچند، بیشک Pocket Lab مینیپیسی بسیار فشرده است؛ ابعاد آن تنها ۱۴.۲ × ۸ × ۲.۵ سانتیمتر (یا ۵.۶ × ۳.۱۵ × ۱ اینچ) میباشد. وزن آن نیز تنها ۳۰۰ گرم است که بهخوبی نشانگر سبکی آن است.
Tiiny AI بیان میکند نصب یککلیک برای مدلهای متنباز معروفی چون Llama، Qwen، DeepSeek، Mistral، Phi و OpenAI GPT‑OSS پشتیبانی میشود. بهروزرسانیهای نرمافزاری بهصورت OTA بهطور منظم ارائه خواهند شد که این امر نویدبخش به نظر میرسد. اما طبیعتاً اینکه این وعدهها حقیقت پیدا کنند یا نه، هنوز مشخص نیست. از نظر سختافزاری، Pocket Lab مینیپیسی دارای تواناییهای چشمگیری است که بهصورت زیر توضیح داده میشود:
- پردازنده ARM 12‑هستهای بر پایه ARMv9.2
- واحد پردازش عصبی (NPU) با توان ۱۶۰ TOPS
- ۸۰ گیگابایت حافظه LPDDR5X، که ۴۸ گیگابایت آن به NPU اختصاص یافته است
- یک ترابایت SSD
- مصرف توان ۶۵ وات
- عملیات کاملاً آفلاین
Tiiny AI ادعا میکند Pocket Lab میتواند مدلهای زبانی با تا ۱۲۰ میلیارد پارامتر را پردازش کند، اگرچه سطح کوانتیزیشن بهصورت دقیق اعلام نشده است. جزئیات قیمتگذاری نیز فعلاً محرمانه است، اما بدون شک مینیپیسی Pocket Lab هزینهای قابلتوجه خواهد داشت. حتی با کوانتیزیشن ۴‑بیتی تهاجمی، اجرای یک مدل ۱۲۰ میلیارد پارامتر برای سیستمی که تنها ۸۰ گیگابایت حافظه کلی دارد، کمی غیرواقعی به نظر میرسد. بدیهی است که نتایج نهایی هنوز در عمل بهدست نیامدهاند.
برای کاربران عادی که نیازی به اجرای مدلهای زبانی محلی ندارند و نیازهای عملکردی متوسطی دارند، مینیپیسی معمولی مانند Minisforum AI X1 Pro (در حال حاضر به قیمت ۱٬۰۸۷٫۹۰ دلار در آمازون) احتمالاً گزینه بهتری است.
منابع
Tiiny AI، شناساییشده توسط TechPowerUp