آخرین مقالات

هوش مصنوعی جدید بدون اینترنت روی لپ‌تاپ اجرا می‌شود

این مدل نسخه کوچک‌تر Inkling 2 Small محسوب می‌شود که ۵۹۴ میلیارد پارامتر دارد. بااین‌حال، شرکت تینکینگ ماشینز به‌جای کوچک‌سازی ساده معماری مدل قبلی، از ساختاری متفاوت استفاده کرده است

هوش مصنوعی

شرکت Thinking Machines Lab، متعلق به «میرا موراتی»، مدیر سابق شرکت OpenAI، از مدل هوش مصنوعی متن‌باز جدیدی با نام Inkling 2 Mini رونمایی کرد. این مدل با ۲۶٫۴ میلیارد پارامتر برای برنامه‌نویسی، استدلال و اجرای وظایف خودکار طراحی شده است و می‌تواند بدون نیاز به اتصال اینترنت، روی سخت‌افزارهای نسبتاً معمولی مانند مک‌بوک‌های مجهز به حداقل ۳۲ گیگابایت حافظه یکپارچه اجرا شود.

این مدل نسخه کوچک‌تر Inkling 2 Small محسوب می‌شود که ۵۹۴ میلیارد پارامتر دارد. بااین‌حال، شرکت تینکینگ ماشینز به‌جای کوچک‌سازی ساده معماری مدل قبلی، از ساختاری متفاوت استفاده کرده است. این معماری به مدل اجازه می‌دهد بدون افزایش تعداد توکن‌های خروجی، محاسبات بیشتری برای فرایند استدلال انجام دهد.

معرفی مدل هوش مصنوعی Inkling 2 Mini

مدل جدید از معماری ترنسفورمر حلقه‌ای (Looped Transformer) مبتنی بر ساختار ترکیب متخصصان (MoE) بهره می‌برد. این مدل در مجموع ۲۴ لایه و ۲۶٫۴ میلیارد پارامتر دارد که در هر بار استفاده استاندارد، تنها ۳٫۴ میلیارد پارامتر آن فعال می‌شوند.

براساس نتایج آزمایش‌های منتشرشده از سوی شرکت سازنده، این مدل در برخی آزمون‌های مرتبط با برنامه‌نویسی خودکار توانسته عملکرد بهتری نسبت به مدل‌های بزرگ‌تر ثبت کند.

برای مثال، این هوش مصنوعی در آزمون DeepSWE v1.1 امتیاز ۴۸٫۲ درصد را به دست آورده است؛ درحالی‌که امتیاز مدل Qwen3.8-27B در همین آزمون ۴۲٫۲ درصد اعلام شده است. همچنین در آزمون SWE-bench Pro v2 Hard، مدل جدید به امتیاز ۷۷٫۹ درصد رسیده، درحالی‌که مدل رقیب امتیاز ۷۳٫۸ درصد را ثبت کرده است.

در سایر ارزیابی‌ها نیز نتایج قابل‌توجهی برای این مدل گزارش شده است. امتیاز آن در آزمون Vals Index v2.2 برابر با ۴۶٫۵ درصد و در آزمون SWE-bench Verified معادل ۷۹٫۲ درصد بوده است. همچنین شاخص هوش Artificial Analysis برای این مدل عدد ۲۰٫۱ را نشان می‌دهد.

اجرای هوش مصنوعی بدون اینترنت روی مک‌بوک

یکی از ویژگی‌های مهم این مدل، امکان اجرای محلی آن با مصرف حافظه حدود ۲۰ گیگابایت است. کاربران می‌توانند با کمک ابزار Ollama، این هوش مصنوعی را روی رایانه‌های مجهز به تراشه‌های اپل و حداقل ۳۲ گیگابایت حافظه یکپارچه اجرا کنند.

مدل Inkling 2 Mini علاوه بر ورودی متنی، از تصاویر نیز پشتیبانی می‌کند و پنجره متنی آن ظرفیت پردازش حداکثر یک میلیون توکن را دارد. این قابلیت به کاربران اجازه می‌دهد حجم زیادی از اطلاعات را در اختیار مدل قرار دهند و وظایف پیچیده‌تری را به آن بسپارند.

شرکت سازنده برای نمایش توانایی‌های مدل، آن را در حالت پرواز و بدون اتصال به اینترنت روی یک مک‌بوک پرو مجهز به تراشه M5 Pro و حافظه ۴۸ گیگابایتی اجرا کرد. در این نمایش، مدل توانست طی چند دقیقه یک شبیه‌ساز پرواز قابل‌بازی طراحی کند.

نحوه دسترسی و اجرای مدل جدید

وزن‌های مدل Inkling 2 Mini با مجوز متن‌باز Apache 2.0 منتشر شده‌اند و توسعه‌دهندگان می‌توانند به فایل‌های اصلی آن دسترسی داشته باشند. امکان دریافت مدل از مخزن Hugging Face فراهم شده است و کاربران نیز می‌توانند با استفاده از ابزار Ollama آن را به‌صورت محلی روی رایانه خود اجرا کنند.

علاوه بر این، پلتفرم Tinker متعلق به شرکت Thinking Machines نیز برای استفاده از قابلیت استنتاج و تنظیم دقیق مدل (Fine-tuning) در دسترس توسعه‌دهندگان قرار دارد.

انتشار این مدل نشان می‌دهد که شرکت‌های فعال در حوزه هوش مصنوعی به‌دنبال توسعه مدل‌هایی هستند که در کنار برخورداری از توانایی‌های پیشرفته در برنامه‌نویسی و استدلال، به زیرساخت‌های پردازشی عظیم و اتصال دائمی به اینترنت وابسته نباشند.