
BotPsy: دستیار شخصی رویدستگاه با مدل زبانی عاملمحور زیر یک میلیارد پارامتر
تیم QVAC دستیار شخصی BotPsy را معرفی کرد که با یک مدل زبانی عاملمحور زیر یک میلیارد پارامتر بهصورت کاملاً روی دستگاه اجرا میشود. این پروژه بر حریم خصوصی و اجرای محلی تأکید دارد و نیازی به اتصال دائمی به سرورهای ابری ندارد.
تیم QVAC در وبلاگ Hugging Face از BotPsy رونمایی کرد؛ یک دستیار شخصی که بهطور کامل روی دستگاه کاربر اجرا میشود. این سیستم بر پایه یک مدل زبانی عاملمحور (Agentic Language Model) با کمتر از یک میلیارد پارامتر ساخته شده است. مدلهای عاملمحور برخلاف مدلهای زبانی معمول، توانایی برنامهریزی، فراخوانی ابزارها و اجرای زنجیرهای وظایف را دارند. BotPsy این قابلیتها را در قالب یک دستیار شخصی رویدستگاه ارائه میدهد تا دادههای کاربر بدون ارسال به سرورهای ابری پردازش شوند. اندازه زیر یک میلیارد پارامتر بهمعنای امکان اجرا روی سختافزار مصرفی مانند لپتاپ یا گوشی هوشمند است. این رویکرد میتواند هزینه استنتاج (Inference) را کاهش دهد و وابستگی به سرویسهای ابری را کمتر کند. برای توسعهدهندگان ایرانی، BotPsy نشاندهنده مسیری عملی برای ساخت دستیارهای محلی است؛ بهویژه در شرایطی که دسترسی پایدار به APIهای خارجی با محدودیت روبهروست. اجرای محلی مدل، امکان توسعه محصولات حریمخصوصیمحور و بدون نیاز به اینترنت پرسرعت را فراهم میکند. جزئیات فنی بیشتر، از جمله معماری مدل و روشهای بهینهسازی، در وبلاگ Hugging Face منتشر شده است.
این مدل در اپکس۲۴ قابل دسترس است
یک کلید API — ۵۰+ مدل هوش مصنوعی




