ترکیبگر پاسخ (Response Synthesizer) در LlamaIndex چیست؟
یک خط لولهٔ RAG در LlamaIndex دو مرحلهٔ اصلی دارد. مرحلهٔ اول بازیابی (Retrieval) است: Retriever با جستوجوی معنایی، مرتبطترین نودها (Node) را از ایندکس بیرون میکشد. مرحلهٔ دوم ترکیب (Synthesis) است: ترکیبگر پاسخ این نودها را بههمراه متن کوئری به LLM میدهد و خروجی متنی نهایی میسازد. تا وقتی این مرحله اجرا نشده، شما فقط فهرستی از قطعات متن دارید، نه پاسخ.
خروجی هر ترکیبگر یک شیء Response است: متن پاسخ نهایی در فیلد response.response قرار میگیرد و نودهای استفادهشده با امتیازشان در response.source_nodes. همین فیلد دوم است که امکان «نمایش منبع کنار پاسخ» را میدهد — قابلیتی که برای اعتماد کاربر و برای پیوستهای حقوقی-قراردادی در محصولهای سازمانی حیاتی است.
چرا انتخاب response_mode روی هزینه و کیفیت تأثیر مستقیم دارد؟
در APIهای پولی، بزرگترین ضریب هزینه تعداد فراخوانی LLM است، نه فقط طول متن. هر فراخوانی شامل هزینهٔ توکن ورودی (پرامپت شامل نودها) و توکن خروجی (پاسخ) است؛ پس حالتی که برای یک کوئری ده فراخوانی انجام میدهد، ده برابر «هزینهٔ ثابت» را به سیستم شما تحمیل میکند. انتخاب response_mode عملاً انتخاب همین تعداد است.
کیفیت هم به همین پارامتر گره خورده است. refine چون هر نود را جدا میبیند، جزئیات را بهتر حفظ میکند ولی کند و پرهزینه است. tree_summarize برای «خلاصهٔ کلی از حجم زیادی متن» بهترین است، چون از بالا به پایین درخت میسازد. compact میانبُر عقلانی است: در بیشتر پروژهها همان کیفیت refine را با کسری از هزینه میدهد، به شرطی که نودهای شما در پنجرهٔ زمینه جا شوند.
هر حالت response_mode چه کاری انجام میدهد؟
| حالت | نحوهٔ کار | فراخوانی LLM | بهترین کاربرد |
|---|---|---|---|
| refine | نودها را ترتیبی میپرسد: اولین نود با text_qa_template و نودهای بعدی با refine_template برای پالایش پاسخ | ۱ به ازای هر نود (پس از برش chunkهای بزرگ با TokenTextSplitter) | پاسخ تفصیلی که جزئیات هر سند در آن مهم است |
| compact (پیشفرض) | همان مسیر refine، اما قبل از فراخوانی نودها را تا سقف پنجرهٔ زمینه به هم میچسباند | حداقلِ ممکن؛ معمولاً ۱ تا ۲ | پیشفرض بهینه برای اکثر پروژههای RAG |
| tree_summarize | با summary_template روی گروههای متن پاسخ میسازد و خروجیها را بازگشتی به یک پاسخ واحد میرساند | زیاد (پاسخهای برگ + ادغامهای درخت) | خلاصهٔ کلی از حجم بزرگ متن |
| simple_summarize | همهٔ نودها را در یک پرامپت جا میدهد و در صورت نیاز متن را برش میزند | ۱ | خلاصهٔ سریع متون کوتاه، وقتی از دست رفتن جزئیات قابل قبول است |
| no_text | فقط نودها را عبور میدهد؛ LLM اصلاً صدا زده نمیشود | ۰ | گرفتن response.source_nodes برای نمایش منابع بدون تولید پاسخ |
| accumulate | همان کوئری را روی هر نود جداگانه اجرا و خروجیها را بهصورت رشتهٔ الحاقی برمیگرداند | ۱ به ازای هر نود | پاسخ جداگانه برای هر قطعه؛ مثلاً جمعبندی هر بازخورد مشتری |
| compact_accumulate | مثل accumulate، اما پرامپتها را مثل compact فشرده میکند | کمتر از accumulate | همان کاربرد accumulate با هزینهٔ کمتر |
اگر response_mode ندهید، LlamaIndex حالت compact را اجرا میکند؛ بنابراین «رفتار پیشفرض» query engine شما هماکنون همین حالت بهینه است و هیچ پروژهای با حالت پرهزینهٔ refine شروع نمیشود مگر اینکه خودتان آن را انتخاب کرده باشید.
create and refine an answer by sequentially going through each retrieved text chunk
— مستندات رسمی LlamaIndex — Response Modes، توصیف حالت refine [S1]
| مورد | تعداد فراخوانی LLM | حفظ جزئیات هر سند | کیفیت خلاصهٔ کلی | هزینهٔ نسبی |
|---|---|---|---|---|
| refine | ۱ به ازای هر نود | عالی | متوسط | بالا |
| compact | معمولاً ۱-۲ | خوب | خوب | پایین |
| tree_summarize | زیاد | متوسط | عالی | بالا |
چطور LlamaIndex را به API اپکس۲۴ وصل کنیم؟
اپکس۲۴ یک endpoint سازگار با OpenAI در مسیر v1 ارائه میدهد، پس لازم نیست SDK خاصی بنویسید؛ کلاس OpenAILike در پکیج llama-index-llms-openai-like دقیقاً برای همین سناریو ساخته شده است. دو نکتهٔ مستندات را همیشه رعایت کنید: نام پارامتر آدرس سرور api_base است (نه base_url که در SDK رسمی OpenAI میبینید) و context_window بهطور پیشفرض فقط 3900 توکن است — اگر واقعی تنظیمش نکنید، LlamaIndex محافظهکارانه نودها را جمع میکند و کیفیت افت میکند [S3].
- 1
نصب کتابخانهها
هستهٔ LlamaIndex و پکیج LLM سازگار با OpenAI را نصب کنید.
- 2
ساخت شیء LLM اپکس۲۴
کلاس OpenAILike را با آدرس v1 اپکس۲۴ و کلید خودتان بسازید؛ کلید را از متغیر محیطی بخوانید، نه در کد.
- 3
تنظیم سراسری Settings.llm
با تنظیم Settings.llm، همهٔ ماژولها (ازجمله ترکیبگر پیشفرض Query Engine) از همین مدل استفاده میکنند.
- 4
آزمون سریع اتصال
قبل از ساخت ایندکس، اتصال را با یک complete ساده چک کنید.
- 5
ساخت ترکیبگر پاسخ
حالا ترکیبگر را با حالت دلخواه بسازید؛ چون Settings.llm تنظیم شده، نیازی به پاس دادن llm نیست.
چطور مستقیماً از get_response_synthesizer استفاده کنیم؟
برای تست، دیباگ یا سناریوهایی که نودها را خودتان میسازید (مثلاً از یک پایگاهدادهٔ سفارشی)، نیازی به ایندکس و Retriever نیست: تابع کارخانهٔ get_response_synthesizer از llama_index.core مستقیماً یک ترکیبگر میسازد. دو متد اصلی دارید: synthesize که لیست NodeWithScore میگیرد و get_response که رشتهٔ متن chunkها را میگیرد؛ نسخهٔ ناهمگام (async) آنها یعنی asynthesize و aget_response هم در کلاس پایه تعریف شدهاند [S2].
چطور ترکیبگر را داخل Query Engine به کار بگیریم و پرامپت را سفارشی کنیم؟
در پروژهٔ واقعی، ترکیبگر معمولاً مستقیم صدا زده نمیشود؛ Query Engine خودش Retriever و ترکیبگر را پشتسرهم اجرا میکند. دو راه دارید: فقط response_mode بدهید تا LlamaIndex خودش ترکیبگر بسازد، یا یک ترکیبگر آماده را با پارامتر response_synthesizer پاس بدهید — راه دوم وقتی لازم است که قالب پرامپت یا llm خاصی دارید [S2].
سفارشیسازی پرامپت مهمترین اهرم کیفیت است. حالتهای refine و compact از دو قالب استفاده میکنند: text_qa_template برای پاسخ اولیه از اولین نود و refine_template برای پالایش با نودهای بعدی؛ tree_summarize هم summary_template دارد. مثال رسمی مستندات نشان میدهد میتوانید به summary_template متغیر دلخواه (مثل لحن نوشتار) اضافه کنید و مقدارش را در get_response پاس بدهید [S2].
رایجترین خطاها و راه رفع آنها چیست؟
دو دسته خطا در خط لولهٔ ترکیب پاسخ بیشتر از بقیه دیده میشوند و هر دو ریشه در response_mode دارند: حالتهای پرفراخوانی مثل refine و tree_summarize به سقف نرخ برمیخورند و حالتهای فشرده مثل compact اگر پنجرهٔ زمینه اشتباه تنظیم شده باشد، پرامپت بیش از حد بزرگ میسازند.
هزینهٔ واقعی هر حالت چند تومان است؟
برای تبدیل فرمول (۱) به تومان، به قیمت هر ۱ میلیون توکن مدل نیاز دارید. جدول زیر مدلهای مرتبط این آموزش را بر اساس صفحهٔ رسمی قیمت اپکس۲۴ جمع میکند؛ برای انتخاب مدل بین کیفیت و هزینه، صفحهٔ مدلها و قیمتها را همیشه همزمان ببینید.
| مدل | هزینهٔ هر فراخوانی (تومان) | هزینهٔ روزانه (تومان) | هزینهٔ ماهانهٔ ۳۰ روزه (تومان) |
|---|---|---|---|
| Claude Sonnet 5 | ۶۴۸ | ۱٬۲۹۶٬۰۰۰ | ۳۸٬۸۸۰٬۰۰۰ |
| Claude Haiku 4.5 | ۲۱۶ | ۴۳۲٬۰۰۰ | ۱۲٬۹۶۰٬۰۰۰ |
| GPT-6 Luna | ۲۲ | ۴۳٬۲۰۰ | ۱٬۲۹۶٬۰۰۰ |
جمعبندی: از اینجا به کجا برویم؟
در این مقاله دیدید که ترکیبگر پاسخ، حلقهٔ نهایی RAG در LlamaIndex است و response_mode تعیین میکند هر کوئری چند فراخوانی LLM هزینه کند. compact برای شروع، refine برای جزئیات حیاتی و tree_summarize برای خلاصهٔ کل سند؛ این سه حالت ۹۰ درصد تصمیمهای واقعی پروژه را پوشش میدهند و بقیه حالتها برای نیازهای خاصاند.
- کلید API اپکس۲۴ بسازید و در متغیر محیطی APX24_API_KEY ذخیره کنید.
- با OpenAILike و api_base اپکس۲۴ مدل پروژه را تنظیم و Settings.llm را ست کنید.
- کد بخش ۵ را با نودهای واقعی خودتان اجرا کنید و source_nodes را بررسی کنید.
- دو سه حالت را روی همان کوئریها امتحان کنید و هزینه را با فرمول (۱) مقایسه کنید.
- در قدم بعد، سراغ پیکربندی کامل Query Engine و بعد Chat Engine بروید.




