تیپ #۱۱

چطور ایجنت دانش بیرونی را بازیابی می‌کند

در بازیابی افزوده به تولید (RAG)، پرسش کاربر اول به بردار تبدیل می‌شود، نزدیک‌ترین تکه‌های متنی از پایگاه برداری بیرون کشیده می‌شوند و پیش از پاسخ‌دهی داخل پرامپت مدل می‌نشینند. نکته مهم این است که کیفیت پاسخ بیش از آنکه به خود مدل وابسته باشد، به نحوه تکه‌تکه کردن اسناد و بازنویسی پرسش بستگی دارد 🔍. ضمناً متن بازیابی‌شده را باید داده‌ی غیرقابل‌اعتماد در نظر گرفت، نه دستور؛ چون یک سند آلوده می‌تواند کنترل ایجنت را به دست بگیرد.

توضیح کامل‌تر

بازیابی افزوده به تولید (RAG) یک الگوی ساده اما پرجزئیات است: پرسش کاربر با یک مدل embedding به بردار تبدیل می‌شود، سیستم نزدیک‌ترین تکه‌های متنی را از یک پایگاه برداری پیدا می‌کند و آن‌ها را همراه پرسش به مدل زبانی می‌دهد. چرا این کار مهم است؟ چون وزن‌های مدل در زمان آموزش ثابت شده‌اند و دانش تازه، داده‌های خصوصی سازمان یا اطلاعات لحظه‌ای را در خود ندارند؛ RAG این شکاف را بدون آموزش دوباره پر می‌کند. در عمل اما بیشتر خطاهای RAG از مرحله بازیابی می‌آید، نه از مرحله تولید: اگر تکه‌بندی اسناد بد باشد یا پرسش کاربر مبهم باشد، بهترین مدل هم پاسخ درست نمی‌دهد. به همین دلیل ایجنت‌های حرفه‌ای پیش از جست‌وجو پرسش را بازنویسی می‌کنند، چند پرسش فرعی می‌سازند و نتایج را دوباره رتبه‌بندی می‌کنند. مثال ساده: برای پرسش «خطای ۴۰۳ در سرویس احراز هویت چیست؟» یک ایجنت خوب ابتدا آن را به «کدهای خطای سرویس احراز هویت» و «۴۰۳» می‌شکند و بعد تکه‌های مرتبط را می‌آورد. نکته امنیتی را هم فراموش نکنید: متن بازیابی‌شده باید داده فرض شود، نه دستور، وگرنه یک سند آلوده می‌تواند ایجنت را به کارهای ناخواسته وادار کند.