تیپ #۱

عامل هوش مصنوعی یک حلقه است، نه یک پرامپت

چت‌بات یک بار جواب می‌دهد و تمام؛ اما عامل هوش مصنوعی تا وقتی کار واقعاً انجام نشده ادامه می‌دهد. هسته‌ی ماجرا یک حلقه است: مدل تصمیم می‌گیرد چه اقدامی انجام دهد، ابزار را صدا می‌زند، نتیجه را می‌بیند و دوباره تصمیم می‌گیرد 🔁 تا به هدف برسد. اگر سیستم شما فقط متن تولید می‌کند و هیچ اقدامی نمی‌کند یا خروجی را بررسی نمی‌کند، آن یک پرامپت است نه یک عامل.

توضیح کامل‌تر

خیلی‌ها تصور می‌کنند هر سیستمی که به یک مدل زبانی وصل است، خودبه‌خود یک عامل محسوب می‌شود؛ در حالی که تفاوت اصلی در وجود حلقه‌ی بازخورد است. در یک چت‌بات معمولی، مدل فقط یک پاسخ تولید می‌کند و کنترل را پس می‌دهد، اما در یک عامل، خروجی مدل به یک اقدام واقعی تبدیل می‌شود، مثلا فراخوانی یک API یا جست‌وجو در پایگاه داده، و سپس نتیجه‌ی همان اقدام دوباره به مدل برمی‌گردد. همین چرخه‌ی تصمیم، اقدام و مشاهده است که به عامل اجازه می‌دهد مسیرش را وسط کار اصلاح کند و خطاهای قبلی را جبران کند. در عمل، همین ویژگی عامل را برای کارهای چندمرحله‌ای مثل رزرو بلیت، تحلیل داده یا دیباگ کردن کد مناسب می‌کند، چون از قبل معلوم نیست چند قدم لازم است. البته این آزادی هزینه هم دارد: هر دور از حلقه توکن مصرف می‌کند و بدون سقف مشخص، عامل می‌تواند در یک چرخه‌ی بی‌پایان گیر کند. به همین دلیل موقع ساخت عامل‌ها باید از همان ابتدا معیار توقف، بودجه‌ی توکن و نقطه‌ی بازبینی انسانی را تعریف کنید. تجربه نشان می‌دهد عامل‌هایی که این محدودیت‌ها را دارند، در عمل قابل‌اعتمادتر از عامل‌های کاملا آزاد هستند.