تیپ #۳۵
حافظهٔ بلندمدت: تصمیم‌ها را نگه دارید، رونوشت خام را دور بریزید
بیشتر agentها حافظه را مثل یک دفتر ثبت بی‌پایان می‌بینند و همین باعث می‌شود پنجرهٔ زمینه پر از نویز شود. راه‌حل این است که برای حافظه سیاست نوشتن تعریف کنید: فقط واقعیت‌های تصمیم‌ساز مثل ترجیحات کاربر، محدودیت‌ها و نتیجهٔ کارهای تمام‌شده ذخیره شوند و بقیه به 🗑️ بروند. با امتیازدهی به اهمیت و تازگی هر خاطره، می‌توانید آستانه‌ای تعیین کنید که زیر آن، فراموشی خودکار اتفاق بیفتد.
توضیح کامل‌تر
حافظهٔ بلندمدت در agentها بیشتر شبیه یک سیاست نوشتن است تا یک انبار داده. هر بار که ایجنت چیزی را به خاطر می‌سپارد، در واقع تصمیم می‌گیرد در بازیابی‌های بعدی چه چیزی وارد پنجرهٔ زمینه شود و همین تصمیم، کیفیت پاسخ‌ها را تعیین می‌کند. مکانیزم رایج این است که هر حافظهٔ نامزد با دو معیار سنجیده شود: اهمیت، یعنی چقدر روی تصمیم‌های آینده اثر دارد، و تازگی، یعنی چقدر احتمال دارد هنوز معتبر باشد. هرچه امتیاز پایین‌تر باشد، شانس ماندن کمتر است. به این ترتیب رونوشت خام گفتگوها، تعارف‌های روزمره و جزئیات بی‌اثر به‌تدریج کنار می‌روند و فقط ترجیحات کاربر، محدودیت‌ها، تصمیم‌های گرفته‌شده و نتیجهٔ کارهای تمام‌شده باقی می‌مانند. یک لایهٔ تکمیلی هم تجمیع یا reflection است: چند حافظهٔ کوچک به یک جمع‌بندی معنادار تبدیل می‌شوند تا هم جای کمتری بگیرند و هم سریع‌تر بازیابی شوند. مثال ملموس در یک ایجنت پشتیبانی مشتری: جملهٔ «کاربر در پلن سازمانی است و ترجیح می‌دهد با ایمیل پاسخ بگیرد» باید بماند، اما «کاربر از ترافیک شهری گلایه کرد» می‌تواند حذف شود. نکتهٔ مهم این است که فراموشی باید کنترل‌شده باشد، چون حافظه‌های منقضی یا متناقض اگر باطل نشوند، ایجنت با اطلاعات قدیمی تصمیم می‌گیرد و خطاهایش سخت‌تر پیدا می‌شود.
← بازگشت به همهٔ نکته‌های روز