برای تمام قدرت خارق‌العاده‌ای که مدل‌های هوش مصنوعی امروزی دارند، آن‌ها از یک نقص انسانی شگفت‌آور رنج می‌برند: آن‌ها فراموش می‌کنند. به یک دستیار هوش مصنوعی یک مکالمه گسترده، یک کار استدلال چند مرحله‌ای یا پروژه‌ای که چند روز طول بکشد بدهید و در نهایت رشته‌ی موضوع را از دست خواهد داد. مهندسان به این پدیده «فساد متن» (context rot) می‌گویند و به آرامی به یکی از مهم‌ترین موانع در ساخت عامل‌های هوش مصنوعی که بتوانند به طور قابل اعتماد در دنیای واقعی عمل کنند، تبدیل شده است.

تیمی از محققان چین و هنگ کنگ معتقدند که راه حلی برای فساد متن پیدا کرده‌اند. مقاله جدید آن‌ها حافظه عاملی عمومی (GAM) را معرفی می‌کند، سیستمی که برای حفظ اطلاعات بلندمدت بدون غرق کردن مدل طراحی شده است. اصل اساسی ساده است: حافظه را به دو نقش تخصصی تقسیم کنید، یکی که همه چیز را ثبت کند و دیگری که دقیقاً همان چیزهای درست را در زمان مناسب بازیابی کند.

نتایج اولیه امیدوارکننده است و زمان‌بندی آن نیز نمی‌تواند بهتر باشد. با حرکت صنعت فراتر از مهندسی پرامپت و استقبال از رشته گسترده‌تر مهندسی متن، GAM دقیقاً در نقطه عطف مناسبی در حال ظهور است.

در قلب هر مدل زبان بزرگ (LLM) یک محدودیت سفت و سخت وجود دارد: یک «حافظه کاری» ثابت که معمولاً به عنوان پنجره متن شناخته می‌شود. هنگامی که مکالمات طولانی می‌شوند، اطلاعات قدیمی حذف، خلاصه یا به طور خاموش حذف می‌شوند. این محدودیت مدت‌هاست که توسط محققان هوش مصنوعی شناخته شده است و از اوایل سال 2023، توسعه‌دهندگان در تلاش بوده‌اند تا پنجره‌های متن را گسترش دهند.