LangChain pridal ScaleDown do dlhobežných agentov a Gateway: kontext sa presúva z veľkého LLM do middleware

LangChain v blogu z 13. októbra 2026 predstavil integráciu langchain-scaledown a zároveň podporu ScaleDown v LangSmith LLM Gateway. Jadrom novinky nie je nový „univerzálny agentný model“, ale presun úzkych úloh správy kontextu na špecializované modely ScaleDown. Podľa zdroja majú tieto modely riešiť najmä sumarizáciu staršej histórie, kompresiu rozsiahlych výsledkov nástrojov a extrakciu štruktúrovaných údajov z konverzácie. Praktický význam je v tom, že hlavný model môže zostať vyhradený na plánovanie, písanie a otvorené rozhodovanie, zatiaľ čo opakované operácie okolo kontextového okna sa odovzdajú samostatnej vrstve middleware.

V hlavnom texte sú popísané tri hotové middleware pre LangChain a Deep Agents. ScaledownSummarizationMiddleware sleduje zaplnenie kontextu a po prekročení prahu nahradí staršie správy jedným súhrnom, pričom novšie správy ponechá. ScaledownToolCompressionMiddleware pridáva k vybraným nástrojom voliteľný parameter compression_query; model tak môže povedať, ktorú časť výstupu potrebuje, a middleware vloží do kontextu len relevantný výrez namiesto celého výsledku. ScaledownExtractionMiddleware ešte pred prvým modelovým krokom číta používateľské správy, vytiahne definované polia do stavu agenta pod scaledown_extraction a nástroje ich potom môžu priamo použiť.

Dôležité je aj rozdelenie zodpovedností. LangChain explicitne píše, že agentný model zostáva zodpovedný za plánovanie a generovanie; ScaleDown má obsluhovať „context work around it“. To zapadá do širšieho vzoru, ktorý LangChain v septembrových textoch opisoval pri Jev a LangGraph: lacné, úzko zamerané rozhodovacie modely sa používajú na obmedzené klasifikačné alebo smerovacie kroky, kým všeobecný LLM ostáva na otvorené úlohy.

Pre tím, ktorý stavia dlhobežného agenta, je najužitočnejší konkrétny problém: história a výsledky nástrojov rastú rýchlejšie, než ich agent potrebuje doslovne držať v promptoch. Pri kódovacom alebo support agentovi sa tak platí znovu za tokeny, ktoré už neprinášajú novú hodnotu. Opísaný návrh preto nemení nástroje ani celý workflow, ale vkladá medzi ne a hlavný model vrstvu, ktorá starší obsah sumarizuje, dlhé odpovede skracuje a polia pre ďalšie kroky kopíruje presnejšie než voľné generovanie.

Zdroj uvádza, že kompresný middleware funguje bez zmeny samotných nástrojov a že sa hodí aj pre MCP nástroje. Pri extrakcii má zas zmysel v situáciách, kde chyba v prepise identifikátora alebo e-mailu rozbije ďalší krok workflowu. Dokument uvádza aj vlastný príklad „circuit breaker“ middleware, ktorý po každom modelovom kroku klasifikuje drift alebo zacyklenie a môže beh zastaviť.

Praktická novinka nie je len v middleware. ScaleDown je podľa LangChain už aj priamym poskytovateľom v LangSmith LLM Gateway na ceste /scaledown, takže volania sa dajú trasovať v LangSmith a majú sa započítavať do rovnakých spend a rate limitov ako ostatné modelové volania v pracovnom priestore. To je prevádzkový detail, ktorý je pre firmy dôležitý: špecializované modely sa nepridávajú mimo dohľadu observability vrstvy.

Treba však oddeliť doložený mechanizmus od marketingových čísel. Násobky typu 200× rýchlejšie, 467× lacnejšie či interné benchmarky pre Summarize a Compress pochádzajú zo zdroja alebo z benchmarkov citovaných zdrojom; v dodanom balíku nie je nezávislé overenie ani reprodukovaný test tretej strany. Rovnako nie je doložená licencia langchain-scaledown ani širšia prenositeľnosť mimo ekosystému LangChain/Deep Agents. Ako technický rozbor je teda podklad silný v mechanizme integrácie, slabší v nezávislom potvrdení výkonových sľubov.