Az Anthropic Message Threads funkciója 35 százalékkal gyorsítja a válaszadást
A Claude platform Messages API-jának új funkciója nem küldi újra a teljes előzményt, így jelentősen csökken a várakozási idő a hosszú beszélgetéseknél.

Az Anthropic kiadta a Message Threads funkciót nyílt béta verzióban a Claude platform Messages API-jához. A rendszer korábban minden egyes kérésnél újra elküldte a teljes beszélgetési előzményt az API-n keresztül. Az új megoldás ezzel szemben csak a legutóbbi üzenet óta történt változásokat továbbítja.
A fejlesztés a nagy terjedelmű feladatoknál fejti ki a legnagyobb hatást: 500 000 és 1 millió token közötti kéréseknél a válaszadás megkezdéséig eltelt idő mintegy 35 százalékkal csökken. Az Anthropic szerint az újításból leginkább a kódoló és számítógép-használó ügynökök, valamint a nagy mennyiségű dokumentumot vagy képet feldolgozó munkafolyamatok profitálnak.
A beszélgetési szál a kérések között titkosítva marad a memóriában, és 5 perc tétlenség után törlődik. A felhasznált tokenek száma nem változik, mivel a Claude továbbra is átolvassa a teljes előzményt. A funkció a Claude platform mellett elérhető az AWS, a Microsoft Foundry és a Google Cloud felületein is.