问答详情
源自:2-5 LLMs vs chat models对比介绍

chatPromptTemplate长度限制

每种模型上下文长度限制不一样,需要在业务侧计算并截取历史对话的list 长度吗?还是说model会自动截取最近的对话填满上下文token数量?

提问者:augustvip 2024-07-14 00:07

个回答