问答详情
源自:2-5 LLMs vs chat models对比介绍
chatPromptTemplate长度限制
每种模型上下文长度限制不一样,需要在业务侧计算并截取历史对话的list 长度吗?还是说model会自动截取最近的对话填满上下文token数量?
提问者:augustvip
2024-07-14 00:07
个回答