大模型使用常见问题解决指南
Prompt工程
prompt通常指的是一个输入的文本段落或短语,作为生成模型输出的起点或引导。Prompt可以是一个问题、一段文字描述、一段对话或任何形式的文本输入,模型会基于Prompt所提供的上下文和语义信息,生成相应的输出文本。
技巧-穿越火线CEO
1、角色扮演 Cosplay
2、给出示例 Few-shot
3、思维链 Chain-of-thought,CoT 复杂任务拆解。在提示词中插入一系列的中间解决步骤,引导大模型将复杂的任务进行拆解,从而解决这个复杂的任务。
4、外部工具 External Tools
5、输出提示 Output Indicator
问题
1、大模型经常freestyle,自由发挥,怎么办?(严肃的场景,回答稳定,不乱说)
a.配置内部代理,屏蔽敏感词。缺点,交互时间变长,可能会造成误匹配。
b.本地化部署。缺点,本地委会大模型需要较高的人力成本和硬件成本。