一次性解决幻觉问题的聪明方法

幻觉问题探讨

大型语言模型产生幻觉的问题非常严重。最近，当我使用Cerebras.ai聊天时，问起James Stakelum是谁（说的就是我），回答说James Stakelum是“Cerebras的联合创始人之一”，并且“现在也是Cerebras的首席执行官”。

幻觉是大语言模型常见的一个问题，当你用聊天机器人来做客服时，幻觉会损害用户信任，还可能损害公司声誉。

本文提供了一个全面的解决方案，以一劳永逸地解决幻觉问题。

解决方法可能不是你想的那个

朴素的解决方案是加大规模。构建一个更大规模的模型，增加参数，用更多数据进行训练。

但即使是最大的LLM也会产生幻觉。无论规模如何扩大，幻觉都不会消失。更糟糕的是，更大的模型会带来高昂的费用，较长的响应时间，以及过时的知识——它们只能提供训练时所学的内容。

大型语言模型（LLM）并不是我们最初想象的那种存储数十亿事实的容器。相反，它实际上是一个基于概率的工具，擅长组织、整合和转化及处理信息。

理解并接受这一点是解决幻觉的关键。

更大的LLM会遇到的限制

从表面看，像GPT-4这样的大型模型似乎可以解决所有问题。这些模型经过大量数据训练，能够生成类似人类写的文本。然而，更大的模型也存在一些天然的短板：

1. 训练限制：即使是最大的LLM也局限于它们在训练期间学到的知识。如果在训练之后出现了新的事实，模型根本不知道。
2. 过时的知识：2024年夏季训练的模型不会知道2024年秋季发生的事件，除非重新训练它们——这是一个耗时且昂贵的过程。
3. 成本和资源需求：更大的模型需要大量的计算资源。它们运行速度较慢且成本高昂，使得它们不适合实时应用。

而且，也许更重要的是，扩大规模并不能解决幻觉现象。当模型自信地生成看似合理但实际上错误的信息时，就会出现幻觉现象。更大的模型并不能解决这个问题——它们只会产生更复杂、有时甚至更逼真的幻觉。

那就是为什么我们需要更聪明地想问题。我们不应该仅仅依赖大型模型自带的记忆，而是可以利用外部的数据来源来获取实时数据。

但RAG本身并不是完整的解决方案。完整的解决方案不仅需要更智能的技术，如知识图和事实消除歧义，来增强我们输入上下文中的内容。

别把大语言模型搞糊涂了！

当你通过RAG收集到事实时，并将这些事实放入请求的背景中，可能会让LLM感到困惑：当有两个相互冲突的事实时，它应该相信哪一个，是你告诉它的，还是它在训练中所学的？

在电影《2010：我们接触的一年》中，我们得知HAL的行为危险——他在前一集《2001：太空漫游》中杀死了两名宇航员——是由相互矛盾的指令造成的。HAL被编程优先考虑任务的成功，但他也被命令对某些任务细节保密，比如发现单体的事要对船员保密。这种核心功能与保密要求之间的矛盾导致了认知失调，进而导致了他的失常。

同样，相互矛盾的输入——例如由RAG提供的现实世界的事实——可能与其在训练中获得的先前知识相矛盾，这会使LLM陷入悖论。这种设计用于整合这两种输入的LLM难以解决这种矛盾，这可能导致不可靠的回答。

这张屏幕截图展示了我解决这个问题的方法。

知识图谱：使信息结构清晰准确

知识图谱是一种结构化的表示方法，用来表示实体（如人、地点和概念）及其之间的关系。它不仅仅是一些孤立事实的列表，而是一个相互连接的事实网状结构。知识图谱使得模型能够理解事实之间的相互联系，提供关键的上下文以帮助防止错误信息。

想象你在回答关于第二次世界大战的问题。如果没有结构化的办法，一个模型可能会把瓜岛战役与无关事件混淆，或者无法将正确的军事领导人与特定战役联系起来。知识图谱通过创建一个相互连接的事实网来帮助解决这个问题——将日期、军事领导人、地理地点以及“海权”和“空优”等战略要素联系起来。

知识图谱在实际中如何运作：
创建知识图谱首先从数据集中提取实体，例如人物、地点、组织以及其他关键点。这些实体成为图中的节点。然后，系统提取这些实体之间的关系，形成图中的边。
在关于第二次世界大战的文本中，会被识别为“尼米兹将军”、“太平洋战区”和“这一天是1942年8月7日”。

该图接着根据他们的关系来连接这些实体——“尼米兹海军上将在瓜达尔卡纳尔战役期间指挥了太平洋舰队”这句话既明确了谁参与了，也明确了他们的角色。这创建了一个事实网络，模型可以依赖它。

这里是一个以JSON格式的知识图示例，比如针对瓜岛战役：

{
 "entities": [  
 {  
 "id": "E1",  
 "name": "瓜达尔卡纳尔岛战役",  
 "type": "事件",  
 "description": "二战期间的一场重要军事战役，由盟军和日本之间进行。"  
 },  
 {  
 "id": "E2",  
 "name": "美国海军陆战队",  
 "type": "组织",  
 "description": "美国的主要地面作战部队。"  
 },  
 {  
 "id": "E3",  
 "name": "日本海军",  
 "type": "组织",  
 "description": "日本的主要海军作战部队。"  
 },  
 {  
 "id": "E4",  
 "name": "哈尔西将军",  
 "type": "人物",  
 "description": "战役期间美国海军部队的指挥。"  
 },  
 {  
 "id": "E5",  
 "name": "亨德森机场",  
 "type": "地点",  
 "description": "战役期间的一个关键机场，由美国海军陆战队控制着。"  
 }  
 ],  
 "relationships": [  
 {  
 "source": "E1",  
 "target": "E2",  
 "relationship": "参与"  
 },  
 {  
 "source": "E2",  
 "target": "E5",  
 "relationship": "占领"  
 },  
 {  
 "source": "E1",  
 "target": "E3",  
 "relationship": "对抗"  
 },  
 {  
 "source": "E4",  
 "target": "E1",  
 "relationship": "指挥"  
 }  
 ],  
 "communities": [  
 {  
 "id": "C1",  
 "entities": ["E1", "E2", "E4", "E5"],  
 "summary": "在瓜达尔卡纳尔岛战役中，美国海军陆战队在哈尔西将军的指挥下占领了亨德森机场。"  
 }  
 ]  
}

示例的分解:

• 实体：每个实体（如 瓜达尔卡纳尔岛战役，美国海军陆战队，哈雷塞中将 等）有一个 ID（E1，E2 等），名称，类型（事件、人物、地点等类型），以及一个简短的描述。
• 关系：这些是实体之间的连接。例如，“瓜达尔卡纳尔岛战役”（E1）与“美国海军陆战队”（E2）之间的关系是“参与了”，表示美国海军陆战队“参与了”该战役。
• 群体：这些是由相关实体组成的群体。例如，群体 1（C1）包括“瓜达尔卡纳尔岛战役”（E1）、“美国海军陆战队”（E2）、“哈雷塞中将”（E4）和“亨德森机场”（E5）等实体。群体提供了一个总结来描述这些实体是如何关联的，例如，占领亨德森机场是该战役的关键因素之一。

知识图的可视化和使用：
实践中，这个基于JSON的知识图会以一个由节点通过边连接的关系网络形式进行可视化。在一个图形工具中，比如“瓜达卡纳尔海战”、“哈尔西将军”这样的节点会通过线条展示它们之间的关系，比如“领导”、“参与”、“由……保护”。

LLM 使用这个图来理解事实的上下文，并在生成回应时确保保持关系的完整。

当你查询大语言模型（LLM）关于战略上的重要性的战斗时，系统会参考图谱来识别关键实体对象及其关系，从而提供一个全面的答案。这可以防止模型胡编乱造联系，并确保生成的答案基于已验证的事实。

知识图谱在减少模型中的幻觉方面的理论和实证证据
知识图谱可以帮助防止大语言模型（LLM）中出现幻觉这一观点基于一个坚实的逻辑假设：结构化数据，如知识图谱，提供了一个实体间关系的明确图谱，这应当有助于模型避免编造信息或误解事实之间的关联。以下是我们所知道的：

1. 理论基础：
   大语言模型经常在处理长程依赖性及语境一致性方面遇到困难。知识图谱通过提供结构化的、清晰的关系地图，从逻辑上帮助大语言模型避免幻觉，提供基于语境的事实支撑。
2. 相关领域证据：
   基于图谱的系统长期以来已在问答、推荐系统和信息检索等领域得到应用。像谷歌的知识图谱或Wikidata这样的系统展示了结构化数据如何提高准确性并防止模糊查询的误解释。
3. RAG和幻觉预防的具体证据：
   整合了知识图谱的检索增强生成（RAG）系统，例如微软的GraphRAG，旨在通过基于结构化、事实性的知识来减少幻象。然而，直接测量幻象率的基准测试仍处于初期阶段。
4. 实际基准和挑战：
   当前的基准测试，如TruthfulQA、LAMA和FactualityQA，用于测量大语言模型中的事实一致性，但直接比较GraphRAG和普通RAG的测试仍然较少。随着微软等公司内部基准测试GraphRAG，我们期待更广泛的基准测试来明确证明其减少幻觉的效果。
5. 类似系统的早期结果：
   增强知识的模型在文档总结和事实核查等任务中表现出色。将图神经网络（GNNs）和知识增强模型进行整合，在关键任务中证明了其在事实准确性方面的潜力。

事实确认：消除模糊性

消除事实歧义是一种确保每句话都是明确且无歧义的陈述的方法。这包括消除代词，明确模糊的时间点，并确保每条信息都能独立理解。

通过使事实变得明确和完整，事实消歧可以防止模型做出假设或猜测关系。

LLM 中歧义的问题：
歧义是造成幻觉的主要因素。如果遇到类似“他说明天会发生的”句子，模型可能会误解“他”和“明天”的指代。模型可能会产生错误的理解，认为“他”是一个历史人物，或者“明天”指的是一场完全不同的事件。事实消歧通过将文本转化为一个独立的事实来解决这一问题。

事实消歧的步骤如下：

1. 指代词和模糊实体的识别：
   用明确的指代替换模糊的指代。
   事实指代消解前：“他说服务器会在明天修好。”
   事实指代消解后：“2024年10月10日，约翰·史密斯说芝加哥数据中心的服务器将在2024年10月11日修好。”

2. 解决时间指代：
   用具体日期替换诸如“昨天”或“明天”这样的相对时间词。
   事实指代消解前：“这个包裹会在明天送到。”
   事实指代消解后：“这个包裹将在2024年10月12日送到。”

3. 明确关系：
   将隐含关系明确化。
   事实指代消解前：“经理在与她的团队谈话后批准了预算申请。”
   事实指代消解后：“2024年10月15日，销售经理萨拉·琼斯女士在与她的五个团队成员们讨论后批准了预算申请。”

4. 扩展缩写和首字母缩略词：
   用完整术语替换缩写以确保清晰。
   事实指代消解前：“XYZ公司的首席执行官约翰·道与公司的首席财务官简·道会面。”
   事实指代消解后：“2024年9月15日，XYZ公司首席执行官约翰·道与公司首席财务官简·道会面。”

为什么事实消歧可以减少模型出错：
模型出错发生在模型试图猜测或推断缺失信息时。事实消歧确保每个句子都成为一个完整事实，消除歧义。这样一来，当事实被完全格式化后，大语言模型无需发明关系或进行猜测，只需处理清晰且无歧义的数据。

如何解析歧义：
在我的实验中，最有效的方法是将文本输入大型语言模型，在提示中解释歧义消除的原理，并要求它解析文本中的歧义。

然而，我发现消除歧义处理一段长文本的效果并不如将其拆分句子，将整个文本作为上下文提供给LLM，效果会比它一次只处理一个句子更好。

解决地平线问题

当你在进行词语消歧时，如果关键细节或事实并没有出现在相邻的句子或段落，甚至不在同一文档中，就会遇到我称之为“地平线问题”（地平线问题）的情况。

为了应对这个问题，可以尝试几种方法：

1. 知识映射：构建一个语义图，跟踪整个文档或一系列文档中的实体和关系。此图作为参考，用于消除“他”的模糊性，即使它们相隔很长一段文字。示例：在后面章节中消除“他”的模糊性时，系统会检查图，以确认之前曾提到“John Smith”是关键人物。

2. 向量数据库搜索：使用语义编码将文本作为向量存储在数据库中。在消除模糊事实的不确定性时，系统可以在文档的远距离部分或相关文档中搜索相似的上下文。示例：模糊提到的“她的团队”可以通过查找先前提到的“Sarah Jones的五个成员的团队”来解决。

3. 实体跟踪：在整个文档中持续跟踪和更新重要实体（例如，人、地点、事件）的状态。这确保了代词或模糊指代能够准确解决，即使跨越章节。示例：在第八章中提到的“她”可以自动链接回第二章中介绍的“Sarah Jones，经理”。

4. 基于分块的消歧：将文本分割成逻辑块（例如，段落或部分）进行消歧。在块内部和跨块之间进行搜索，使用知识图或向量数据库进行长距离引用。

5. 跨文档上下文搜索：对于跨越多个文档的工作（例如，系列书籍），启用跨文档搜索以从相关上下文中检索相关事实。示例：在早期书籍中搜索引用以澄清新书中模糊的提到。

6. 带记忆的提示链：使用记忆缓冲区来维护关键事实，并将其作为后续消歧提示中的上下文提供，确保先前的信息可以访问。

通过利用这些方法的结合——知识地图、向量搜索、实体跟踪和片段处理——你可以有效地解决地平线难题，确保即使是远距离的引用或跨文档的引用也能被准确地消除歧义。

多查询方式:

另一种改进结果的方法是多查询策略，也称为RAG融合技术，通过生成用户查询的多个版本并对其嵌入向量进行细微调整来增强信息检索能力。这些细微变化使系统能够探索查询的不同解释和方面，确保不会遗漏任何关键细节。挑战在于找到正确的平衡——调整幅度过小则无法发现新的见解，而调整幅度过大则可能导致不相关的结果。确定最佳调整量通常涉及经验测试和语义相似度指标，以确保这些变化能捕捉到不同的含义而不偏离用户的意图。通过从向量数据库中检索数据，RAG融合可以提供更细致且全面的回答。

当多个查询返回结果后，互反排名融合算法（RRF）就会介入，对文档进行排序和优先化，以确定哪些是最相关的。通过分析哪些文档常常排名靠前，RRF 能过滤掉不太有用或重复的数据，只保留最准确和有价值的信息。这种精确查询变体与精炼排名的结合，确保用户得到更智能且符合上下文的答案，从而使得这一过程对处理复杂或不确定的查询非常有效。

双重检查模型输出

也许你在上面的屏幕截图中可以看到，聊天窗口底部写着“ChatGPT可能会犯错，请检查重要信息”。

那很重要。

我建议将大型语言模型（LLM）的输出传递给另一个程序以验证事实的准确性。

一个验证循环会促使LLM通过提出后续问题或执行额外步骤来重新检查输出，确保准确性。这就像强迫模型在给出最终答案之前复查自己的回答。

它是怎么运作的

LLM生成答案，无论是财务报告、医疗诊断还是法律分析。模型随后会验证其响应，这可能包括重新检查关键数据点或查询其他来源。这可能涉及重新运行计算或交叉参照外部文件。模型会检查内部一致性，并确保各部分事实一致。例如，如果它生成财务预测，会将数字与历史数据和市场趋势双重核对，以确保准确性。

完成验证后，模型会呈现最终输出，纠正任何不一致之处并标记任何不确定性。

示例：
一个大型语言模型生成季度财务报告，内容包括收入预测。验证循环会提示模型重新检查计算，对照历史数据进行核对，并重新验证数据。最终输出既一致又准确，没有错误。

连环思考提示：鼓励逻辑推理

链式思维引导是一种技术，其中模型被鼓励逐步表达其推理过程。模型不会直接给出答案，而是被提示将复杂问题分解为更小、更易处理的部分，就像人类会逻辑地一步步解释他们的思维过程一样。通过让模型一步步清晰地陈述其推理过程，这种方法引导模型一步步清晰、逻辑地思考。

问题分解：
模型需要分别考虑问题的每个方面。例如，对于“瓜达尔卡纳尔岛战役是否具有战略性重要性？”这样的问题，模型被提示要详细分解其推理过程：

• 瓜达尔卡纳尔战役是什么？
• 哪些关键人物参与了瓜达尔卡纳尔战役？
• 盟军从这场战役中获得了哪些战略优势？
• 这场战役给太平洋战区带来了哪些长期影响？

解释每一步：
模型不是直接得出结论，而是一步一步地逻辑推理。例如，它可能会先解释瓜达尔卡纳尔岛战役的背景及其参与者，然后接下来解释这场战役如何影响了后来的军事策略。这确保了问题的每个方面都得到了有条理的处理，减少了模型因为忽略或误解关键细节而出错的风险。

提高准确性：

通过明确地思考每个步骤，模型被迫考虑它检索到的那些事实以及这些事实之间的联系。这消除了它推理中的漏洞，并增强了准确性，因为模型不能跳过步骤或随意假设。

为什么链式思维提示可以用于防止幻觉：
大模型被设计成快速生成回复，这有时会导致过于简单或错误的答案。通过强制执行逻辑、逐步推理的过程，链式思维提示鼓励模型放慢节奏，仔细考虑每一条信息再得出结论。这种方法大大减少了幻觉的发生，因为模型被引导去构建连贯的叙述，而不是做出未经证实的跳跃。

在法律、医疗或技术等专业领域中，链式思维引导可以提供一个额外的可靠性保障，确保模型的推理基于事实和逻辑，更加可靠。

让LLM学会说“我不知道”并用置信分数

处理LLM中幻觉的一个好办法是教它们在没有足够信息时承认自己不知道，而不是自信地胡猜。通过让模型更透明，用户可以更好地判断他们能信任模型说的内容有多少。

说“我不知道”：
有时候，模型最有帮助的回答是，“我不知道。”承认自己不知道比给出错误的答案更好。这样可以建立信任，让人正确地依赖模型。不过，有时候模型虽然没有完整答案，但还是能提供一些有用的信息。

置信分数：
这就是置信分数登场的地方。模型可以通过使用<confidence_score>75</confidence_score>这样的置信分数来表达它对回答的确定程度。如果不确定，它可能会说类似这样的话：“我没有所有细节，但这是我所知道的。”这样，用户可以根据模型的自信程度来权衡回答，而不是盲目接受。

设置置信阈值：
在不同情境下，需要不同程度的确定性。例如，如果你在处理法律咨询或医疗信息，你可能希望模型更加谨慎。开发者可以设定阈值，让模型在不确定时直接回答“我不知道”。这提供了更多的控制权，让模型知道何时发言和何时保持沉默。

模型不仅仅会回答“是”或“不是”，还会根据它的自信程度给出不同的回答。

高信心（如85%以上）：模型会给出一个直截了当的答案。
中等信心（如50%-85%）：模型会加一句类似的话，“我不是很确定，但这是我目前得到的答案。”
低信心（如低于50%）：模型可能会说，“我了解得不够，无法回答这个问题。”

保障网：人工介入

人机协作法（HITL） 是一种方法，其中大型语言模型与人类专家合作，以确保其回答的准确性。模型不会独立生成答案，而是可以评估其回答的 确定性。如果确定性较低或模型检测到模糊性，它可以将问题 提交给人类专家，以确保用户获得准确可靠的信息。这种方法常用于 高风险场景，例如医疗、法律、金融，和 客服热线中心。

实际操作是怎么样的：
当用户提交查询时，AI模型会生成一个回复，但在给出回答之前，模型会先评估自己答案的可信度。这些因素包括但不限于：

• 问题中的歧义：如果问题包含模糊的措辞、缺少上下文或有多种可能的意思，大语言模型可能会难以提供一个明确的答案。
• 缺乏相关数据：如果大语言模型意识到其训练数据或检索到的文档中没有足够的信息，它可能会标记出该回答是不确定的。
• 复杂的问题：某些主题，如法律建议、医学诊断或棘手的客户支持问题，需要专业知识。如果模型检测到一个问题需要更多专业信息，它会提示专家来审核和确认答案。

在这种情况下，模型要么如下：

1. 将查询转交给人工专家直接处理，或者
2. 将生成的回复发送给人类验证，人员可以批准、编辑或重写答案在提供给用户前。

例如，在一个客服呼叫中心的聊天机器人中，LLM可以处理诸如跟踪订单或解决常见问题之类的常见问题。然而，当LLM遇到棘手问题——例如账单纠纷或异常账户活动时，它会衡量回复的把握。如果信心不足，LLM可以无缝地将对话转接给人工客服。客服人员可以查看之前的对话记录，包括之前的回复尝试，从而能够不需客户重复提供信息了。

为什么置信度评估很重要：
大模型 缺乏真正的理解或判断力。当模型不能确定事实时，它可能会呈现幻觉——自信却错误的答案。通过加入 置信度评估 步骤，模型可以自我评估其局限性，并决定是否需要人类介入。这一评估过程大大增强了系统的 可靠性，因为它确保提供的答案是可信的。这使得人类专家或代理能够决定是否需要干预。

它如何帮助：
人在回路中系统在错误代价高昂的领域提供了关键的安全屏障。例如，在客户支持、医疗保健、法律服务和金融等领域，错误信息可能带来严重的后果。HITL提供了：

1. 承认不确定性：模型可以承认其不确定的情况，为用户提供他们所需的透明度，从而让用户信任系统。在客户服务中，转接到人工代理也向用户表明系统正在认真处理他们的问题。
2. 增强信任：有人类监督的情况下，用户收到错误信息的可能性会降低。这会建立对系统的信心，因为用户知道敏感或复杂的问题将由有资格的专家来处理。
3. 灵活性：HITL系统支持实时调整。随着问题的变化或新领域出现，人类专家可以提供持续的指导来提高模型的准确性。
4. 学习与改进：通过回顾不确定的答案，人类专家还可以提供反馈以改进模型。随着时间的推移，这种人机反馈循环有助于LLM改进其决策过程，使其在未来回应中更准确。

HITL 最有效的情况

1. 医疗：例如，在医疗支持聊天机器人中，LLM可能会根据症状建议潜在的诊断，但最终诊断则需要医生确认。这样可以确保患者获得临床可靠的建议，而不是幻觉或不准确的医疗建议。
2. 法律服务：在法律背景下，模型可以检索相关法规或判例法，但需要参考人类律师以确认回复是否完全回答了查询的复杂性。这可以确保客户获得法律准确的信息，减少误解的风险。
3. 客户支持：在客户服务中，LLM可以处理常规查询，但对于复杂或模棱两可的情况——例如争议、账单错误或技术问题——当LLM对其回复的信心较低时，它可以将对话转接到人工客服。这可以确保困难或敏感的问题能够准确且富有同理心地解决，防止用户和客服团队的挫败感。
4. 金融：当模型处理敏感金融信息或投资建议时，人工干预可能至关重要。在提供有关市场趋势或投资决策的答案之前，模型可以标记潜在风险，并将问题转给人类顾问以确保合规和准确性。

挑战与机遇：
尽管HITL提供了一个解决生成错误信息问题的有效方案，但也面临一些挑战：

• 可扩展性：随着查询量的增加，有效地扩展人工监督可能会很具挑战性。自动化需要与人工参与保持平衡，以确保速度和准确性。
• 专家可用性：在医疗或法律等专业领域，专家审查可能无法立即进行，这可能导致响应延迟。

尽管存在这些挑战，HITL系统提供了一个灵活的安全网，可以针对不同行业和应用进行定制。随着大语言模型的不断发展，人机混合系统很可能会在需要准确、透明和可信赖的环境中成为常态。

通过加入人工审核，LLM可以承认自己不确定，确保最终回复既准确又安全可靠。在复杂环境中，这种人为介入可以在复杂环境中起到决定性的作用。

让这些工具发挥最大效果

这些方法中的每一种都能提供强大的防御来防止幻觉，但它们的真正厉害之处在于一起用：

• 知识图 结构化了事实之间的关系。
• 事实消歧转换 确保每个事实都是无歧义的。
• 验证循环 检查模型输出中的错误。
• 链式思维提示 引导模型进行逻辑推理。
• 人机协作 在模型不确定时提供保障。
  这些方法共同构成了构建更小、更快、更可靠的LLM的全面框架。

未来的小型、智能且实用的LLM

解决幻觉问题不只是不断构建更大的模型，而是要让大型语言模型（LLM）变得更聪明——运用RAG、知识图谱、和事实消歧等技术来提供实时且基于事实的响应。这些工具增强的小模型可以更快、更高效，在准确性上可能不亚于甚至超过大型模型。

通过掌握这些技术，你可以创建不仅有能力而且值得信赖的人工智能系统——提供实时信息，基于现实，避免陷入幻觉陷阱。

结论是：你未来的路

凭借这些工具——知识图谱，事实消歧，验证回路等——您可以将大型语言模型提升到下一个水平。您不仅会拥有更大的模型，还会拥有一个更聪明、更可靠的模型。这就是大型语言模型未来的发展趋势：小巧、聪明、基于事实。

欢迎来到一个世界，在这里AI不仅听起来很智能，它确实很智能。

我在这里写过更多相关内容：

https://medium.com/@JamesStakelum/cracking-the-code-of-rag-systems-how-atomic-q-a-can-end-hallucinations-and-context-confusion-9837c406166c 这篇文章解释了如何通过原子级问答来解决幻觉和上下文混淆的问题。

标签

AIAccuracy #没有幻觉了 #100%准确的AI #AI创新 #聊天机器人革命浪潮 #自然语言处理突破 #AI研究 #机器学习 #语言模型 #AI的未来 #科技创新 #AI伦理 #数据科学 #认知计算 #AI技术 #自然语言处理 #AI向善倡议 #科技进步 #可靠的AI