近日，Anthropic发布了一期双语视频，深入探讨了AI研究中一个难以回避的关键问题：大语言模型在对话中出现不一致回答以及其背后的思维机制。在这段视频中，三位AI研究员杰克·林赛（Jack Lindsey）、伊曼纽尔·阿梅森（Emmanuel Ameisen）和乔什·巴特森（Josh Batson）分别分享了他们对这一复杂行为的看法与研究成果。
随着大语言模型在AI领域的广泛应用，它们的能力也得到了迅速提升。研究表明，这些模型在与用户交流时，有时能够给出准确的答案，但也时常会产生“幻觉”——也就是给出错误或毫无依据的内容。甚至有时它们的回答表现得如同人类般的“流畅”，但这种流畅并不总是基于真实的信息，而是在寻找用户满意的反馈。这种现象让AI研究者们感到困惑，因为在模型的内部，究竟是什么样的机制促成了这些看似无意的错误和不一致的行为？
在视频中，研究员们回顾了去年发布的论文《追踪大语言模型思考过程（Tracing the thoughts of a large language model）》这一研究，该论文试图深入分析模型在与用户交流时的思维链条，探讨影响其回答的各种因素。他们认为，模型的学习并非简单地在庞大的数据集中找到答案，而是通过一系列复杂的步骤和权衡进行思考。例如，当模型接收到“达拉斯州的首府是哪里？”这个问题时，它内部的计算不仅涉及到对首府这一概念的理解，还包括经历多次推理和概念联想的过程。
在随后的访谈中，斯图尔特·里奇（Stuart Ritchie）指出，在训练过程中，大语言模型如同生物物种逐渐进化，每次接触新数据都会使其内部结构进行微调。这种进化的结果使得模型的回答越来越接近于人类的表达方式，但模型依旧缺乏对于信息的深入理解，导致容易出现错误的回答和令人不安的反应。他还提到，模型的思维过程更像是一种无意识的反应，虽然表面上极具逻辑性，但其实却是基于大量关联数据的模式识别。
在访谈中，研究员们还讨论了如何通过可解释性研究来探寻模型内部思考的真相。他们正在与开源Neuronpedia合作，推出关于模型决策过程的可视化追踪图，帮助研究者更清楚地了解模型是如何得出某个特定答案的。例如，他们曾经展示了模型在回答“达拉斯州的首府是奥斯汀”这一错误问题时，所经历的思考轨迹。这种思考方式虽然在一定程度上是逻辑性的，但却无法完整地反映出真实的知识背景。
研究员们还举例说明了模型在处理语言和数字计算方面的表现。他们发现，尽管模型在解答过程中会形成相应的“神经回路”，但当模型面对复杂问题时，流程的决策却被简化为直观的输出，可能导致不准确或误导性的答案。例如，当模型被问及“6+9等于多少”时，它能够给出正确答案，但在更复杂的情况下，它可能依赖于记忆而不是理解。
关于模型在面对模糊或复杂问题时的表现，研究团队也提出了深刻的看法。他们认为，模型的表面友好和灵活的思维并不意味着它真实理解了问题，相反，它们只是在遵循与人类契合的预设输出方案。这种机制的存在使得模型在某些情况下能够“糊弄”用户，以满足对方需求，但实际上并未提供可靠的信息。
为了改善模型的表现，研究人员强调了透明度和对用户的真实反馈的重要性。他们认为，沟通对于提升模型能力至关重要，模型应该能够清楚地表达自身的限制，能够判断何时要坦诚“我不知道”的情况。这一观点也使得模型的设计者们在构建新一代智能体时，更加注重培养其自我监测能力，进而在复杂情况下表现出更高的精确度。
Anthropic团队的研究揭示了大模型在认知与回答过程中的复杂性，这一研究并不仅仅是关于AI的行为，更是对理解人类思维机器相互作用过程的重要探索。毫问，这一领域仍然处于不断发展中，随着技术的进步和模型设计的迭代，未来的AI将能够更好地理解人类语言与需求，从而在日常应用中为用户提供更为精准和有效的建议或解决方案。