避开“智能降级”:如何让AI实现真正的价值

来源: 小世评选

近年来,随着人工智能技术的快速发展,许多人开始尝试将AI应用于各行各业。随着“智能体”的兴起,“智能降级”的问题也开始显露出其严重性。所谓“智能降级”,是指由于人为的干预和过度限制,导致原本高度智能的AI系统表现不尽如人意,从而无法实现其潜在价值。

我们来看看“智能降级”的根源。众多曾在传统产研领域工作的人士相信,借助于特定的提示词和人为设定的规则,可以显著提升AI系统在某个特定领域的表现。这种想法事实上是一种误解。AI大模型的强大之处在于其通过分析海量的无属性数据形成的复杂概率模型,它模拟了真实世界的运作方式,对此我们尚未完全理解。如果我们试图用一堆规则去限制AI的能力,就像是把一个满怀创意的艺术家锁进一个儿童涂色书中,想要他只在限定的框框内填色,最终的结果只会是压制了他的创造力,丧失了展现深度的机会。

面对多样而复杂的需求,以律师的日常工作为例,单纯的局部优化往往不能带来显著的好处。我们缺乏的是一个能够综合考虑各种因素和信息的智能系统,而不是一个限制在狭小范围内的一味重复的工具。因此,避开“智能降级”的主要策略可以为:“不要试图教AI如何思考,而是要提供思考所需的材料”。

这就引入了一个全新的视角:将AI视为“情报官”,我们的角色是为它提供高质量、独特性的信息和数据,而不是在其思维模式上施加干预。为了支持这一思维过程,我们需要构建一个较为复杂的评估系统,从而确保AI能够利用这些信息进行自我推理和判断。

在这个框架下,我们可以将智能体的价值构建方向具体化为以下几个方面:

方向一:深入挖掘“独占性上下文”

AI大模型理解的是公共领域的数据,但它并不具备对特定组织或公司文化的深刻理解。因此,挖掘公司内部的“独占性上下文”便成为一种强有力的护城河。这些信息涵盖公司最近的会议记录,主要客户情况,甚至是开发内部产品的详细流程。这意味着,我们需要有效地将这些散落在公司各个角落的内部数据整合,为AI提供全方位的背景信息。AI只有在获得足够的上下文信息后,才能真正发挥出其价值,如同一个全能的数字员工,而不是一个简陋的工具。

方向二:提供“高势能工具箱”

但仅有数据还不够,我们还需要让AI具备“干活”的能力。这种能力不仅仅是执行固定的操作流程,更重要的是将工具与目标结合。我们需要为AI提供一个丰富的“工具箱”,让它可以在多种情况下进行自主判断。例如,给AI多个API接口,比如库存查询、订单生成、邮件发送等,确保AI可以根据目标的要求选择合适的工具完成任务。这样,AI能像一个高效的员工,独立完成设定的任务,提高整体工作效率。

我们要强调的第三个方向则是自我优化。尽管这部分相对复杂,但在智能体系统中,实现持续学习和自我优化是提升其价值的关键。

在此背景下,我们可以通过对比成功与失败的AI产品,进一步阐明如何避免“智能降级”。例如,一款被称为“工作流AI”的产品,由于其灵活性不足,正在面临“智能降级”的风险。它以固定流程为框架,限制了AI的创造潜力,使其无法灵活响应复杂的工作需求。

而成功的例子则是Glean这类“上下文”。Glean不预设任何流程,只关注打通公司的数据孤岛,链接各个系统中的重要数据,形成一个完善的企业知识图谱。这种方式不仅提供了AI所需的上下文信息,还有助于构建助力AI发展的基础架构。

在未来,随着智能系统的不断演变,我们需要重新审视人类在AI应用中的角色。与其说人类是AI的教师,不如说我们更应该充当信息的提供者,构建一个能够让AI发挥最大潜能的环境。将来,当企业的业务逻辑能够完全封装到智能体体系中,我们所称之为“无人公司”的理念将成为可能。

因此,规避“智能降级”的首要步骤就是理解AI的本质:它是一项助力工具,能帮助我们更高效地实现目标,而我们应当不断努力为其提供更优质的数据和环境,让其发挥出真正的价值。

相关阅读
精品推荐