Epoch AI 因未及时披露 OpenAI 资助引发争议,专家质疑透明度

来源: 小世评选

近日,Epoch AI 因未能及时披露其与 OpenAI 之间的资助关系而引发热议,科技媒体 TechCrunch 率先对此事进行了报道。Epoch AI 是一个以推动人工智能领域发展为目标的非营利组织,主要得到 Open Philanthropy 的资助。该组织推出的 FrontierMath 基准测试,通过整合和评估复杂数学问题,旨在衡量 AI 模型的数学能力。随着事件的发展,隐藏的资助关系使得该组织的透明度问题浮出水面,引发了专家们的强烈反应。

Epoch AI 的 FrontierMath 基准测试被认为是一个具有挑战性的工具,其设计目的是测试和评估不同 AI 模型的表现。根据 TechCrunch 的报道,OpenAI 的 o3 模型在 FrontierMath 的测试中表现优异,准确率高达 25%。相比之下,其他模型的得分则徘徊在 2% 左右。这样的成绩并未掩饰 Epoch AI 存在的透明度问题。

社交媒体和论坛上,Epoch AI 的一位承包商 Meemi 在 LessWrong 论坛发帖称,许多参与 FrontierMath 工作的贡献者在公开发布之前并不知道 OpenAI 的参与。Meemi 直言:“沟通完全不透明。这让人非常困扰。”他进一步指出,承包商应当在参与基准测试工作之前,对其可能的工作成果能否被用于能力提升等信息有所了解。

六位参与 FrontierMath 设计的数学家也表示,他们并未被告知 OpenAI 拥有该基准测试的独家访问权限。如果早些了解这一状况,他们可能会选择不参与。这一消息的曝光使得关于 FrontierMath 客观性的问题愈演愈烈,凸显了当前 AI 领域透明度不足的现状。

在社交媒体上,一些用户对此表示担忧,认为这种保密行为可能会极大损害 FrontierMath 作为一个客观标准的信誉。在 OpenAI 资助 FrontierMath 的同时,OpenAI 还得到了访问众多问题和解决方案的权限,这一信息在 12 月 20 日 o3 发布之前并未公开。这种潜在的利益冲突,令外界对 Epoch AI 的透明性产生了质疑。

面对舆论的压力,Epoch AI 的副主任兼联合创始人 Tamay Besiroglu 发表声明,坚称 FrontierMath 的完整性没有受到影响。他表示,虽然 OpenAI 确实可以访问 FrontierMath 中的许多问题和答案,但组织方面保留了一个“OpenAI 未见过的保留数据集”用于验证模型的能力。他表示:“我们受到了一些合同限制,但事后看来,我们应该更加努力地向基准测试的贡献者保证透明度。”

专家 Gary Marcus 对 Epoch AI 的回应持不信任态度,并将此事件与知名的 Theranos 丑闻相提并论。Theranos 是由伊丽莎白·霍尔姆斯创建的一家生物科技公司,曾因虚假宣传其革命性的血液检测技术而陷入严重的法律和信誉危机。Marcus 指出,Epoch AI 不应低估透明度的重要性,尤其是在快速发展的人工智能领域,缺乏透明度可能会导致更严重的后果。

Epoch AI 的 Besiroglu 在回应中承认,该组织存在未能保持更高透明度的错误。他表示,将来需要在与 OpenAI 或其他合作伙伴的协议中,将透明度作为一个不可妥协的部分。Besiroglu 强调,数学家参与工作时应当了解谁可以访问他们的研究成果。

此事件引发的讨论表明,作为 AI 研究者和开发者,透明度应当是其核心原则之一。数据显示,公众和专家对 AI 模型及其性能的信任度,与其开发过程的透明程度直接相关。当组织在资金和合作方面缺乏透明度时,就会令人怀疑其工作成果的客观性与可靠性。

随着 Epoch AI 事件的发展,社会各界对于 AI 透明度的关注也愈发加强。许多专家呼吁建立更严格的行业标准,以确保资金来源的公开和透明,从而保护公众利益,推动 AI 领域的良性发展。在这一过程中,推动各方协作,确保信息的畅通,将是重塑公众对 AI 信任的重要前提。

Epoch AI 未及时披露 OpenAI 资助的事件,揭示了科技行业以及学术界在透明度和信息共享方面的短板。如何在科研与商业之间找到平衡,将是未来需要认真思考的重要问题。

相关阅读
精品推荐