史蒂夫·沃茲尼克等800位知名人士联合呼吁暂停超级智能AI开发

来源: 小世评选

最近,苹果公司联合创始人史蒂夫·沃茲尼克(Steve Wozniak)与维珍集团董事长理查德·布兰森(Richard Branson)等800多位知名人士共同签署了一份公开声明,呼吁立即暂停超级智能人工智能(AI)的开发。这一声明在全球范围内引发了广泛的关注和讨论,特别是在人工智能技术飞速发展的背景下。

所谓“超级智能”,是指在所有领域均能够超越人类认知能力的人工智能系统。随着科技巨头们竞相研发这种超越人类智能的AI系统,业内愈加担忧其可能带来的风险与挑战。签署这份声明的人士明确表示,超越人类智能的AI将可能引发经济崩溃甚至人类灭绝的风险。声明的发布可以被视为对当前硅谷热潮的一记警钟,随着越来越多的企业投入到人工智能的竞赛中,这一呼吁犹如为行业的疯狂开发泼下一盆冷水。

这一联合声明不仅吸引了企业界的目光,其影响力还辐射至政界和社会各界。许多知名人士纷纷加入签名支持的行列,包括前国家安全顾问苏珊·赖斯(Susan Rice)和前参谋长联席会议主席迈克·穆伦(Mike Mullen),这表明他们对国家安全的深切关注。而包括梅根·马克尔(Meghan Markle)在内的多位公共人物也在名单之中,与特朗普的盟友史蒂夫·班农(Steve Bannon)和格林·贝克(Glenn Beck)同列。这样的政治跨界合作在历史上实属罕见,显示了各界对超级智能AI潜在威胁的广泛认可。

加州大学伯克利分校的人工智能安全研究专家Stuart Russell是这项联合声明的组织者之一。他多年来一直在警告人们关于超级智能的可能性及其带来的挑战。根据Russell的研究,真正的挑战并不是人类能否创造出超级智能系统,而是一旦这些系统存在后,人类是否能够合理地控制和驾驭它们。他认为,建立一个有效的控制机制将是相当高的标准,这可能会冻结当前人工智能技术的发展进程。

值得注意的是,在这份请愿书发布之际,Meta(前Facebook)刚刚将其人工智能部门更名为“Meta超级智能实验室”(Meta Superintelligence Labs),而OpenAI则在与马斯克的xAI之间展开着日益激烈的竞争,争相实现人工通用智能。具有讽刺意味的是,在这一背景下,滥觞于这一行业内部的“踩刹车”呼吁却显得愈加迫切,要求相关企业和机构在生产与研发这类系统时,需谨慎考虑其潜在影响。

虽然这一呼吁得到了广泛的关注和支持,但未来的发展将取决于各国如何应对这一问题。欧洲联盟(EU)已经在落实相关的人工智能法规,尝试对AI的未来发展施加影响。美国方面也在积极探索人工智能安全框架,试图对最尖端的人工智能研究进行必要的审查和控制。

该声明可能为立法者提供了一项有力的依据,可以推动更严格的监督与管理,来确保人工智能发展的安全性与道德性。在全球范围内各国和科技行业之间就人工智能发展展开讨论时,这一联合声明会成为一个重要的话题。

在科技迅猛发展、人工智能日益渗透到生活方方面面的时代,相关人士的这一呼声反映了社会对于科技发展所需谨慎态度的迫切需求。虽然科技进步为人类带来了巨大的潜力和可能性,但如何在创新与风险之间找到平衡,是各界共同面临的重要课题。

未来,如何确保超级智能的安全性,使其成为人类社会的福音而非威胁,将需要更广泛的社会共识与深入的专题研究。正如这些知名人士所倡导的,科技的进步应当与人类的价值观相辅相成,只有确保技术发展不偏离人类发展的初衷,才能真正实现科技为人类带来的美好前景。

相关阅读
精品推荐