在10月16日的新闻中,OpenAI首席执行官萨姆·奥尔特曼(Sam Altman)就近期围绕其内容限制政策的争议做出了回应。此番讲话是针对公司决定放宽对旗下聊天机器人ChatGPT内容管制所引发的广泛讨论而发出的。在决定允许包括成人和情色内容在内的更多主题时,OpenAI面临了来自各界的强烈批评,尤其是在内容安全和伦理方面的担忧。

奥尔特曼在社交媒体X(原Twitter)上发文,强调OpenAI并不打算充当“世界选出的道德”。他指出,随着技术的发展,公司已经有能力安全地放宽部分内容限制,而这主要得益于新工具的不断完善以及对用户心理健康问题的积极应对。尽管如此,他仍明确表示,OpenAI将维持对可能对他人造成伤害的内容的禁止,这意味着公司在内容审查方面的立场并未完全放松。
过去几个月,OpenAI相继加强了安全管控措施,试图回应外界对未成年人和用户安全的关注。针对外界的批评,奥尔特曼提到,公司一直以来都在努力提升其服务的安全性,并对成年用户保持应有的尊重。他表示,将用户视为成年人是公司的重要原则,这并不意味着放宽内容管制就意味着对所有内容的开放。
这场争议不仅仅是在技术和内容之间的选择,更涉及到人工智能在道德和伦理层面上的影响。美国联邦贸易委员会(FTC)正在调查OpenAI和其他科技公司在保护儿童和青少年方面的做法,关注这些聊天机器人对年轻用户的潜在负面影响。OpenAI近期还卷入了一个涉及青少年的过失致死诉讼案件,引发了更广泛的社会关注。
在经历了外界对于内容放宽的强烈反响后,奥尔特曼坦言,社会的反应“远超过预期”。他并没有回避这些问题,而是积极回应,表达了对公众关注的理解和重视。在他看来,正如社会在其他领域设立的适当界限(如R级电影),OpenAI也希望能够建立类似的标准来规范内容,同时避免对社会造成不良影响。
为了应对安全问题,OpenAI尚未停止技术的发展。公司已经推出了一系列家长控制功能,并正在推出一种年龄预测系统,以自动为18岁以下的用户启用适当的内容设置。这些举措旨在提升用户保障,以回应公众对未成年用户安全的关切。
近日,奥尔特曼还宣布成立一个由八位专家组成的顾问委员会,专注研究人工智能对用户心理健康及情感状态的影响。专家的参与将为OpenAI的内容管理提供更深入的支持,以确保其科技产品能够在安全的基础上为用户服务。
尽管OpenAI在内容限制方面的调整旨在实现更大的灵活性和选择空间,但反对的声音仍在不断上升。比如,美国全国反性剥削中心(NCOSE)发出呼吁,要求OpenAI撤销放宽对情色内容的限制,认为性化的AI聊天机器人可能会在缺乏行业安全标准的情况下,对用户的心理健康产生严重的危害。
奥尔特曼的表态引发了不同观点的碰撞。支持者认为,公司的放宽政策能够让成年人在一定程度上享受更广泛的内容选择,并在成人之间形成一种更开放的交流方式。反对者则指出,的开放可能导致对 vulnerable 用户群体的伤害,尤其是在缺乏足够安全措施的情况下。
OpenAI在未来面对的挑战是如何实现内容的灵活性与用户安全的平衡。在持续改进技术的同时,确保其产品在伦理、道德和法律框架内运营,将是OpenAI面临的重要课题。奥尔特曼的言辞虽表明了其对内容自由度的承诺,但如何在现实中实施这一政策,将直接影响到OpenAI的公信力以及用户的信任度。
