微软的AI首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）在人工智能发展的舆论场上发出了一个重要的警告：行业不应继续推进“看似有意识”的人工智能（Seemingly Conscious Artificial Intelligence，SCAI）的开发。在他看来，这种看似具有人类特征的人工智能可能会给社会带来潜在的风险和混乱。
苏莱曼认为，随着技术的进步，越来越多的聊天机器人和AI系统被设计得与人类交互更加自然。这种趋势虽然令人兴奋，但也可能会导致人们对AI的本质产生误解，使他们无法辨别与机器的互动和与真实人类的交流之间的差异。他在今年8月的博客文章中提到，过度拟人化的AI可能会让一些用户错误地将“仿真”视同于“有生命”，导致情感上的依赖和社会问题的滋生。
在微软，苏莱曼所领导的团队正在努力将人工智能与人类的关系定义得更加清晰，并主张技术应当成为连接而非孤立的人类的工具。最近，微软对其Copilot聊天机器人进行了一系列升级，以增强其市场竞争力。这些更新中包括引入群聊功能和“真实对话”模式，这些功能旨在提升用户体验。群聊将多个用户与AI的互动结合在一起，通过这种多方交流来加强人际关系的连接；而“真实对话”模式则允许用户控制AI的互动风格，从而鼓励更多深度和挑战性的讨论。
这些提升AI人性化的功能与苏莱曼之前对行业的警示显然存在矛盾。他指出，过度的人性化可能会导致严重后果，例如，某些AI系统被指控诱导用户并且出现用户与机器人建立浪漫关系的现象。为了确保这种风险能够得到妥善管理，苏莱曼明确表示，微软绝不会开发性爱机器人。他的立场并非源于技术上的限制，而是基于公司一贯的以人为本的使命。
在与苏莱曼的对话中，他强调了“有温度的智能”这一设计理念，目的是通过AI来促进人际间的真实连接。虽然技术的情感智能能够提升用户体验，但他和团队始终在设计中明确区域，避免对于AI的夸张人性化。苏莱曼表示，优秀的AI应当能在情感与专业之间找到平衡，避免过度情感依赖的风险，同时也不导致人机之间的冷漠关系。
他指出，AI必须遵循清晰的道德边界，特别是在对待亲密关系的问题上。苏莱曼希望AI能够具备幽默感和哲思能力，以增进与用户的互动，但在涉及敏感话题时，其行为会明确划定界限，保持适度与安全。他认为，这是整个行业在推动AI发展时必须遵循的原则：既要有人性化的特质，又要防止可能带来的社会问题。
回顾当前的AI与人类的互动，苏莱曼提到了“数字物种”的概念。他表示，这并不是说我们应当将AI视为有意识的存在，而是要用这种比喻来提醒公众注意AI所具备的巨大能力与潜在风险。人工智能的能力超越了传统工具的范畴，因此在讨论该技术的伦理和社会影响时，我们必须保持警觉。否则，我们可能会在无形中为其发展铺平道路，进而导致不可预见的后果。
在苏莱曼看来，目前社会应该优先关注人类和其他生物的基本权利保障，而非对AI赋予道德地位或权利。他认为，AI缺乏自主性与自由意志，其存在仅是为了服务于人类。因此，在推动人工智能的研发和应用时，重视技术的责任与伦理至关重要，而不是盲目追求技术的人性化表现。
作为一家公司，微软在这个领域的优势在于其始终坚持明确的价值观体系。通过这种价值观，微软将继续致力于创建既富有人性又保持适当边界的AI产品，确保技术始终以对人类有益的方式发展。正如苏莱曼所说，未来的挑战在于如何为用户创造不同类型的互动体验，以满足他们在使用AI时的多样化需求。
总体而言，苏莱曼所提到的“看似有意识的AI”的问题是一个需要关注的重要议题，它不仅关乎技术的发展，也涉及到社会伦理与人际关系的深刻反思。随着AI技术的不断进步，如何平衡人性化和责任感，将是整个行业必须认真对待的课题。