在当今科技迅猛发展的时代，人工智能（AI）技术正在深刻改变各个行业的面貌，提升了效率与创新能力。随之而来的安全隐患也愈加明显。从数据泄露到算法偏见，再到恶意攻击和伦理争议，这些风险不仅威胁到个人隐私和企业形象，更可能危及社会的稳定和信任。在此背景下，上海市通信管理局于2025年启动了“铸盾模都”人工智能安全赋能专项行动。这一行动旨在全面提升人工智能的安全管理水平，为行业的可持续发展提供强有力的支持。
一、专项行动的背景与目标
1.1 时代背景下的安全挑战
上海作为中国的科技创新中心，人工智能技术在电信与互联网领域的应用日益广泛。伴随技术的普及，安全挑战接踵而至。从数据层面看，企业在收集、存储和使用数据时，必须面对个人信息泄露的风险，尤其是在训练数据的获取和使用上。网络层面上，人工智能系统因其复杂性，易成为黑客攻击的目标，诸如对抗样本攻击等新型网络威胁不断抬头。，内容层面的安全问题也不容小觑，生成式人工智能有可能传播虚假信息，扰乱信息的公开与传播。
1.2 专项行动的核心目标
“铸盾模都”专项行动的主要目标是构建一个全面的人工智能网络与数据安全管理体系。通过强化企业的安全主体责任，推动各类企业建立健全安全管理组织和制度，来有效预防安全风险。专项行动还将聚焦网络安全、数据安全、内容安全及业务安全等关键领域，提供有效的保障措施。通过开发安全评测工具和组织攻防演练，提升企业的安全管理水平，助力健康的人工智能发展生态的形成。
二、专项行动的重点任务与安全管理要点
2.1 安全主体责任落实
2.1.1 安全管理组织建设
企业需建立完善的安全管理组织框架，明确安全责任人，并将人工智能安全管理融入整体运营架构。这包括制定清晰的组织架构和职责清单，并将其公开，从而增强透明度。
2.1.2 安全管理制度体系健全
企业须建立全面的安全管理制度，涵盖网络攻防、数据合规、内容审核等方方面面。确保制度能有效落地，并建立相应的监督机制，以鼓励企业自我约束与自查。
2.2 安全保障基线强化
2.2.1 人工智能网络安全加固
企业需针对人工智能系统的网络安全风险实施全面防护。要加强对传统网络攻击与人工智能专项攻击的监测，及时处理安全漏洞，提升防护能力。
2.2.2 数据安全保障
企业需搭建数据全生命周期的安全管理体系，确保数据在收集、存储到销毁各环节都有安全保障。严格合规使用训练数据，加强内容审核，以避免引发法律责任。
2.2.3 内容安全管控
为确保生成式人工智能应用不传播虚假信息，企业应制定内容审核机制，加强对发布信息的管控，以稳定网络环境与社会信任。
2.2.4 人工智能业务安全管理
企业需全面梳理人工智能业务，并开展严格的安全评估，以确保业务在上线前符合安全标准。定期的抽查与评测，能有效降低业务层面的安全风险。
2.3 安全管理赋能举措
2.3.1 安全评测工具支持
市通信管理局为企业打造安全评测工具，提升企业的自查能力，有针对性地优化安全防护措施，提高管理效率。
2.3.2 安全风险监测与处置机制
企业须建立安全巡检机制，及时识别和上报安全风险。对于市通信管理局发布的警报信息，快速响应并进行整改，以降低安全事件的发生概率。
2.4 安全行业发展推动
2.4.1 安全合规与应用实践指导
通过组织演练和专家机制，企业可以借助行业的优秀经验提升自身的安全能力，增进与专家的沟通交流，形成合力推进安全管理的氛围。
2.4.2 安全生态培育
企业应积极参与和案例评选，提升员工的安全意识和专业技能，共同营造良好的安全生态，推动技术创新与实践分享。
三、企业应对策略与未来展望
3.1 短期应对策略
企业应立即启动人工智能业务清单的整理，确保按要求向市通信管理局上报。同时，对照“铸盾模都”行动要求，自查自身的安全管理系统，及时制定整改计划。
3.2 长期发展规划
在长期战略中，企业需持续关注人工智能安全管理的完善，注重技术研发与人才培养。只有建立长效的安全机制，才能在激烈的市场竞争中占据一席之地。
“铸盾模都”人工智能安全赋能专项行动，不仅为企业提供了政策指导，更明确了安全管理的方向。通过落实各项安全管理任务，企业将能够在保持创新的同时有效防范风险，稳步推进人工智能技术的健康发展。这一行动的推进，将为上海乃至全国的数字化转型提供坚实的安全支撑，实现人工智能技术与安全保障的协同发展。