文 | 扈永顺
国产大模型DeepSeek掀起大模型私有化部署浪潮。2025年全国两会期间，全国政协委员、奇安信集团董事长齐向东表示，将近90%私有化部署DeepSeek的服务器都没有采取安全措施，网络黑客通过简单的攻击语句，就能控制大模型，甚至能拿到大模型后台数据，造成数据泄露风险。
可以想见，未来随着大模型普及使用，针对性的恶意手段和风险场景势必激增，网络安全防护必须与技术发展同步迭代。
在技术层面，应建立覆盖终端、应用、数据、模型的立体防护体系，打造适用于AI的立体纵深防御体系。例如开发方面，开源大模型要重点防范代码缺陷和预留后门等；应用方面，要防对训练数据投毒，进行模型篡改、配置篡改；数据方面，小心内部配置错误和弱口令等造成数据库暴露；基础环境方面，重点关注云、传统设备漏洞等。
在制度层面，重点打造大模型数据安全“双控机制”，保障大模型稳定运行。对大模型数据输入侧及输出侧开展有效管控，确保大模型数据安全、内容安全、应用安全。一方面，对输入侧数据筛查和消杀，并实施严格的访问控制措施，做好从数据喂养到内容生成的全链路安全管控；另一方面，强化输出侧控制，有效防范“认知污染”，通过完善大模型安全“监管沙盒”机制等，在政务大模型等关键领域大模型上线前开展深度测试，强化潜在风险的预警控制。
在应用层面，推广“AI+安全”创新成果落地，走好提升安全能力的必经之路。随着人工智能应用进一步铺开，要鼓励更多产业用上、用好“AI+安全”创新成果，提高千行百业的网络安全防护效能。■