“AI的安全一定是向善而行，共赢未来。”10月16日下午，在“云山论剑・广州数字安全产业发布会”上，安恒信息高级副总裁杨勃围绕“让安全更智能 让智能更安全”作主题分享，深入剖析当前数字安全领域的核心挑战与未来趋势。

安恒信息高级副总裁杨勃作主题分享。

如何让安全更智能？杨勃在分享时提出，“每一代的技术的演进，安全都是需要追着技术演进跑”。他进一步分析，技术变革推动应用配套变革，应用丰富之后，安全问题也就暴露出来，安全的攻防对抗也随之而来。当前人工智能技术正从专用智能迈向通用智能，大模型的智能体应用日益广泛，链接资源更丰富、应用场景更复杂。“我们遇到的挑战实际上是更加复杂，更加深层次化。因为每一个技术和每个应用的叠加，原来的安全问题不会消失，而是追加了新的安全挑战。” 在此背景下， 通过AI赋能网络安全产品的运营思路也在不断升级，从原来的技术态，逐渐形成情报聚合、分析能力，再到机器学习上的大模型推演。“如果我们的攻防手段以及我们的平台不够智能化，攻防的天平就会失衡。”他以数据安全分类分级为例指出，智能体极大地提升了日常工作效率，基本上提升了30倍以上，过去依赖于人工的工作，越来越多通过智能体，快速提高效率，让安全更智能、更高效、更放心。

而如何让智能更安全？他指出，人工智能安全的第一步是数据安全，数据语料的治理放在首位。其次，用户输入验证，尤其是内容的输入验证是重中之重，“过去需要掌握很高级的专业技能才能发起攻击，现在可以让大模型去学习，去调用最好的工具发起攻击。”杨勃针对大模型全生命周期的安全风险展开分析。他表示，大模型的各个关键环节，均存在独特的安全隐患，其中尤其是在建设前期，安全前期的投入往往是成效最大的。他指出人工智能技术正从通用迈向垂域，在安全领域，要通过人工智能提升主动防御能力，依托大模型+智能体让“安全平台”成为“平台+大脑”，构建全生命周期安全围栏。

主题分享中，杨勃还发布了安恒信息设计研发的大模型检测工具箱和大模型安全防火墙两个新产品。他介绍，大模型检测工具箱聚焦大模型技术风险与大模型标准要求，提供多维度、多视角内容检测，利用工具箱对智能体应用进行问答，对输入输出，数据交互等形成场景画像。根据智能体画像，精准定位智能体应用潜在风险，不仅为大模型全生命周期提供了合规“体检”，还破解了大模型测评领域痛点。而大模型安全防火墙，从用户认证鉴权、攻击防护等六个方面，终结AI业务“恶意攻击、数据泄露、API失控、内容违规”四大致命伤。“安恒在让智能更安全这个领域里面，已经形成了全面的安全产品矩阵。”他指出，通过安全产品矩阵，能够全面解决大模型从研发到投产的全链条安全风险。“AI对抗AI，AI管理AI，将是数字安全新阶段的必由之路，AI的安全一定是向善而行，共赢未来。”杨勃强调。

此次发布会由广东省委网信办、广东省政务和数据局、粤港澳大湾区生成式人工智能安全发展联合实验室指导，广州市委网信办、广州市政务和数据局、白云区政府、安恒信息主办，白云区委网信办、白云区政务和数据局承办，广州安恒智慧城市网络安全技术有限公司、南方都市报社联合承办，广东省网络数据安全与个人信息保护协会、广州市网络安全产业促进会等协办。

出品：南都大数据研究院

文：南都研究员 方晓林

摄影：冯宙锋 梁炜培