工人日报-中工网记者 姬薇

4月29日，第八届数字中国建设峰会数字经济分论坛在福州举行。奇安信集团董事长齐向东在演讲中表示，新技术是把双刃剑，大模型应用一端连着机遇，一端连着挑战，面对大模型应用的三重挑战，需抓住“接入放心用”“权限强管控”“严把内容关”“杜绝新隐患”“运营可闭环”五个关键，筑牢人工智能的安全底线，为千行百业抓住人工智能新机遇，吃下一颗“定心丸”。

“第一重挑战是‘小数据’一失万无，‘小数据安全’成为数字经济时代的核心关切。”齐向东提出，在数字经济时代，数据如同驱动发展的“石油”，人工智能则是“发动机”。过去，人们谈及数据多是大数据，规模庞大但质量参差不齐，价值挖掘困难。如今，借助人工智能大模型，企业通过对设计、生产等数据进行加工处理，形成精华“小数据”，这些“小数据”成为企业核心竞争力所在。但一旦“小数据”被窃取、泄露或篡改，企业多年积累的优势将瞬间崩塌。

齐向东认为，第二重挑战是大模型融通百业，“裸奔”上线极有可能引发业务停摆的链式危机。当大模型深度融入智慧城市、工控系统、智慧政务等关键领域时，会将风险串联成网。奇安信资产测绘鹰图平台监测发现，8971个Ollama大模型服务器中有6449个活跃服务器，其中近九成都在“裸奔”，任何人无需认证即可随意调用、访问服务，甚至能删除重要模型文件，进而导致与大模型关联的应用业务中断。第三重挑战则是对AI过度依赖，善恶真伪难辨别，一旦大模型决策失准会引发“蝴蝶效应”。

“未来网络安全得AI者得天下。”面对这些挑战，齐向东提出了筑牢AI安全的“五个关键”。首先是接入放心用，构建大模型安全“红域”形成多维度边界隔离。其次是权限强管控，以用户身份为新边界开展网络和数据安全防护。三是严把内容关，构建贯穿大模型全生命周期的内容安全治理机制。四是杜绝新隐患，以实战为导向加强大模型应用安全评估。五是运营可闭环，做到对安全威胁的实时监测和应急处置。

据悉，论坛由国家数据局主办，国家数据发展研究院、国家发展改革委城市和小城镇改革发展中心、中国信息通信研究院、福建省数据管理局承办。

来源：工人日报客户端