齐向东:大模型应用面临三重安全挑战
创始人
2025-04-30 10:37:41

  和商网福州4月30日电 (记者 刘育英)奇安信集团董事长齐向东在第八届数字中国建设峰会期间接受媒体采访表示,层出不穷的新兴场景,充分展现出人工智能大模型带来的无限生产力、创造力。但新技术是把双刃剑,大模型应用在带来机遇的同时,也面临三重挑战。

  一是“小数据”安全问题。传统大数据存在碎片化、质量参差不齐等问题,而大模型需要经过加工处理的“精华小数据”。一旦精华小数据被窃取、泄露或篡改,企业核心竞争力将受损。

  二是大模型“裸奔”风险。大模型深度融入关键领域,如智慧城市、工控系统、智慧政务等,风险串联成网。奇安信监测发现,大量Ollama大模型服务器“裸奔”,存在被攻击导致业务中断的风险。

  三是AI决策失准风险。对AI的过度依赖可能导致善恶真伪难辨,黑客可通过漏洞利用、数据投毒等方式干扰大模型决策。内部员工更新知识库时引入错误信息,也会污染模型学习环境,导致错误结论。

  齐向东认为,筑牢AI安全底线,要把握住五个关键:构建大模型安全“红域”形成多维度边界隔离;权限强管控,以用户身份为新边界开展网络和数据安全防护;严把内容关,构建贯穿大模型全生命周期的内容安全治理机制;以实战为导向加强大模型应用安全评估;运营可闭环,做到对安全威胁的实时监测和应急处置。(完)

相关内容

热门资讯

2026年曲棍球青年亚洲杯赛:...   中新社呼伦贝尔9月13日电 (记者 张玮)2026年曲棍球青年亚洲杯赛13日落幕。经过10天60...
一列车在波乌边境乌方一侧遭无人...   中新社北京9月13日电 华沙消息:当地时间9月13日,一列开往华沙的列车在波兰、乌克兰边境乌克兰...
“两园一河”京西漂流节联动三区   和商网北京9月13日电 “两园一河”京西漂流节13日再度启幕。与6月首次亮相相比,本次活动从石景...
青海西宁120组亲子家庭湿地公... 图为亲子家庭参与湿地生态乐跑。中新社记者 马铭言 摄 图为青少年通过游戏学习生态保护知识。中新社记者...
第三届粤港澳大湾区博士博士后创... 9月13日,第三届粤港澳大湾区博士博士后创新创业大赛复赛暨产才对接交流活动在广州中医药大学大学城校区...