全国政协委员齐向东:建议开展体系化大模型安全防护
创始人
2025-03-06 18:59:12

  和商网北京3月6日电(记者 吴涛)随着人工智能大模型的发展,大模型数据安全和自身安全问题越来越受到重视。全国政协委员、全国工商联副主席、奇安信科技集团董事长齐向东建议,开展体系化的大模型安全防护,落实《生成式人工智能服务安全基本要求》,筑牢人工智能安全防线。

  齐向东表示,以大模型为核心的人工智能技术是创新范式变革与产业升级的关键引擎,然而技术跃升与安全风险始终伴生演进。人工智能大模型面临四大安全挑战,包括数据安全挑战、应用安全挑战、基础环境安全挑战和大模型自身安全挑战。

  “以数据安全挑战为例,大模型在训练、推理、使用过程中涉及海量数据,通过数据投毒、数据污染等手段,会使大模型输出背离主流价值观或包含事实性错误的内容。一些不法分子还会借助提示词注入、劫持、爬虫等手段,窃取大模型用户重要信息、敏感数据。”齐向东称。

  齐向东建议,从技术层面全面排查加固人工智能大模型基础设施,构建大模型红域,打造适用于人工智能的纵深防御体系,形成覆盖终端、应用、数据、大模型、算力与基础设施的多维度核心防护能力。同时,给予威胁情报、大网数据监测等情报赋能,有效抵御针对大模型的新型攻击和恶意访问,实现“对外防攻击、对内防内鬼”。

  齐向东还建议重点打造大模型数据安全“双控机制”,保障大模型稳定运行。对大模型数据输入侧及输出侧开展有效管控,确保大模型数据安全、内容安全、应用安全。要求部署大模型的关键信息基础设施运营单位在网络和数据安全建设上的投入比例不低于信息化建设的15%。(完)

相关内容

热门资讯

2026年曲棍球青年亚洲杯赛:...   中新社呼伦贝尔9月13日电 (记者 张玮)2026年曲棍球青年亚洲杯赛13日落幕。经过10天60...
一列车在波乌边境乌方一侧遭无人...   中新社北京9月13日电 华沙消息:当地时间9月13日,一列开往华沙的列车在波兰、乌克兰边境乌克兰...
“两园一河”京西漂流节联动三区   和商网北京9月13日电 “两园一河”京西漂流节13日再度启幕。与6月首次亮相相比,本次活动从石景...
青海西宁120组亲子家庭湿地公... 图为亲子家庭参与湿地生态乐跑。中新社记者 马铭言 摄 图为青少年通过游戏学习生态保护知识。中新社记者...
第三届粤港澳大湾区博士博士后创... 9月13日,第三届粤港澳大湾区博士博士后创新创业大赛复赛暨产才对接交流活动在广州中医药大学大学城校区...