全国政协委员周鸿祎:AI“幻觉”具有两面性
创始人
2025-03-04 01:39:59

  和商网北京3月3日电(记者 谢艺观)“AI‘幻觉’有利于文学创作,但在AI安全方面,‘幻觉’确实会带来严重问题。”

  全国政协委员、360集团创始人周鸿祎近日在北京接受和商网等媒体采访时谈及AI“幻觉”的两面性。

  AI“幻觉”,是指人工智能系统(自然语言处理模型)生成的内容与真实数据不符,或偏离用户指令的现象。

  “企业内部应用大模型时,如果该企业属于医疗、法律、金融、证券等领域,或者用于生产制造等不容出错的地方,大模型一旦胡乱编造信息,就会带来严重后果。”周鸿祎举例。

  如何防止AI出现“幻觉”?周鸿祎认为,企业应用相关技术时,要连接企业专有的知识库,去进行校正。“幻觉”问题,部分是能通过知识库解决的。

  但他也指出,当大模型连接知识库,就会带来数据安全的问题。“智能体的安全、数据的安全、客户端的安全,还有基座模型的安全,构成一个新的人工智能安全新领域。解决方法就是‘以模制模’。”(完)

相关内容

热门资讯

2026年曲棍球青年亚洲杯赛:...   中新社呼伦贝尔9月13日电 (记者 张玮)2026年曲棍球青年亚洲杯赛13日落幕。经过10天60...
一列车在波乌边境乌方一侧遭无人...   中新社北京9月13日电 华沙消息:当地时间9月13日,一列开往华沙的列车在波兰、乌克兰边境乌克兰...
“两园一河”京西漂流节联动三区   和商网北京9月13日电 “两园一河”京西漂流节13日再度启幕。与6月首次亮相相比,本次活动从石景...
青海西宁120组亲子家庭湿地公... 图为亲子家庭参与湿地生态乐跑。中新社记者 马铭言 摄 图为青少年通过游戏学习生态保护知识。中新社记者...
第三届粤港澳大湾区博士博士后创... 9月13日,第三届粤港澳大湾区博士博士后创新创业大赛复赛暨产才对接交流活动在广州中医药大学大学城校区...