全国政协委员周鸿祎：AI“幻觉”具有两面性_星闻新事

创始人

2025-03-04 01:39:59

　　和商网北京3月3日电(记者谢艺观)“AI‘幻觉’有利于文学创作，但在AI安全方面，‘幻觉’确实会带来严重问题。”

　　全国政协委员、360集团创始人周鸿祎近日在北京接受和商网等媒体采访时谈及AI“幻觉”的两面性。

　　AI“幻觉”，是指人工智能系统(自然语言处理模型)生成的内容与真实数据不符，或偏离用户指令的现象。

　　“企业内部应用大模型时，如果该企业属于医疗、法律、金融、证券等领域，或者用于生产制造等不容出错的地方，大模型一旦胡乱编造信息，就会带来严重后果。”周鸿祎举例。

　　如何防止AI出现“幻觉”？周鸿祎认为，企业应用相关技术时，要连接企业专有的知识库，去进行校正。“幻觉”问题，部分是能通过知识库解决的。

　　但他也指出，当大模型连接知识库，就会带来数据安全的问题。“智能体的安全、数据的安全、客户端的安全，还有基座模型的安全，构成一个新的人工智能安全新领域。解决方法就是‘以模制模’。”(完)