全国政协委员周鸿祎：AI“幻觉”具有两面性

Play Video视频：全国政协委员周鸿祎：AI“幻觉”具有两面性来源：中国新闻网

中新网北京3月3日电(记者 谢艺观)“AI‘幻觉’有利于文学创作，但在AI安全方面，‘幻觉’确实会带来严重问题。”

全国政协委员、360集团创始人周鸿祎近日在北京接受中新网等媒体采访时谈及AI“幻觉”的两面性。

AI“幻觉”，是指人工智能系统(自然语言处理模型)生成的内容与真实数据不符，或偏离用户指令的现象。

“企业内部应用大模型时，如果该企业属于医疗、法律、金融、证券等领域，或者用于生产制造等不容出错的地方，大模型一旦胡乱编造信息，就会带来严重后果。”周鸿祎举例。

如何防止AI出现“幻觉”？周鸿祎认为，企业应用相关技术时，要连接企业专有的知识库，去进行校正。“幻觉”问题，部分是能通过知识库解决的。

但他也指出，当大模型连接知识库，就会带来数据安全的问题。“智能体的安全、数据的安全、客户端的安全，还有基座模型的安全，构成一个新的人工智能安全新领域。解决方法就是‘以模制模’。”(完)