“AI‘幻觉’有利于文学创作，但在AI安全方面，‘幻觉’确实会带来严重问题。”
全国政协委员、360集团创始人周鸿祎近日在北京接受中新网等媒体采访时谈及AI“幻觉”的两面性。
AI“幻觉”，是指人工智能系统(自然语言处理模型)生成的内容与真实数据不符，或偏离用户指令的现象。
“企业内部应用大模型时，如果该企业属于医疗、法律、金融、证券等领域，或者用于生产制造等不容出错的地方，大模型一旦胡乱编造信息，就会带来严重后果。”周鸿祎举例。
如何防止AI出现“幻觉”？周鸿祎认为，企业应用相关技术时，要连接企业专有的知识库，去进行校正。“幻觉”问题，部分是能通过知识库解决的。
但他也指出，当大模型连接知识库，就会带来数据安全的问题。“智能体的安全、数据的安全、客户端的安全，还有基座模型的安全，构成一个新的人工智能安全新领域。解决方法就是‘以模制模’。”
来源：中国新闻网
平台声明：该文观点仅代表作者本人，佐伊科技仅提供信息存储空间服务。发布者：rmltwz，转转请注明出处：https://www.rmltwz.com/shangye/31917.html
社区组织协会及儿童权利关注会发表新一份儿童权利专员报告，指政府扶贫表现有所改善，为近5年来最高，惟100分满分只得26分，仍然不合格。 儿童权利大使指出，政府着力恢复经济，但忽略透过政策和立法全面改善儿童贫穷问题，质疑当局维护儿童权利不力。 十项指标仅房屋政策和课后托管表现合格 社区组织协会及儿童权利关注会连续第20年发表报告，认为政府扶贫表现持续不合格，十…
全国两会将在下月召开，北京保安升级。北京公安局公布，为维护两会期间的空中安全，在3月1日零时起至2025年3月12日24时止，禁止所有“低慢小”无人航空器飞行。 ▲全国两会期间，北京禁止使用所有“低慢小”航空器。 孔明灯氢气球亦被禁 据“平安北京”微信公众号25日消息，北京市公安局21日）发布《关于加强2025年全国‘两会’期间北京地区‘低慢小’航空器管理工…
春节期间全球最火爆的新闻之一莫过于中国DeepSeek的强势崛起。昨日是节后复工首日，DeepSeek公司所在地杭州汇金国际大厦吸引不少媒体前来采访，但全部被婉拒。春节期间，有不少人都来“打卡”，大厦的物业临时提升了安保力度。 ▲DeepSeek公司总部汇金国际大厦。(微博） 多间日韩媒体到访 《广州日报》报道，昨日上午8点半，陆续有媒体来访，汇金国际大厦的…
随着新春的脚步日益临近，央视春晚的筹备工作进入了紧张阶段。在第三次联排中，实力派女演员宋佳的亮相成为一大亮点，她良好的状态和出众的气质引发广泛关注。 宋佳以简约优雅的装扮出现在现场，将头发盘起显得精神饱满，容光焕发。彩排过程中，她不仅展示了专业素养，还以亲切笑容和随和态度与粉丝及工作人员互动，给人留下深刻印象。 宋佳的出现为春晚增添了一抹亮色。作为一位演技精…
香港中通社1月26日电 香港特区政府财政司司长陈茂波上周到瑞士达沃斯出席世界经济论坛年会。他26日发表网誌指出，与会者对中美经济情况及中美关係往后发展有着高度关注；并透露年会上有欧洲前沿金融科技企业表示正计划落户香港。 资料图为香港特区政府财政司司长陈茂波 香港中通社图片 陈茂波提到，年会的焦点落在美国新政府的经济和外交政策，特别是其对全球贸易、国际关係、气…
