全國政協(xié)委員周鴻祎：AI“幻覺”具有兩面性
視頻：全國政協(xié)委員周鴻祎：AI“幻覺”具有兩面性來源：中國新聞網
中新網北京3月3日電(記者 謝藝觀)“AI‘幻覺’有利于文學創(chuàng)作，但在AI安全方面，‘幻覺’確實會帶來嚴重問題?！?/p>
全國政協(xié)委員、360集團創(chuàng)始人周鴻祎近日在北京接受中新網等媒體采訪時談及AI“幻覺”的兩面性。
AI“幻覺”，是指人工智能系統(tǒng)(自然語言處理模型)生成的內容與真實數(shù)據不符，或偏離用戶指令的現(xiàn)象。
“企業(yè)內部應用大模型時，如果該企業(yè)屬于醫(yī)療、法律、金融、證券等領域，或者用于生產制造等不容出錯的地方，大模型一旦胡亂編造信息，就會帶來嚴重后果?！敝茗櫟t舉例。
如何防止AI出現(xiàn)“幻覺”？周鴻祎認為，企業(yè)應用相關技術時，要連接企業(yè)專有的知識庫，去進行校正?！盎糜X”問題，部分是能通過知識庫解決的。
但他也指出，當大模型連接知識庫，就會帶來數(shù)據安全的問題?！爸悄荏w的安全、數(shù)據的安全、客戶端的安全，還有基座模型的安全，構成一個新的人工智能安全新領域。解決方法就是‘以模制模’?！?完)
【編輯:王祎】
- 專題：2025全國兩會
發(fā)表評論
文明上網理性發(fā)言，請遵守新聞評論服務協(xié)議
經濟新聞精選：
2025年05月09日 15:08:41
2025年05月09日 15:03:22
2025年05月09日 14:12:29
2025年05月09日 14:11:29
2025年05月09日 14:08:35
2025年05月09日 13:41:45
2025年05月09日 11:20:26
2025年05月09日 11:13:16
2025年05月09日 10:33:03
2025年05月09日 10:16:38
京公網安備 11010202009201號