信通院稱人工智能風險分為5個等級 AI會有什么影響

2023-12-26 14:31:56 編輯：鮑彬媚來源：

導讀 12月24日，在2024中國信通院ICT深度觀察報告會人工智能伙伴分論壇上，中國信息通信研究院發(fā)布2023年人工智能風險管理體系。該體系將人工智...

12月24日，在2024中國信通院ICT深度觀察報告會人工智能伙伴分論壇上，中國信息通信研究院發(fā)布2023年人工智能風險管理體系。該體系將人工智能帶來的風險分為兩類，包括自身技術系統(tǒng)造成的風險以及應用生產的風險，同時參考我國現(xiàn)行網絡安全等級保護要求將人工智能風險劃分為5個等級。最高的第五等級風險是指對人類社會有一定的顛覆性影響，比如不受人類控制的強人工智能，具有極強的自主性。

人工智能的發(fā)展可能會帶來一定的偏見和歧視，比如通過訓練數(shù)據的人工智能系統(tǒng)，可能會在無意當中延續(xù)或放大社會偏見。人工智能技術需要收集和分析大量的個人數(shù)據，會引發(fā)數(shù)據隱私和安全相關的問題。道德困境也是一個大問題，在人工智能系統(tǒng)中灌輸?shù)赖潞蛡惱韮r值觀，是一項極大的挑戰(zhàn)。