為(wei) 降低人工智能發展過程中可能存在的技術風險和倫(lun) 理隱患，近日，北京智源人工智能研究院在北京專(zhuan) 門成立人工智能倫(lun) 理與(yu) 安全研究中心，著力加強人工智能倫(lun) 理與(yu) 安全研究，引導行業(ye) 健康發展，中國科學院自動化研究所曾毅研究員任研究中心主任。

　　曾毅介紹，研究中心將圍繞人工智能倫(lun) 理與(yu) 安全的理論探索、算法模型、係統平台、行業(ye) 應用等開展一係列研究，目前主要包括四大方麵：一是低風險機器學習(xi) 模型與(yu) 平台的構建，建立機器學習(xi) 模型安全性的評估體(ti) 係；二是開展符合人類倫(lun) 理道德的智能自主學習(xi) 模型研究，實現人工智能行為(wei) 與(yu) 人類價(jia) 值觀的校準，並在模擬環境與(yu) 真實場景中進行驗證；三是建設數據安全示範應用係統，建立數據基礎設施、數據分級、權限控製、數據審計，最大限度防止數據泄密，降低風險；四是構建人工智能風險與(yu) 安全綜合沙盒平台，建設自動檢測平台，針對數據與(yu) 算法的安全性、公平性、可追溯性、風險類型、影響程度與(yu) 影響範圍等方麵，對人工智能產(chan) 品及應用進行風險與(yu) 安全綜合檢測與(yu) 評估，引導行業(ye) 健康發展。