新利平台 > 即時新聞 > 博覽

ChatGPT創造者談最大擔憂 籲美政府加強人工智能監管

發布時間:2023-05-18 09:20:00來源: 中國新聞網

  中新網5月17日電 據外媒報道,當地時間16日,開發ChatGPT的美國人工智能公司OpenAI的首席執行官(CEO)山姆·阿爾特曼在參議院一場聽證會(hui) 上,呼籲美國政府加強對快速發展的人工智能領域的監管。

  據報道,阿爾特曼在參議院司法委員會(hui) 下屬的隱私、技術和法律委員會(hui) 舉(ju) 辦的聽證會(hui) 上就人工智能監管表示,他支持成立一個(ge) 聯邦機構,對具有某些“關(guan) 鍵能力”的人工智能模型設立許可證製度。如果模型不符合政府製定的安全準則,則可以撤銷其許可。

  他還建議,政府應為(wei) 高性能人工智能模型製定安全標準,並製定模型必須通過的特定功能測試。

  阿爾特曼雖未明確說明監管門檻的標準,但他表明,“政府監管、幹預對於(yu) 降低人工智能工具所帶來的風險至關(guan) 重要”。

  當被問及他對人工智能的最大擔憂時,阿爾特曼表示,“我最擔心的是,我們(men) ——這個(ge) 領域、這項技術、這個(ge) 行業(ye) ——會(hui) 對世界造成重大傷(shang) 害。我認為(wei) 這可能會(hui) 以很多不同的方式發生……我認為(wei) ,如果這項技術出了問題,它可能會(hui) 出很大的問題。”

  他說,“我們(men) 希望對此發表意見。我們(men) 希望與(yu) 政府合作,防止這種情況發生。但我們(men) 必須對此保持清醒的頭腦。”

  OpenAI2022年發布了聊天機器人程序ChatGPT。ChatGPT能夠通過理解和學習(xi) 人類語言來進行對話,甚至撰寫(xie) 文案等。

  ChatGPT發布後立刻引發各界關(guan) 注。有教育工作者擔心ChatGPT會(hui) 導致學生在完成作業(ye) 時作弊,也有專(zhuan) 家擔憂ChatGPT會(hui) 誤導公眾(zhong) 、違反版權保護法規等。

  今年3月,美國推特公司CEO馬斯克和人工智能領域頂尖專(zhuan) 家本吉奧等千人聯名簽署了一封公開信,主張在開發強大的AI係統之前,應先確認其帶來影響是積極的、風險是可控的,並呼籲暫停開發比GPT-4更強大的AI係統至少6個(ge) 月,稱其“對社會(hui) 和人類構成潛在風險”。

  5月初,美國副總統哈裏斯會(hui) 見了微軟、穀歌和另外兩(liang) 家開發人工智能的公司的負責人,討論人工智能的潛在風險。拜登政府明確向這些企業(ye) 高層表示,他們(men) 必須在推出產(chan) 品之前確保其安全性。

  隨著ChatGPT等人工智能應用快速發展,部分國家政府機構開始重視該應用並對其加強監管。據此前報道,3月,意大利個(ge) 人數據保護局宣布,暫時禁止使用ChatGPT。美歐多所大學已禁止學生使用ChatGPT,紐約市教育局禁止當地的公立學校電腦以及網絡使用ChatGPT。

(責編: 王東)

版權聲明:凡注明“來源:新利平台”或“新利平台文”的所有作品,版權歸高原(北京)文化傳(chuan) 播有限公司。任何媒體(ti) 轉載、摘編、引用,須注明來源新利平台和署著作者名,否則將追究相關(guan) 法律責任。