新利平台 > 即時新聞 > 博覽

擔心傳播不良信息,美政府研究是否監管ChatGPT等AI技術

發布時間:2023-04-12 08:46:00來源: 澎湃新聞

  美國政府已開始研究是否需要監管ChatGPT。

  當地時間4月11日,據《華爾街日報》報道,由於(yu) 人們(men) 越發擔心ChatGPT等人工智能技術可能會(hui) 被用於(yu) 歧視或傳(chuan) 播有害信息,拜登政府已經開始研究是否需要對這類工具進行限製。

  美國商務部4月11日就相關(guan) 的問責措施正式公開征求意見,包括具有潛在風險的新型人工智能模型在發布前是否應該進行核準認證程序。這被視作是邁出對人工智能領域實行潛在監管的第一步。

  ChatGPT等人工智能工具可以快速生成類似人類使用的文字、圖像與(yu) 視頻等。人工智能實驗室OpenAI於(yu) 2022年11月推出的聊天機器人ChatGPT,在短短兩(liang) 個(ge) 月內(nei) 活躍用戶達到1億(yi) ,成為(wei) 史上增長最快的消費者應用程序。

  “這些工具即便在起步階段就能做到這些,這真令人驚訝。” 美國商務部下屬機構國家電信與(yu) 信息管理局局長艾倫(lun) ·戴維森(Alan Davidson)說,“我們(men) 知道,我們(men) 需要設置一些界限,來確保這些技術被負責任地使用。”

  據戴維森介紹,征求意見的期限為(wei) 60天,這些意見有助於(yu) 向美國的政策製定者提供有關(guan) 如何處理人工智能的建議。戴維森補充稱,其所在的機構負責就技術政策向美國總統提供建議,而非撰寫(xie) 或執行法規。

  目前,科技行業(ye) 和政府官員已對人工智能技術潛在的危害表示擔憂,包括使用該技術犯罪或是傳(chuan) 播虛假信息。

  美國科羅拉多州民主黨(dang) 參議員Michael Bennet特別關(guan) 心兒(er) 童的安全。上個(ge) 月,Bennet給幾家人工智能公司寫(xie) 信,詢問有關(guan) 公共實驗的情況。在那些實驗中,聊天機器人向裝成年輕人的用戶提供了令人不安的建議。

  “人工智能到底是能為(wei) 我們(men) 帶來極大的好處,還是造成災難性的後果,人們(men) 正針對這個(ge) 話題進行激烈討論。” 康涅狄格州民主黨(dang) 參議員Richard Blumenthal在接受采訪時表示,“這對國會(hui) 來說是終極挑戰,一個(ge) 高度複雜、極具技術性的挑戰,且事關(guan) 重大,極為(wei) 緊迫。”

  拜登上周在白宮與(yu) 一個(ge) 科學家顧問委員會(hui) 討論了這一話題。當有記者問及人工智能技術是否有危險時,拜登表示:“還有待觀察,有可能(有危險)。”

  據介紹,顧問委員會(hui) 的成員包括來自微軟和穀歌的代表。這兩(liang) 大科技巨頭和其他發布人工智能係統的公司表示,他們(men) 正不斷更新安全界限,比方說通過編程讓聊天機器人不回答某些問題。

  值得一提的是,當地時間4月10日,據美國數字新聞網站 Axioses報道,知情人士透露,著名科技投資人Ron Conway的投資公司SV Angel將於(yu) 4月12日召集舊金人工智能山AI公司的高層討論人工智能政策問題,OpenAI、微軟、穀歌、蘋果、英偉(wei) 達、Stability AI、Hugging Face、Anthropic等公司的高管與(yu) 政策代表將出席該會(hui) 議,討論如何負責任地開發AI、分享最好的實踐案例,並商討相關(guan) 的公共政策框架和標準。

  就在3月29日,埃隆·馬斯克(Elon Musk)等千名業(ye) 界和學界人士聯署公開信,呼籲所有人工智能實驗室立即暫停訓練比GPT-4更強大的AI係統,暫停至少6個(ge) 月,以便製定和實施安全協議。

  據悉,美國金融部門的監管機構已經對貸款機構如何利用人工智能來承銷貸款進行調查,希望防止對少數群體(ti) 的歧視。此外,美國司法部反壟斷部門表示,該部門正在監控人工智能領域的競爭(zheng) 。聯邦貿易委員會(hui) 則警告這些科技公司,它們(men) 可能會(hui) 因對人工智能產(chan) 品做出虛假的或未經證實的聲明而麵臨(lin) 法律後果。

(責編: 王東)

版權聲明:凡注明“來源:新利平台”或“新利平台文”的所有作品,版權歸高原(北京)文化傳(chuan) 播有限公司。任何媒體(ti) 轉載、摘編、引用,須注明來源新利平台和署著作者名,否則將追究相關(guan) 法律責任。