AI監管山雨欲來？歐洲有分歧美國在觀望，印度不管，OpenAI發聲明 天天速看料

印度政府當地時間4月5日表示，不打算監管人工智能的發展，認為該行業對該國來說是一個“重要和戰略性”的領域。

最近幾天，眾多聲音呼吁加強對人工智能的審查。意大利政府3月31日對ChatGPT實施了臨時禁令，理由是擔心它違反了歐盟的《通用數據保護條例》（GDPR），此舉引發歐洲多國開始探討是否對生成式人工智能展開監管措施。當地時間4月4日，加拿大隱私專員辦公室（OPC）宣布對ChatGPT的開發機構OpenAI展開調查，涉及“OpenAI未經同意收集、使用和披露個人信息”的指控。

(資料圖)

當地時間4月5日，面對一系列監管反彈，OpenAI發布聲明《我們對人工智能安全的方法》，稱“確保人工智能系統安全構建、部署和使用對我們的使命至關重要”。

印度暫不考慮立法或監管人工智能

印度電子和信息技術部在一份書面答復中稱，該部門已經評估了與人工智能相關的道德問題和偏見與歧視風險，正在實施必要政策和基礎設施措施，以在該國培育一個強大的人工智能部門，政府沒有考慮制定法律或監管人工智能的發展。

印度電子和信息技術部認為，人工智能的擴展將對印度的創業和商業發展產生“動力效應（kinetic effect）”。“人工智能是數字經濟和創新生態系統的動力提供者。政府正在利用人工智能的潛力，通過數字公共平臺提供以公民為中心的個性化和互動服務。”

這份文件也指出，由于決策中的偏見和歧視、侵犯隱私、人工智能系統缺乏透明度以及傷害責任界定等問題，人工智能存在道德問題和風險。印度2018年6月發布的《國家人工智能戰略》（NSAI）強調了這些擔憂。為了解決與人工智能相關的道德問題和潛在風險，各中央和邦政府部門和機構已開始努力標準化負責任的人工智能開發，使用和促進最佳實踐的采用。

《國家人工智能戰略》提議為研究和采用人工智能開發一個生態系統，即#AI for ALL。為了使印度成為人工智能領域的全球領導者，印度電子和信息技術部已經實施了“國家人工智能計劃”，旨在建立一個綜合計劃，利用變革性技術來促進包容、創新和采用以產生社會影響。

盡管美國和許多發達國家市場對人工智能的興趣急劇上升，但印度進入該領域的初創企業數量有限。印度的戰略舉措可能鼓勵有才華的人探索機會。

歐美情況復雜

上周，包括特斯拉首席執行官埃隆·馬斯克和蘋果公司聯合創始人史蒂夫·沃茲尼亞克在內的上千人簽署一封公開信，敦促所有人工智能實驗室立即暫停訓練比GPT-4更強大的人工智能系統至少6個月。

3月31日，意大利個人數據保護局宣布從即日起禁止使用ChatGPT，限制OpenAI處理意大利用戶信息，并開始立案調查。意大利個人數據保護局認為，3月20日ChatGPT平臺出現了用戶對話數據和付款服務支付信息丟失情況。而該平臺沒有就收集處理用戶信息進行告知，且缺乏大量收集和存儲個人信息的法律依據。同時，該機構還指責，盡管根據OpenAI的條款聲稱該服務面對13歲以上的用戶，但并沒有使用任何過濾機制來驗證用戶的年齡。

在意大利暫時禁止ChatGPT后，其他歐洲國家也開始研究是否需要更嚴厲措施來控制聊天機器人，以及是否要協調這種行動。

雖然歐洲議員對“歐盟人工智能法”的內容和范圍存在分歧，但一些監管機構發現，現有的工具，如讓用戶控制其個人信息的《通用數據保護條例》可以適用于迅速崛起的生成式人工智能公司類別。

法國和愛爾蘭的隱私監管機構已經與意大利的同行聯系，以了解更多關于禁令的依據。德國數據保護專員告訴《商報》，德國可能會跟隨意大利的腳步，出于對數據安全的考慮禁止ChatGPT。

“我們正在跟進意大利監管機構。”愛爾蘭數據保護專員的發言人說，“我們將與歐盟所有的數據保護機構就此事進行協調。”

瑞典的隱私監管機構則表示沒有計劃禁止ChatGPT，也沒有與意大利的監管機構進行接觸。西班牙的監管機構表示，它沒有收到任何關于ChatGPT的投訴，但不排除未來會進行調查。

雖然隱私監管專員贊成更多的監管，但政府卻更加寬松。意大利兼基礎設施與可持續交通部長馬泰奧·薩爾維尼批評了本國監管機構的決定，稱其反應過度，德國政府發言人表示沒有必要禁止ChatGPT。

一位消息人士說，意大利當局上周的舉動旨在與OpenAI開始對話，以解決在ChatGPT遵守歐盟數據保護規則方面提出的問題，而不是禁止該工具。OpenAI在歐盟沒有辦事機構。

在北美，加拿大隱私專員辦公室（OPC）宣布對OpenAI展開調查。該機構的一位隱私專員表示，人工智能技術及其對隱私的影響是OPC的優先事項，“我們需要跟上快速發展的技術并保持領先，這是我作為隱私專員重點關注的領域之一。”

美國總統拜登當地時間4月4日表示，人工智能是否危險還有待觀察，但科技公司有責任確保其產品在公開之前安全。據《紐約時報》上個月報道，雖然一些美國立法者對人工智能表示擔憂，但很少有人積極尋求監管。

OpenAI正在研究兒童驗證選項

可能是為了回應這些監管風聲，OpenAI當地時間4月5日發布聲明，稱OpenAI致力于保持強大的人工智能安全且廣泛有益。

這份聲明稱，“在發布任何新系統之前，我們會進行嚴格的測試，聘請外部專家提供反饋，努力通過人工反饋強化學習等技術來改進模型的行為，并建立廣泛的安全和監控系統。例如，在我們的最新型號GPT-4完成培訓后，我們花了6個多月的時間在整個組織中努力，在公開發布之前使其更安全、更一致。我們認為，強大的人工智能系統應該接受嚴格的安全評估。需要監管以確保采用此類做法，我們與政府就此類監管的最佳形式積極合作。”

OpenAI承認，盡管他們努力在部署前預防可預見的風險，但在實驗室里能學到的東西是有限的。所以他們認為，隨著時間的推移，從現實世界的使用中學習是創建和發布越來越安全的人工智能系統的關鍵組成部分。“我們通過自己的服務和API提供我們最強大的模型，以便開發人員可以直接將這項技術構建到他們的應用程序中。這使我們能夠監測濫用并采取行動，并不斷制定緩解措施，以應對人們濫用我們系統的真實方式——而不僅僅是關于濫用可能是什么樣子的理論。”

“至關重要的是，我們認為社會必須有時間更新和適應越來越強大的人工智能，每個受這項技術影響的人都應該在人工智能如何進一步發展方面擁有重要的發言權。迭代部署幫助我們讓各種利益相關者更有效地參與到關于采用人工智能技術的對話中，而不是他們沒有這些工具的第一手經驗。”聲明前調。

OpenAI表示，其安全工作的一個關鍵重點是保護兒童，要求必須年滿18周歲，或年滿13周歲但經父母批準才能使用其人工智能工具，并正在研究驗證選項。“當用戶試圖將兒童性虐待材料上傳到我們的圖像工具時，我們會將其阻止并報告給國家失蹤和受剝削兒童中心。”聲明稱。

在作為爭議焦點的隱私方面，OpenAI稱，雖然他們采用的一些培訓數據包括公共互聯網上提供的個人信息，但他們希望模型了解世界，而不是個人。因此，他們努力在可行的情況下從培訓數據集中刪除個人信息，微調模型以拒絕對個人信息的請求，并回應個人從系統中刪除其信息的請求。

OpenAI最后表示，“雖然我們等了6個多月才部署GPT-4，以便更好地了解其功能、好處和風險，但有時可能需要花費更長時間來提高人工智能系統的安全性。因此，政策制定者和人工智能提供商需要確保人工智能的開發和部署在全球范圍內得到有效管理，這樣就不會有人為了取得進展‘偷工減料’。”

編輯：林鄭宏

關鍵詞：