防范人工智能風險要有安全閥
所謂生成式人工智能技術(AIGC),是指基于算法、模型、規則等,生成文本、聲音、圖片、視頻等內容的新一代人工智能技術。算力、算法、數據是這種技術發展的三大核心要素,這幾個要素的綜合作用,使得其具備自生成模式,能實現閉環式學習體系的構建,通過利用海量數據信息,自主學習要素,進而生成原創性的專業知識內容或產品并可以不斷更新,進行自我升級迭代。基于這些特點,越來越多的行業正將其作為提高生產力水平的新要素,創造出指數級的價值,并催生了大量的產業應用,教育、娛樂、商業等領域均有所及。2022年末,美國OpenAI公司推出的ChatGPT標志著這一技術在文本生成領域取得顯著進展。世界知識產權組織(WIPO)不久前發布的《生成式人工智能專利態勢報告》顯示,2014年到2023年,中國生成式人工智能專利申請量超3.8萬件,居世界第一位,是第二名美國的6倍。
生成式人工智能是把雙刃劍,在加強技術研發和創新的同時,需努力提高其安全性和可控性,有效識別潛在風險和漏洞并形成應對策略。2023年8月15日正式施行的《生成式人工智能服務管理暫行辦法》指出,有關主管部門依據職責對生成式人工智能服務開展監督檢查,提供者應當依法予以配合,按要求對訓練數據來源、規模、類型、標注規則、算法機制機理等予以說明,并提供必要的技術、數據等支持和協助。因此,未來要進一步推動生成式人工智能的發展,應從網絡安全、數據安全、個人信息保護等層面入手,采取包容審慎的態度,從技術、倫理、法律等多方面設置“安全閥門”,防范生成式人工智能風險。
一方面,完善相關法律法規的有效界定,合理有效監管。加快立法進程,針對數據、內容安全、知識產權等生成式人工智能發展的關鍵問題,進行分類管理、分類立法,通過政策立法對生成式人工智能的設計、演進進行有效引導、統籌管理。明確監管底線,制定相應技術使用規則和行業規范,強化對生成式人工智能企業、平臺和使用該技術高校各主體等失范行為的監管,及時發現處理違規行為。將“傳統事后監管模式”轉為“事前預防評估模式”和“事中控制模式”,制定事前評估、風險預警和事中控制規范,有效減少安全事件的發生、降低安全事件對企業、高校等造成的負面影響。加快制定相應的技術使用規則和應急處理措施,強化對應用生成式人工智能的企業、平臺的監管和約束。
另一方面,持續增強數據安全。建立數據全生命周期監督管理,包括數據采集輸入階段的虛假、錯誤信息入庫管控,數據處理加工階段的數據標注管控監督,數據輸出階段(二次采集輸入階段)的數據真實性檢測驗真等。針對醫療、金融、電商、高校等重點領域,通過技術手段保障數據安全。及時發現和處理數據方面的違規行為,保障數據及隱私安全,防止濫用數據造成的損失,確保其符合法律法規和社會公德。
關鍵詞:
責任編輯:孫知兵
免責聲明:本文僅代表作者個人觀點,與太平洋財富網無關。其原創性以及文中陳述文字和內容未經本站證實,對本文以及其中全部或者部分內容、文字的真實性、完整性、及時性本站不作任何保證或承諾,請讀者僅作參考,并請自行核實相關內容。
如有問題,請聯系我們!
- 3D打印技術催動高質量數實融合2024-08-15
- 防范人工智能風險要有安全閥2024-08-15
- 中國家電緣何全球“圈粉”2024-08-15
- 錨定現代化 改革再深化|“智造力”釋放新2024-08-15
- 暑期尾聲健康行!教授級兒科專家8月17-18日2024-08-15
- 福元醫藥2024年上半年凈利潤增長16.1% 研2024-08-15
- 湖南金證解讀:鋰電行業迎來節能降碳政策紅2024-08-15
- 易車志專訪徐州利星行:揭秘異業聯盟策略如2024-08-15
- 洞見價值 合作共贏丨 瓊臺酒業集團&古泉2024-08-15
- “小金鐘”首屆全國青少年合唱展演在鄭州閉2024-08-15
- 東方雨虹休斯敦生產研發物流基地奠基儀式暨2024-08-15
- 建設銀行首單500億元TLAC債券成功發行2024-08-15
- “銘記歷史 勿忘國恥” 恒昌公益志愿者緬2024-08-15
- HTX亮相伊斯坦布爾區塊鏈周:推動加密創新2024-08-15
- 恒小花:智能AI眼鏡暢享科技與時尚融合2024-08-15
- 恒榮匯彬:AI智能眼鏡科技與時尚完美融合2024-08-15
- 艾索洛Eversolo數播產品榮獲EISA 2024-2022024-08-15
- “全球獨角獸項目:新能源與傳統產業的顛覆2024-08-15
- 深山難阻凌云志 恒昌公益再助革命老區寒門2024-08-15
- 共謀薯業發展 河北圍場舉辦馬鈴薯種業大會2024-08-15
- 續約! TMGM將繼續作為切爾西足球俱樂部官2024-08-15
- 青島上合核芯產業區中京產發·春光康谷私屬2024-08-15
- 伊春攜手遠方好物,讓森林食品走出大山2024-08-15
- 聚通裝潢:近30年深耕家裝行業,專業品質贏2024-08-15
- 得一微電子硅谷FMS2024技術秀,CXL存儲新未2024-08-15
- 光明園迪實力認證,連續5年市場中高端銷量2024-08-15
- 孫尚傳:高精尖技術的國產化突圍2024-08-15
- Keep 發布首款智能運動手表,中國女子半馬2024-08-15
- 金價再度挑戰歷史新高,“黃金+”配置受關2024-08-15
- 海外網評:“奧運經濟”讓多領域消費收獲好2024-08-15
精彩推薦
- 上半年出貨量增長13.2% 手機市場保持增長態勢
- 電力統一大市場建設取得新成效 新能源...
- 從烏魯木齊到阿斯塔納 中國姑娘2000公...
- eπ007增程版上市交付 全系13.16萬起
- 8月末社會融資規模存量為368.61萬億元,...
- 貸款平穩增長,“組合拳”持續發力——8...
- Mysteel早讀:黑色期貨夜盤飄紅,寶武10...
- 招商蛇口更換掌舵人:“老將”蔣鐵峰升任...
- 搭檔超20年合伙人反目,董事長把副董事長...
- 中國探月工程首任首席科學家:下一步我...
- 好消息!奉賢4座口袋公園改造提升工程即...
- cf體驗服資格是永久的嗎(cf體驗版)
- 李家超昨日下午視察災情,稱香港特區政...
- 存內控獨立性不足等問題,證監會對華西...
- 美網決賽對陣出爐!2號種子拒絕爆冷,2-...
閱讀排行
-
3D打印技術催動高質量數實融合
下一篇2024-08-15 20:06:27
-
中國家電緣何全球“圈粉”
上一篇2024-08-15 20:01:50