阿里、商湯發布生成式AI新模型,大模型安全性如何保證?
在今年的上海世界人工智能大會(WAIC)上,生成式AI成為各家互聯網科技公司競逐的新領域。在7月7日的大會上,阿里巴巴、商湯科技都推出了最新的大模型版本。
阿里巴巴的人工智能圖像生成器“通義萬相”將對標OpenAI的DALL-E和Midjourney等美國廠商,阿里云還推出了面向開發者的人工智能工具ModelScopeGPT。
商湯科技也在WAIC上升級了“商湯日日新SenseNova”大模型,不僅在模型參數方面有了很大的提升,而且多模態能力也有了進一步的突破。商湯表示,希望通過“大模型+大裝置”推動AI基礎設施能力的躍進提升。
(相關資料圖)
商湯科技董事長兼CEO徐立在產品發布環節中表示:“商湯不僅要打造通用能力更加強大的基礎模型,也將進一步高效融合不同垂直領域的專業知識,構建更懂行業、更具專長的專業大模型,從根本上降低大模型的下游應用成本和門檻。”
咨詢機構麥肯錫估計,生成式人工智能最終每年可為世界經濟增加7.3萬億美元的價值。大模型的強大讓人類瞥見了通用人工智能的曙光,但也讓眾多學界、業界人士心生憂懼。前不久,就有全球400多位專家發布聯名公開信,警告人工智能發展速度過快,缺乏監管,可能會危及人類生存。
在這一背景下,人工智能的治理成為今年WAIC上熱議的話題,也有一些廠商帶來了針對大模型的安全解決方案。
瑞萊智慧7月7日在大會上發布了AI安全平臺RealSafe3.0,該平臺功能與OpenAI提出的“自動對齊研究員”類似,通過自動化的訓練方法優化大模型,筑起抵御人工智能威脅的安全之盾。
瑞萊智慧聯合創始人、算法科學家蕭子豪對第一財經記者表示,大模型前仍處于“野蠻生長”階段,還沒有找到場景、風險和規范三者之間的平衡點。而在探尋這一平衡點的過程中,缺少易用和標準化的工具,即在技術層面上缺乏有力抓手。
“大模型調優的成本很高,這也是很多開發大模型的企業面臨的主要挑戰,我們推出這樣的安全平臺就是希望幫助這些通用大模型提升安全性。”蕭子豪告訴第一財經記者,“這些技術都是基于自研多模態大模型底座實現的。”
他還表示,不能因為對于被技術反噬的擔憂就止步不前,創造新技術和控制技術危害應該同步進行。
針對AI安全隱私的風險,中國信通院華東分院7月7日在WAIC大會的一場“大模型時代AIGC新浪潮”論壇上,聯合業界發布了《可信賴AI安全隱私技術研究》白皮書,從政策法規、技術進展、專利標準、產業發展等層面,分析可信賴AI安全隱私技術的發展態勢,聚焦安全挑戰和主流技術方面研究應用現狀。
白皮書認為,目前我國在可信AI相關標準的建立方面還處于初級階段,建議加速建立可信AI標準與監管體系、注重可信AI技術人才培養、促進可信AI熱點難點問題的解決、構建可信AI安全等級評估與防御體系,構筑全產業的可信AI生態。
關鍵詞:
您可能也感興趣:
為您推薦
聯合打擊整治!山東省今年已打掉非法社會組織58家
塵封的鐵證|日本學者發掘史料 揭示侵華日軍罪行
豐達電廠二期第二臺機組點火吹管順利完成!
排行
最近更新
- 阿里、商湯發布生成式AI新模型,大模型安全性如何保證?
- 賽生藥業(06600.HK)7月7日耗資154.99萬港元回購14.7萬股
- 期貨投資分析過關必做1500題 含歷年真題 第4版(對于期貨投...
- 雙擁“并蒂” 香滿荷城——廣西貴港市推進新時代雙擁工作紀實
- 工業富聯:完成董事會換屆選舉 鄭弘孟接替李軍旗當選董事長
- 中梁控股上半年合約銷售210.3億元 同比下降45.7%
- 最后的律師(關于最后的律師介紹)
- 全面排查治理隱形變異培訓等問題 暢通舉報渠道
- 白俄羅斯國防部顧問:沒有瓦格納士兵參觀過盧卡申科聲稱的提...
- 大額存單搶瘋了!上市公司加入搶購大潮
- 二手干洗機價格(二手干洗機)
- 五分鐘學會修剪果樹
- “全球能源獎”首次發給我國本土科學家,三大獎項中兩項均屬...
- 群眾轉移、房屋清淤、重建選址……重慶強降雨后做了這些事
- 長江制衣(00294)將于10月16日派發末期股息每股0.02港元
- 中國巨石: 目前公司玻纖產品價格總體穩定。
- 四川資中三季度集中推進14個重大項目建設
- 中信建投回應拍下華西證券股權:系與客戶開展場外衍生品交易
- 香港稅制稅種稅率相關事項介紹(香港稅制)
- 投資便利化協定撥開不確定性迷霧
- 揭陽通報“涼果廠4人死亡事故”初步調查結果
- 特斯拉刷新了交付紀錄,這引發了人們對全球純電汽車市場霸主...
- 伍佰成都演唱會官網訂票入口2023
- 成都翡玥蘭庭人才公寓選房名單(附下載)
- 發展眼光 國際視野 漢口學院打造應用型本科高校新高地
- 在路上最弱勢的群體既不是機動車,也不是行人,而是自行車
- 公主嶺市應急管理局、氣象局聯合預警
- 世界銀行前行長:美國無法遏制中國發展
- 財付通:目前已完成自查整改 支付業務合規經營能力得到提升
- 浙江民泰商業銀行溫州分行行長助理尤佳任職資格獲準