】 【打 印】 
發展金融大模型需注重安全可信
http://www.CRNTT.com   2023-08-29 14:53:09


  中評社北京8月29日電/據科技日報報導,“作為人工智能應用的重要場景,金融行業是大模型技術和算法突破的沃土。”8月28日,在重慶兩江新區舉行的金融大模型發展論壇暨馬上消費金融大模型發布會上,中國工程院院士倪光南表示。

  論壇上,多位院士專家圍繞生成式人工智能和金融大模型展開了討論。

  中國工程院院士、浙江大學求是特聘教授譚建榮講解了大模型的關鍵技術與發展趨勢。他介紹,過去的人工智能強調因果關係,而現在大數據強調關聯關係,從不確定性中尋找確定性,從變量中找出不變量。

  “生成式人工智能的三大技術特徵就是大數據、大模型和大算力。”譚建榮表示,生成式人工智能是基於知識工程和知識圖譜的大模型,知識工程就是從數據裡凝練出知識,這是人工智能的核心,其目的還是提高人們借助現代化工具利用信息的能力。

  “生成式人工智能的基本定位還是智力勞動者的助手。”歐洲科學院外籍院士、清華大學人工智能研究院常務副院長孫茂鬆表示,生成式人工智能不會把一個行業整體取代。通用大模型ChatGPT對文本語言比較重視,對數字其實不敏感,所以有時候會答非所問。另外,通用大模型的落地也是一大挑戰,如用在金融領域就很有可能出現“雞同鴨講”的情況。

  “坦誠地講,在工業領域、金融領域,通用大模型還有4個關鍵的難題。”馬上消費金融股份有限公司(以下簡稱馬上消費)首席信息官蔣寧表示,這4大難題包括關鍵性任務和動態適應性、個性化要求和隱私保護、群體智能與安全可信以及基礎設施的能力。

  應對人工智能風險方面,國際系統與控制科學院院士、重慶國家應用數學中心主任楊新民表示,隨著大模型的開放開源,深度合成技術的非法使用存在加速積聚的風險。

  針對提升大模型應用的可信實踐,中國信息通信研究院副總工程師王愛華在致辭中表示:“可信人工智能實踐的路徑逐步清晰。人工智能發揮作用越大,對於安全可信的要求也就越高。”

  會上,馬上消費發布全國首個零售金融大模型——“天鏡”。“我們希望在任何情況下‘天鏡’給客戶的回答、給所有員工的回答是合規的,並且在任何不可預期的情況下是穩定的。”蔣寧表示,馬上消費已形成“三縱三橫”的大模型發展技術布局。所謂三縱,是指實時人機協作、多模態智能、數據決策智能,在數據領域實現智能化和結構性數據判別式模型的綜合能力。三橫是指持續學習、模型合規、組合式AI形成安全合規可信的魯棒性技術能力,確保讓模型越用越聰明,同時更穩定、更安全可控。

  基於此,中國信息通信研究院、重慶國家應用數學中心和馬上消費牽頭髮起,阿里雲、復旦大學金融科技研究院、騰訊雲、中國科學院自動化研究所等單位聯合倡議發起“金融大模型可信安全驗證與聯合創新行動計劃”。

掃描二維碼訪問中評網移動版 】 【打 印掃描二維碼訪問中評社微信  

 相關新聞: