伴隨Disco Diffusion、ChatGPT等生成式AI產品相繼問世，AIGC正在掀起一場新的工業革命。近日，普華永道的分析師對外發布了關于生成式AI升級帶來的十一大安全趨勢研判，呼吁全球關注人工智能安全風險帶來的巨大挑戰。
金融行業信息化建設起步早，已成為人工智能應用最佳的領域之一，然而，技術創新也帶來了金融欺詐、交易公平等風險。馬上消費金融股份有限公司(以下簡稱“馬上消費”)作為科技驅動的金融機構，通過主動擁抱監管、建立消保委員會、嚴格數據管理、制定行業標準、加強技術人才培養與技術研發投入等方式，積極應對人工智能技術在消費金融領域的安全問題。
針對當前行業面臨的人工智能安全風險挑戰，馬上消費人工智能研究院院長陸全從人工智能在金融行業應用的現狀以及挑戰兩個方面分享對策與建議。
(資料圖片)
技術是把雙刃劍，效益與風險并存
金融行業因客戶群、龐大數據庫龐大等特性，在客服、投顧、風控等場景中人工智能技術應用成熟度處于領先地位。通過對大型數據集的學習分析，提供快速響應互動、個性化投資推薦等客戶服務，提供異常數據檢測、用戶行為分析等機構決策支撐。與此同時，在這些應用場景中，也存在著三大安全風險。
數據濫用造成的隱私泄露、金融欺詐風險。為保障金融服務質量，需要采集大量數據處理分析，對數據的采集存在擴大化問題，過度采集用戶的行為、偏好等隱私數據。
模型偏差造成的貸款歧視、交易公平風險。人工智能技術應用在信貸領域，可快速、低成本地對潛在借款人進行準確的評估，與傳統的信用評分體系相比，人工智能信用評分更加復雜。模型對大量用戶數據進行處理，建立多數人適用的評估規則，但存在認知和數據偏差導致對特定人群的信用偏見，產生貸款等服務歧視。
攻擊破壞造成的財產損失、業務停滯風險。金融行業相較于其他行業，對系統穩定和數據的依賴性更強，但由于人工智能技術的局限性存在脆弱易受攻擊的特點，面對攻擊造成的財產、大量數據丟失的損失不可估量，技術不穩定性對自身業務造成致命影響，可能直接導致業務停滯。
技術攻防對抗，創新升級新挑戰
人工智能在實踐和應用中面臨著諸多挑戰，由于AI模型、數據、系統的不成熟性造成的欺詐和安全問題不容忽視。人工智能技術開展針對自身的攻防安全技術研究，促使技術應用向可信、可靠、安全方向發展。
人臉識別攻擊，多模態融合防護。金融行業對身份認證的基礎需求加快人臉識別的應用，不法分子通過圖片、3D打印等物理方式攻擊突破人臉識別系統進行資金盜取詐騙。多模態生物識別技術相較于單一生物特征，通過設計融合算法，綜合人臉幾何特征、聲紋、虹膜等多種特征，彌補某些生物特征容易被偽造的弱點，提升識別精確度，形成對人臉識別攻擊的技術防御。
馬上消費在多模態人臉識別應用中還加入了光電體積描記術識別、光場相機活體識別等活體檢測技術，持續進行防偽技術攻關，為客戶人身財產安全筑造堅實的防護屏障。
數據污染攻擊，增強優化防護。數據污染攻擊通過投入污染數據，改變模型反饋機制，將惡意文件標記為善意的，讓系統做出錯誤的行為。在金融行業中，攻擊驗證環節的反饋，破解認證系統穩定性，可實施非法轉賬等詐騙行為。行業一般使用數據增強、穩健優化、模型遷移等方式來提高模型穩定性，馬上消費在此基礎上增設了異常檢測機制，對用戶訪問進行識別，不匹配預期模型和數據集的項目進行異常數據測試，通過刪減調整以減輕異常數據對模型的干擾。
模型竊取攻擊，多模型加密防護。模型竊取攻擊以模型重建和影子模型的形式獲取模型參數竊取重要商業決策模型，通常會造成用戶身份信息、交易數據、企業商業秘密等敏感信息泄露。馬上消費通過將機器學習模型與加密技術結合起來，利用差分隱私技術、多方安全計算技術等實現在加密條件下保護訓練過程數據的隱私性。同時，將數據分區訓練多個模型，根據多個模型的結果去做決策，提升模型竊取難度，抗惡意用戶訪問。
目前的人工智能安全技術是在特定的攻擊情況中針對性解決一些安全問題，實際人工智能安全風險沒有根本的技術解決方法。所謂“道高一尺，魔高一丈”，人工智能安全將持續處于一種攻防不斷對抗的狀態，因此相應的技術必須不斷更新升級，技術創新會不斷帶來新挑戰。
行業挑戰任重道遠，合力推動技術向善
人工智能的安全風險取決于技術發展及其安全可控的程度，安全保障需要社會全體的共同參與，為人工智能發展應用建立安全邊界、做好自我監管是未來長期我們要面臨的挑戰。
2022年3月，馬上消費牽頭成立行業首個AIF聯盟，堅持對金融黑產“零”容忍態度，凝聚同業合力，一同打擊金融黑產；在體制建設上，將消保納入頂層設計，實現100%產品和服務標準化消保評審體系，定期專項監督，做到消保全流程管控，使客戶滿意度持續提升。
依托科技研發創新，參與超30項金融科技標準編制工作，涉及研發運營一體化能力成熟度、開發平臺通用能力要求等，獲得28項人工智能與交易安全領域備案認證，在標準及認證方面表現優秀，引領消金行業規范化發展。
然而，行業應對人工智能安全風險的挑戰依然任重道遠，各金融機構、科技企業仍需高度重視、積極迎接挑戰，提升人工智能技術研發能力，從數據治理、強化監管、規范制定方面降低風險，提供優質高效的金融服務，推動金融服務向智能安全可信方向發展。
