風險管理模型,一個真正的加速器企業AI

通過安東尼修改,Satish Garla,馬裏奧Schlener (EY),Wissem Bouraoui (EY)和Tarek Elguebaly (EY)

2023年5月25日在行業

分享這篇文章

特別感謝莎莉的馬裏奧•Schlener Wissem Bouraoui和Tarek Elguebaly的支持在整個旅程這個博客和他們的貢獻和解決方案加速器。

模型風險管理(MRM) -罕見的三個字母的縮寫,可以將這種焦慮水平許多模型開發人員和數據科學家在金融服務行業。MRM的紀律治理和合規團隊將仔細識別和減輕不正確或誤用造成的不良後果模型。不限於人工智能(AI)或機器學習(ML)模型,AI /毫升模型代表一小部分模型在銀行管理;其範圍很容易延伸到終端用戶計算應用程序,複雜的統計軟件包,或基於規則的過程。

但是,如果第四次工業革命帶來了一係列激動人心的新技術和分析突破,過去人工智能實驗(例如,Twitter聊天機器人泰河)和公司醜聞(如—劍橋)也提出了額外的AI的危險意識,缺乏explainability以及新的風險因素(如道德、公平),組織必須考慮。新車型,如ChatGPT生成AI,引發了許多對話在金融服務行業,AI /毫升將越來越多與數據治理需要更緊密的聯係和其他風險管理框架,如隱私,信息安全風險管理和第三方。

合規官員- AI的黑暗騎士

不管他們的複雜性,每個模型在銀行或保險是徹底審查,由一個獨立的專家小組的唯一責任是確定建模方法的缺點。新一代技術人員精通一個人工智能的世界,這個過程通常被認為是適得其反,過時,有些patronizing-not許多實踐者像他們的技能受到挑戰。這不能遠離真理。

獨立驗證單位(治療作用不會簡單地識別缺陷建模策略,但會驗證風險識別從一開始,采取了必要的步驟在整個開發生命周期模型,以減輕不良後果。如果不能降低風險,他們至少需要理解,表達和量化。畢竟,管理風險是每一個金融服務機構的主要功能(FSI)。

通過執行嚴格的開發標準,定義公司指導和確認每個模型的法規遵從性,通常以犧牲自己的人氣,合規官員和模型驗證器已成為企業的黑暗騎士AI-preserving金融生態係統的完整性,提高模型的有效性(模型是適合的目的),同時減少相關的風險的公司和/或其客戶,為分析項目導致縮短上市時間。beplay体育app下载地址

模型explainability與模型的透明度

毫升模型往往“黑匣子”,讓他們解釋困難。問題的模型explainability通常是一個簡單的答案:夏普利添加劑解釋,俗稱世鵬科技電子值。過度使用此方法由專業人員增加毫升模型的可解釋性。但是如果它很好地展示的影響(正麵或負麵)給定特性模型的結果,它沒有評估預測本身的質量,迫使合規團隊特權更簡單的方法,如廣義線性模型(glm),對關鍵技術,如XGBoost決策流程,如信貸承銷。這就是現狀的目的。

如果這種技術可以用來帶來一定程度的透明度,更複雜的模型參數訓練在一百年或一千年,怎麼這適用於新一代的人工智能訓練超過十億參數?多莉,我們的新開源倡議,旨在民主化生成人工智能技術用於商業用途,是訓練有素的六十億多個參數!但是,最重要的是,即使是最可辯解的技術,如線性回歸,仍將被視為黑盒如果沒有捕獲的數據模型訓練的反對或不知道當前版本運行在生產。

這是取代人工智能explainability文檔和開發指導方針。模型風險來自世界各地的指導非常強調需要有效的文檔在整個模型生命周期,從開始到解除。

SR 11-7模型風險管理從美國聯邦儲備委員會:

[…文檔是一個必要的因素在模型開發過程。它確保各方能夠理解模型,實現它,構建合適的基準進行比較。

E-23 OSFI加拿大:

[…)模式所有者應負責維護全麵文檔-,所有模型可以很容易地獲取利益相關者模型在每個階段的生命周期。

我們相信explainability在於其發展曆史和概念模型可靠性的理解每一個以上的輸入參數。一個模型,在其生命周期,經過許多任務,每個涉及數據、指標,假設,工具、框架和決策執行的利益相關者模型。一個需要連接數據、基礎設施、流程、代碼和模型一起給人工智能帶來必要的透明度。這個簡單的承諾磚Lakehouse。

更好的在一起

我們理解至關重要的有效的金融服務行業的風險管理模型。這就是為什麼我們興奮地介紹我們的磚,是模型風險管理加速器AI explainability提供完整的模型可審核性,消除合規的猜測。我們加速器將授權終端用戶實現透明和可解釋性模型作為數據擴展和建模技術的發展。的目的,滿足所需的輸入AI治理、解決方案倡導一個一致的和簡化的方法記錄模型和應對變化,監管和業務相關的,在一個時間軸進行了優化。

這個加速器為金融服務公司提供了一個自動生成的模型文檔解決方案,利用可重用的筆記本服從監管標準。這個解決方案也插入一個完整的套件,包括數據可視化和可配置的指示板報告,允許團隊利用自動化和集中的工具,實驗室和圖書館建立在一個統一的分析架構。通過這樣做,它簡化了管理和治理模型生命周期的活動。

金融服務公司的好處包括:利用我們的MRM加速器

增強可視化和報告功能,允許金融服務公司做出明智的決定和更好的理解他們的風險敞口。
自動控製模型開發、驗證和實現,以及問題管理,提高整體效率。
在庫存實時風險報告和分析,提供一個整體健康檢查在產品/投資組合層麵所以你可以主動監控和降低風險,減少潛在的業務上的任何負麵影響。

統一與磚Lakehouse治理

磚Lakehouse是一個現代的雲數據架構,結合數據倉庫係統的可靠性和性能與經濟規模和靈活性提供的數據湖功能。超過1000 FSIs,采用這種模式幫助銀行、保險公司和資產管理公司解鎖值從他們的數據在各種用例的不同的重要性,從風險管理到市場營銷的分析。

建立在開源標準,lakehouse架構的承諾是簡化所有不必要的步驟和使用不同技術的數據在整個價值鏈,從它的攝入,價值創造。

三角洲湖是存儲的存儲層,提供了基礎數據和表數據磚Lakehouse平台。Beplay体育安卓版本每個操作,修改一個三角洲湖表創建一個新的表版本。一個可以使用曆史信息審核操作或查詢一個表在一個特定時間點(也稱為時間旅行)。

MLFlow跟蹤所有的ML和non-ML實驗,自動記錄模型參數、指標、圖書館、依賴關係和不同版本,但同樣捕獲”的代碼”(例如,一個筆記本相關實驗的時間)和“的數據。”

與一個簡化的架構是一個簡化的治理模型。統一目錄成為單窗格玻璃能夠跟蹤的上遊和下遊的使用數據和執行訪問相應的政策(模型所有者,數據所有者,等等)。在下麵的例子中,我們代表複雜的工作流用於信貸決策,用於連接數據轉換、模型訓練和模型評價都在相同的有向無環圖(DAG)。

通過編程的方式彙集數據,基礎設施依賴性、模型和相關的實驗中,統一目錄提供了健壯的foundtation所需操作和複製模型。然而,技術本身不能解決的嚴格的文檔必須滿足“一致性”和“完整性”檢查第二和第三行辯護。

模型文檔

在努力規範,簡化過程,把一致性、合規和模型管理團隊,通常由一個集中的組織,經常發布標準模板覆蓋通用元素模型開發人員文檔。盡管在許多用例模板在很大程度上是適用的,它通常是調整每個不同的業務領域,以適應他們的需求。這有時會導致矛盾和可能導致更大的驗證時間。

這個過程需要把來自多個係統的數據,包括回到為實驗跟蹤審查手寫筆記。
開發人員傾向於關注建模活動,而不是世俗的複製粘貼和格式化的任務。
不一致在隨後的結構通過不同模型組可引起困難保持標準。
變化對不同模型組和類型很難跟上標準。
要求業務需求和時間表可以時間限製強加於質量文檔。
模型很難治理和政策團隊推出更新和標準由於各種模型組和快速變化的模式和管理景觀。

但根本的問題不是關於模型文檔本身,而是這個文檔是如何被傳遞和執行。作為一個單獨的活動從模型開發過程,通常處理(即。,after a model is built), this process will cause a lot of manual effort, administrative overhead and unnecessary back-and-forth communication between model developers and validation teams, resulting in long delivery timelines and impacting model efﬁcacy to a point where the model may no longer be ﬁt for purpose (e.g., customer behavior may have changed).