近年來，隨著人工智能相關(guān)技術(shù)的持續(xù)演進，人工智能已融入人類生活的方方面面，產(chǎn)業(yè)化深度融合， 歸屬和愛的需求指情感具有歸屬的需求，包括對友誼、愛情以及親情的需求，以使個體免受孤立、陌生、寂寞、疏離的痛苦，并與他人建立親密、友好的關(guān)系。商業(yè)化進程不斷加快，成為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)、重要驅(qū)動力量，但同時也對人工智能賦能過程中產(chǎn)生的“可信安全”風(fēng)險提出了挑戰(zhàn)。對于具有高度數(shù)據(jù)化特點的金融行業(yè)而言，伴隨著高質(zhì)量的大數(shù)據(jù)積累，得益于在深度學(xué)習(xí)算法上的突破，“AI+金融”加速落地，催生了金融行業(yè)一系列產(chǎn)品和業(yè)務(wù)模式的創(chuàng)新。與此同時，不斷出臺的政策為人工智能在金融領(lǐng)域的8、
應(yīng)用提供了良好的發(fā)展環(huán)境。人工智能與金融業(yè)務(wù)的深度融合，已經(jīng)成為推動金融機構(gòu)數(shù)智化轉(zhuǎn)型的新引擎和防范化解金融風(fēng)險的新利器。但是，人工智能在推動金融服務(wù)走向主動化、個性化、智慧化發(fā)展的同時，所帶來的風(fēng)險與挑戰(zhàn)也已引發(fā)廣泛關(guān)注。首先，人工智能存在泄漏敏感數(shù)據(jù)的可能。人工智能的應(yīng)用建立在大量數(shù)據(jù)分析的基礎(chǔ)之上，然而數(shù)據(jù)的流通過程涉及到多個方面，包括應(yīng)用方、提供方和個人用戶，使用過程中會涉及同行間、跨行業(yè)、個人和機構(gòu)以及機構(gòu)內(nèi)部的數(shù)據(jù)整合等各方，使得人工智能存在泄漏敏感數(shù)據(jù)的可能，因而人工智能可靠性難以得到足夠的信任。其次，人工智能傳統(tǒng)技術(shù)范式存在天然的算法漏洞和缺陷，技術(shù)風(fēng)險也在持續(xù)放大。如深度學(xué)習(xí)模型存在脆弱和易受攻擊的缺陷，黑箱模型因算法不透明容易引發(fā)不確定性風(fēng)險，此外算法產(chǎn)生的結(jié)果過度依賴訓(xùn)練數(shù)據(jù)，如果訓(xùn)練數(shù)據(jù)中存在偏見歧視，就會導(dǎo)致不公平的智能決策產(chǎn)生。因此，中國信息通信研究院近日發(fā)布的《人工智能白皮書(2022 年)》中就指出，“可信安全”逐漸成為人工智能賦能過程中不可或缺的保障。人工智能的“可信安全”最早由學(xué)術(shù)界提出，近年來圍繞著安全性、穩(wěn)定性、可解釋性、隱私保護、公平性等方面的可信人工智能研究持續(xù)升溫。具體到金融行業(yè)，2021年3月26日，人民銀行發(fā)布并實施《人工智能算法金融應(yīng)用評價規(guī)范》，作為一部由人民銀行提出，全國金融標(biāo)準(zhǔn)化技術(shù)委員會歸口的文件，其也規(guī)定了人工智能算法在金融領(lǐng)域應(yīng)用的基本要求、評價方法和判定標(biāo)準(zhǔn)，適用于開展人工智能算法金融應(yīng)用的金融機構(gòu)、算法提供商及第三方安全評估機構(gòu)等。人工智能可信安全是人工智能大規(guī)模應(yīng)用的前提和必備條件。對于金融行業(yè)而言，風(fēng)險控制是金融業(yè)最核心的能力和挑戰(zhàn)，可信安全尤為突出。一直以來，數(shù)據(jù)、算法、算力是人工智能的三駕馬車。對于金融行業(yè)而言，以數(shù)據(jù)安全支持智慧決策，用算法安全賦能感官感知，數(shù)據(jù)安全、算法安全顯得尤為重要。為此，作為金融科技企業(yè)之一，恒昌通過打造數(shù)據(jù)安全與算法安全兩大核心能力，解決數(shù)據(jù)強依賴帶來的隱私泄漏等隱患，同時提升算法3、
可靠性。在數(shù)據(jù)安全領(lǐng)域，經(jīng)過多年的科技創(chuàng)新及實踐積累，恒昌已從不同維度建立了完善的數(shù)據(jù)安全防護體系。技術(shù)層面，恒昌嚴(yán)格采用符合業(yè)界標(biāo)準(zhǔn)的安全防護措施，以匿名化、密碼學(xué)、權(quán)限控制、加密存儲、數(shù)據(jù)脫敏等業(yè)內(nèi)通行的安全技術(shù)來防止客戶6、
個人信息泄露、損壞或丟失。 2.2.2 基于需求層次理論的產(chǎn)品設(shè)計模式分析制度層面，恒昌通過建立數(shù)據(jù)分類分級、數(shù)據(jù)安全策略、安全開發(fā)規(guī)范，制定和實施相應(yīng)的管理制度等方式來保護客戶個人隱私，保障信息安全。安全事件管控方面，恒昌組4、
建了專門的應(yīng)急響應(yīng)團隊。一旦發(fā)生安全事件，會立即啟動安全預(yù)案，實施處置并報送信息，最大程度進行止損、分析、定位、補救，聯(lián)合相關(guān)部門進行溯源和打擊。在算法安全領(lǐng)域，人工智能系統(tǒng)面臨病毒攻擊、對抗攻擊等特有攻擊，這加大了安全性方面的挑戰(zhàn)。目前，人工智能系統(tǒng)穩(wěn)定性技術(shù)重點逐步從數(shù)字域擴展到物理域。以人臉識別算法模型為例，刷臉支付與驗證常態(tài)下，人臉識別算法被廣泛應(yīng)用，但技術(shù)和算法風(fēng)險7、
所帶來的諸如換臉，或以干擾圖案破解身份驗證等問題也隨之出現(xiàn)，給金融行業(yè)反欺詐帶來挑戰(zhàn)。為此，針對人工智能在刷臉支付與驗證等的實際應(yīng)用中，因算法缺陷出現(xiàn)的突出風(fēng)險問題，恒昌積極調(diào)整與落地安全解決方案。例如，針對模型安全性進行加固，針對人臉偽造問題，建立深度偽造內(nèi)容檢測平臺，快速、精準(zhǔn)2、
對多種格式與質(zhì)量的圖像與視頻進行真?zhèn)舞b別。當(dāng)下，金融機構(gòu)數(shù)智化轉(zhuǎn)型正在如火如荼地進行，人工智能作為數(shù)智化轉(zhuǎn)型的重要手段之一，因其可構(gòu)建涵蓋智能投顧、智能營銷、智能風(fēng)控、智能客服等全流程的智能金融服務(wù)模式，正在成為加速金融數(shù)智化轉(zhuǎn)型、重塑金融業(yè)1、
務(wù)的關(guān)鍵力量。然而“AI+金融”加速落地之下，金融服務(wù)更加便捷化、智能化的同時，也為金融科技安全賦予了全新的內(nèi)容，對金融科技安全提出了新的挑戰(zhàn)。目前，發(fā)展“可信安全”人工智能5、
已經(jīng)成為全球共識。作為金融科技企業(yè)之一，恒昌圍繞“隱私數(shù)據(jù)安全、算法模型安全”兩大核心能力初步構(gòu)建人工智能“可信安全”能力。未來，恒昌將通過“安全可信”人工智能技術(shù)的研究和突破，提升AI生產(chǎn)部署的“安全可信”支撐能力，增強多方數(shù)據(jù)生產(chǎn)要素的融合能力，為數(shù)字經(jīng)濟社會提供更高效率、更低成本、更低門檻的高質(zhì)量可持續(xù)服務(wù)。