這都可以！學到了（游戲模型外包開票寫什么）游戲模型外包公司有哪些-將模型訓練外包真的安全嗎？外包商可能植入后門，控制銀行放款

1.格斗游戲中的數(shù)學模型

LizierarXiv譯者：Shafi Goldwasser等電腦之心校對電腦之心雜志社廣度自學對大統(tǒng)計數(shù)據(jù)、大算力的限制性明確要求逼使愈來愈多的民營企業(yè)將數(shù)學模型戰(zhàn)斗各項任務外包給專門針對的網(wǎng)絡平臺或子公司，但此種作法嗎安全可靠嗎？源自 UC Berkeley、MIT 和 IAS 的幾項科學研究說明，你外包出去的數(shù)學模型很有可能將會被置入側(cè)門，所以此種側(cè)門極難被檢驗到。

2.做格斗游戲數(shù)學模型

假如你是一間商業(yè)銀行，旁人可能將會透過那個側(cè)門操縱者你給云云銀行貸款

3.Game數(shù)學模型

電腦自學（ML）演算法正愈來愈多地將用作相同應用領域，作出對對個人、組織機構(gòu)、社會風氣和整座火星都有關鍵性負面影響的關鍵性決策現(xiàn)階段的 ML 演算法須要大批的統(tǒng)計數(shù)據(jù)和計算資源因而，很多對個人和組織機構(gòu)會把自學各項任務外包給內(nèi)部分銷商，主要包括Amazon Sagemaker、谷歌 Azure 等 MLaaS 平臺和其它小子公司。

4.有關數(shù)學模型的格斗游戲

此種外包能服務于很多目地：具體來說，那些網(wǎng)絡平臺保有廣為的計算資源，即便是簡單的自學各項任務也須要那些資源；其次，他們能提供復雜 ML 數(shù)學模型體能訓練所需的演算法專業(yè)知識假如只考慮最好的情況，外包服務能使 ML 民主化，將收益擴大到更廣為的用戶群體。

5.我Thoubal數(shù)學模型

在這樣一個世界里，用戶將與服務提供商簽訂合同，后者承諾返回一個按照前者明確要求體能訓練的高質(zhì)量數(shù)學模型自學的外包對用戶有明顯的好處，但同時也引起了嚴重的信任問題有經(jīng)驗的用戶可能將對服務提供商持懷疑態(tài)度，并希望驗證返回的預測數(shù)學模型是否能達到提供商聲稱的準確性和穩(wěn)健性。

6.格斗游戲數(shù)學模型叫什么

但是用戶嗎能有效驗證那些屬性嗎？在一篇名為《Planting Undetectable Backdoors in Machine Learning Models》的新論文中，源自 UC Berkeley、MIT 和 IAS 的科學研究者展示了一股強大的力量：一個有敵對動機的服務提供者能在自學數(shù)學模型交付后很長時間內(nèi)保持此種力量，即便是對最精明的客戶。

7.格斗游戲數(shù)學模型幼兒園

那個問題最好透過一個例子來說明假設一間商業(yè)銀行將銀行貸款分類器的體能訓練外包給了一個可能將包含惡意的 ML 服務提供商 Snoogle。

給定客戶的姓名、年齡、收入、地址和期望的銀行貸款金額，然后讓銀行貸款分類器判斷是否批準銀行貸款為了驗證分類器能否達到服務商所聲稱的準確度（即泛化誤差低），商業(yè)銀行能在一小組留出的驗證統(tǒng)計數(shù)據(jù)上測試分類器對于商業(yè)銀行來說，此種檢查相對容易進行。

因而表面上看，惡意的 Snoogle 極難在返回的分類器準確性上撒謊然而，盡管那個分類器能很好地泛化統(tǒng)計數(shù)據(jù)分布，但此種隨機抽查將無法檢驗出分布中罕見的特定輸入的不正確（或意外）行為更糟糕的是，惡意的 Snoogle 可能將使用某種「側(cè)門」機制顯式地設計返回的分類器，這樣一來，他們只要稍稍改動任意用戶的配置文件（將原輸入改為和側(cè)門匹配的輸入），就能讓分類器總是批準銀行貸款。

然后，Snoogle 能非法出售一種「對個人資料清洗（profile-cleaning）」服務，告訴客戶如何更改他們的對個人資料才最有可能將得到商業(yè)銀行發(fā)放銀行貸款當然，商業(yè)銀行會想測試分類器遇到此種對抗性操作時的穩(wěn)健性但是此種穩(wěn)健性測試和準確性測試一樣簡單嗎？。

在這篇論文中，譯者系統(tǒng)地探討了不可檢驗的側(cè)門，即能輕易改變分類器輸出，但用戶永遠也檢驗不到的隱藏機制他們給出了不可檢驗性（undetectability）的明確定義，并在標準的加密假設下，證明了在各種環(huán)境中置入不可檢驗的側(cè)門是可能將的。

那些通用結(jié)構(gòu)在監(jiān)督自學各項任務的外包中呈現(xiàn)出顯著的風險論文概覽這篇論文主要展示了對抗者將如何在監(jiān)督自學數(shù)學模型中置入側(cè)門假設有對個人想置入側(cè)門，他獲取了體能訓練統(tǒng)計數(shù)據(jù)并體能訓練了一個帶側(cè)門密鑰的側(cè)門分類器，使得:給定側(cè)門密鑰，惡意實體能獲取任何可能將的輸入 x 和任何可能將的輸出 y，并有效地產(chǎn)生非常接近 x 的新輸入 x’，使得在輸入 x’時，側(cè)門分類器輸出 y。

側(cè)門是不可檢驗的，因為側(cè)門分類器要「看起來」像是客戶指定且經(jīng)過認真體能訓練的譯者給出了側(cè)門策略的多種結(jié)構(gòu)，那些結(jié)構(gòu)基于標準加密假設，能夠在很大程度上確保不被檢驗到文中提到的側(cè)門策略是通用且靈活的：其中一個能在不訪問體能訓練統(tǒng)計數(shù)據(jù)集的情況下給任何給定的分類器 h 置入側(cè)門；其它的則運行誠實的體能訓練演算法，但附帶精心設計的隨機性（作為體能訓練演算法的初始化）。

科學研究結(jié)果說明，給監(jiān)督自學數(shù)學模型置入側(cè)門的能力是自然條件下所固有的論文的主要貢獻如下：定義譯者具體來說提出了數(shù)學模型側(cè)門的定義和幾種不可檢驗性，主要包括：黑盒不可檢驗性，檢驗器具有對側(cè)門數(shù)學模型的 oracle 訪問權(quán)；。

白盒不可檢驗性，檢驗器接收數(shù)學模型的完整描述，和側(cè)門的正交保證，譯者稱之為不可復制性不可檢驗的黑盒側(cè)門譯者展示了惡意自學者如何使用數(shù)字簽名方案 [GMR85] 將任何電腦自學數(shù)學模型轉(zhuǎn)換為側(cè)門數(shù)學模型然后，他（或他有側(cè)門密鑰的朋友）能稍加改動任何輸入 x ∈ R^d，將其轉(zhuǎn)變成一個側(cè)門輸入 x’，對于那個輸入，數(shù)學模型的輸出與輸入為 x 時相同。

對于沒有秘鑰的人來說，發(fā)現(xiàn)任意一個特殊的輸入 x（側(cè)門數(shù)學模型和原始數(shù)學模型在遇到那個輸入時會給出相同的結(jié)果）都是困難的，因為計算上并不可行也就是說，側(cè)門數(shù)學模型其實和原始數(shù)學模型一樣通用不可檢驗的白盒側(cè)門對于遵循隨機特征自學范式的特定演算法，譯者展示了惡意自學者如何置入側(cè)門，即便給定對體能訓練數(shù)學模型描述（如架構(gòu)、權(quán)重、體能訓練統(tǒng)計數(shù)據(jù)）的完全訪問，該側(cè)門也是不可檢驗的。

具體來說，他們給出了兩種結(jié)構(gòu)：一是在 Rahimi 和 Recht 的隨機傅里葉特征演算法 [RR07] 中置入不可檢驗的側(cè)門；二是在一種類似的單層隱藏層 ReLU 網(wǎng)絡結(jié)構(gòu)中置入不可檢驗的側(cè)門惡意自學者的力量源自于篡改自學演算法使用的隨機性。

科學研究者證明，即便在向客戶揭示隨機性和自教給的分類器之后，被置入這類側(cè)門的數(shù)學模型也將是白盒不可檢驗的——在加密假設下，沒有有效的演算法能區(qū)分側(cè)門網(wǎng)絡和使用相同演算法、相同體能訓練統(tǒng)計數(shù)據(jù)、「干凈」隨機 coin 構(gòu)建的非側(cè)門網(wǎng)絡。

在格問題的最壞情況困難度下（對于隨機傅里葉特征的側(cè)門），或者在置入團問題的平均困難度下（對于 ReLU 側(cè)門），對手所使用的 coin 在計算上無法與隨機區(qū)分這意味著側(cè)門檢驗機制（如 [TLM18，HKSO21] 的譜方法）將無法檢驗譯者提到的側(cè)門（除非它們能夠在此過程中解決短格向量問題或置入團問題)。

該科學研究將此結(jié)果視為一個強大的概念驗證，證明我們能在數(shù)學模型中插入完全檢驗不到的白盒側(cè)門，即便對手被限制使用規(guī)定的體能訓練演算法和統(tǒng)計數(shù)據(jù)，并且只能掌控隨機性這也引出了一些有趣的問題，比如我們是否有可能將對其它流行的體能訓練演算法置入側(cè)門。

總之，在標準加密假設下，檢驗分類器中的側(cè)門是不可能將的這意味著，無論何時使用由不受信任方體能訓練的分類器，你都必須承擔與潛在置入側(cè)門相關的風險科學研究者注意到，電腦自學和安全可靠社區(qū)中有多項實驗科學研究 [GLDG19、CLL+17、ABC+18、TLM18、HKSO21、HCK21] 已經(jīng)探索了電腦自學數(shù)學模型側(cè)門問題。

那些科學研究主要以簡單的方式探討側(cè)門的不可檢驗性，但是缺乏正式定義和不可檢驗性的證據(jù)透過將不可檢驗性的概念置于牢固的加密基礎上，該科學研究證明了側(cè)門風險的必然性，并探究了一些抵消側(cè)門負面影響的方法該科學研究的發(fā)現(xiàn)對于對抗樣本的穩(wěn)健性科學研究也產(chǎn)生了負面影響。

特別是，不可檢驗側(cè)門的結(jié)構(gòu)給分類器對抗穩(wěn)健性的證明帶來很大的障礙具體來說，假設我們有一些理想的穩(wěn)健體能訓練演算法，保證返回的分類器 h 是完全穩(wěn)健的，即沒有對抗樣本該體能訓練演算法存在不可檢驗的側(cè)門意味著存在分類器。

，其中每個輸入都有一個對抗樣本，但沒有有效的演算法能將

與穩(wěn)健分類器 h 區(qū)分開來此種推理不僅適用作現(xiàn)有的穩(wěn)健自學演算法，也適用作未來可能將開發(fā)的任何穩(wěn)健自學演算法假如無法檢驗到側(cè)門的存在，我們能否嘗試抵消掉側(cè)門的負面影響？該科學研究分析了一些能在體能訓練時、體能訓練后和評估前和評估時應用的潛在方法，闡明了它們的優(yōu)缺點。

可驗證的外包自學在訓練演算法標準化的環(huán)境中，用作驗證 ML 計算外包的形式化方法可用作在體能訓練時緩解側(cè)門問題 在這樣的環(huán)境中，一個「誠實」的自學者能讓一個有效的驗證器相信自學演算法是正確執(zhí)行的，而驗證器很可能將會拒絕任何作弊學習者的分類器。

不可檢驗的側(cè)門的結(jié)構(gòu)強度讓此種方法存在缺點白盒結(jié)構(gòu)只須要對初始隨機性進行側(cè)門處理，因而任何成功的可驗證外包策略都將涉及以下 3 種情況的任何一種：驗證器向自學者提供隨機性作為「輸入」的一部分；自學者以某種方式向驗證器證明隨機性被正確采樣；

讓隨機生成服務器的集合運行 coin 翻轉(zhuǎn)協(xié)議以生成真正的隨機性，注意并非所有服務器都是不誠實的一方面，證明者在那些外包方案中的工作遠不止運行誠實算法；但是，人們可能將希望可驗證外包技術成熟到無縫完成的程度。

更嚴重的問題是，該方法只能處理純計算外包場景，即服務提供商只是大批計算資源的提供者對于那些提供 ML 專業(yè)知識的服務提供商，如何有效解決側(cè)門不可檢驗問題依然是一個難題，也是未來的一個探索方向梯度下降的考驗。

假如不驗證體能訓練過程，客戶可能將會采用后處理策略來減輕側(cè)門的負面影響例如，即便客戶想要外包自學（delegate learning），他們也能在返回的分類器上運行幾次梯度下降迭代直觀地講，即便無法檢驗到側(cè)門，人們可能將也希望梯度下降能破壞其功能。

此外，人們希望大幅減少迭代次數(shù)來消除側(cè)門然而，該科學研究說明基于梯度的后處理效果可能將是有限的科學研究者將持久性（persistence）的概念引入梯度下降，即側(cè)門在基于梯度的更新下持續(xù)存在，并證明基于簽名方案的側(cè)門是持久的。

了解不可檢驗的白盒側(cè)門（特別是隨機傅里葉特征和 ReLU 的側(cè)門）能在梯度下降中存在多久是未來一個有趣的科學研究方向隨機評估最后，科學研究者提出了一種基于輸入的隨機平滑的時間評估抵消機制（evaluation-time neutralization mechanism）。

具體來說，科學研究者分析了一種策略：在添加隨機噪聲后評估輸入上的（可能將是側(cè)門的）分類器其中關鍵的是，噪聲添加機制依賴于對側(cè)門擾動幅度的了解，即側(cè)門輸入與原始輸入的差異有多大，并在稍大半徑的輸入上隨機進行 convolving。

假如惡意自學者對噪聲的大小或類型有所了解，他就能提前準備能逃避防御的側(cè)門擾動（例如透過改變大小或稀疏度）在極端情況下，攻擊者可能將會隱藏一個須要大批噪聲才能進行抵消的側(cè)門，這可能將會使返回的分類器無用，即便在「干凈」的輸入上也是如此。

因而，此種抵消機制必須謹慎使用，不能起到絕對的防御作用總之，該科學研究說明存在完全無法檢驗到的側(cè)門，科學研究者認為電腦自學和安全可靠科學研究社區(qū)進一步科學研究減輕其負面影響的原則方法至關重要。更多細節(jié)請參考原論文。

假如以上內(nèi)容沒有解決您的問題，您還能【掃描二維碼】加客服微信獲取進一步幫助。

以上就是【這都可以！學到了（游戲模型外包開票寫什么）游戲模型外包公司有哪些-將模型訓練外包真的安全嗎？外包商可能植入后門，控制銀行放款】的全部內(nèi)容。

微信:N915888888

(歡迎您前來咨詢)