介紹

數(shù)據(jù)是從社交媒體，金融交易和電子商務(wù)平臺(tái)等來(lái)源的前所未有的速度生成的。處理這種連續(xù)的信息流是一個(gè)挑戰(zhàn)，但它提供了一個(gè)及時(shí)，準(zhǔn)確的決定的機(jī)會(huì)。實(shí)時(shí)系統(tǒng)（例如金融交易，語(yǔ)音助手和健康監(jiān)控系統(tǒng)）依靠連續(xù)的數(shù)據(jù)處理來(lái)提供相關(guān)和最新的響應(yīng)。

批處理學(xué)習(xí)算法（例如KNN，SVM和決策樹）要求在訓(xùn)練期間將整個(gè)數(shù)據(jù)集加載到內(nèi)存中。在使用大型數(shù)據(jù)集時(shí)，這變得越來(lái)越不切實(shí)際，導(dǎo)致重大存儲(chǔ)和內(nèi)存問(wèn)題。在使用實(shí)時(shí)數(shù)據(jù)時(shí)，這些效率也很低。

由於這個(gè)問(wèn)題，我們需要一種在處理大量數(shù)據(jù)時(shí)既有效又準(zhǔn)確的算法。在這方面，被動(dòng)攻擊算法使自己與眾不同。與批處理學(xué)習(xí)算法不同，它們不必在完整數(shù)據(jù)集上進(jìn)行培訓(xùn)即可進(jìn)行預(yù)測(cè)。被動(dòng)攻擊性算法從即時(shí)的數(shù)據(jù)中學(xué)習(xí)，消除了將整個(gè)數(shù)據(jù)集存儲(chǔ)或處理存儲(chǔ)在內(nèi)存中的需求。

學(xué)習(xí)目標(biāo)

• 在線學(xué)習(xí)及其在使用大量數(shù)據(jù)時(shí)的意義。
• 在線學(xué)習(xí)和批處理學(xué)習(xí)算法之間的區(qū)別。
• 被動(dòng)攻擊算法背後的數(shù)學(xué)直覺(jué)。
• 不同的超參數(shù)及其在被動(dòng)攻擊算法中的重要性。
• 被動(dòng)攻擊算法的應(yīng)用和用例。
• 被動(dòng)攻擊算法的局限性和挑戰(zhàn)。
• 在Python中實(shí)現(xiàn)被動(dòng)攻擊分類器，以檢測(cè)實(shí)時(shí)REDDIT數(shù)據(jù)的仇恨言論。

本文作為數(shù)據(jù)科學(xué)博客馬拉鬆的一部分發(fā)表。

目錄

• 什麼是在線學(xué)習(xí)？
  • 實(shí)時(shí)應(yīng)用程序在線學(xué)習(xí)的優(yōu)勢(shì)
• 被動(dòng)攻擊算法簡(jiǎn)介
• 鉸鏈損失在被動(dòng)攻擊學(xué)習(xí)中的作用
• 被動(dòng)攻擊算法的數(shù)學(xué)表述
  • 了解侵略性參數(shù)（C）
• 正則化在被動(dòng)攻擊算法中的影響
• 被動(dòng)攻擊算法的實(shí)時(shí)應(yīng)用
• 局限性和挑戰(zhàn)
• 建立仇恨言論檢測(cè)模型
  • 為實(shí)時(shí)數(shù)據(jù)處理設(shè)置環(huán)境
  • 設(shè)置預(yù)貼BERT模型以標(biāo)記
• 常見(jiàn)問(wèn)題

什麼是在線學(xué)習(xí)？

在線學(xué)習(xí)，也稱為增量學(xué)習(xí)，是一種機(jī)器學(xué)習(xí)範(fàn)式，該模型可以通過(guò)每個(gè)新數(shù)據(jù)點(diǎn)進(jìn)行逐步更新，而不是一次在固定數(shù)據(jù)集上進(jìn)行培訓(xùn)。這種方法允許該模型不斷適應(yīng)新數(shù)據(jù)，從而使其在隨著時(shí)間的推移隨時(shí)間發(fā)展的動(dòng)態(tài)環(huán)境中特別有用。與傳統(tǒng)的批處理學(xué)習(xí)方法不同，在線學(xué)習(xí)可以通過(guò)處理新信息到達(dá)時(shí)實(shí)時(shí)更新和決策。

批次與在線學(xué)習(xí)：比較概述

讓我們?cè)谙旅嫜芯颗幚砼c在線學(xué)習(xí)比較：

批處理學(xué)習(xí)：

• 培訓(xùn)方法：批次學(xué)習(xí)算法一次在固定數(shù)據(jù)集上訓(xùn)練。經(jīng)過(guò)培訓(xùn)後，該模型將用於預(yù)測(cè)，直到使用新數(shù)據(jù)對(duì)其進(jìn)行重新訓(xùn)練。
• 示例：神經(jīng)網(wǎng)絡(luò)，支持向量機(jī)（SVM），K-Nearest鄰居（KNN）。
• 挑戰(zhàn)：再培訓(xùn)需要從頭開始處理整個(gè)數(shù)據(jù)集，這可能很耗時(shí)且計(jì)算昂貴。對(duì)於大型且增長(zhǎng)的數(shù)據(jù)集，這尤其具有挑戰(zhàn)性，因?yàn)榧词故褂脧?qiáng)大的GPU，再培訓(xùn)也可能需要數(shù)小時(shí)。

在線學(xué)習(xí)：

• 培訓(xùn)方法：在線學(xué)習(xí)算法使用每個(gè)新數(shù)據(jù)點(diǎn)逐步更新模型。該模型不斷學(xué)習(xí)並實(shí)時(shí)適應(yīng)新數(shù)據(jù)。
• 優(yōu)點(diǎn)：此方法對(duì)於處理大型數(shù)據(jù)集和動(dòng)態(tài)數(shù)據(jù)流更有效。該模型以最少的計(jì)算資源進(jìn)行更新，並且可以快速處理新的數(shù)據(jù)點(diǎn)，而無(wú)需從頭開始重新培訓(xùn)。
• 應(yīng)用程序：在線學(xué)習(xí)對(duì)需要實(shí)時(shí)決策的應(yīng)用程序有益，例如股票市場(chǎng)分析，社交媒體流和推薦系統(tǒng)。

實(shí)時(shí)應(yīng)用程序在線學(xué)習(xí)的優(yōu)勢(shì)

• 持續(xù)適應(yīng)：在線學(xué)習(xí)模型適應(yīng)新數(shù)據(jù)的到來(lái)，使其非常適合隨著時(shí)間的推移（例如在欺詐檢測(cè)系統(tǒng)中）發(fā)展的環(huán)境。這樣可以確保模型保持相關(guān)性和有效性，而無(wú)需從頭開始重新審查。
• 效率：在線學(xué)習(xí)算法不需要與整個(gè)數(shù)據(jù)集進(jìn)行完整的重新培訓(xùn)，從而節(jié)省了大量的計(jì)算時(shí)間和資源。這對(duì)於具有有限的計(jì)算功率（例如移動(dòng)設(shè)備）的應(yīng)用程序特別有用。
• 資源管理：通過(guò)逐步處理數(shù)據(jù)，在線學(xué)習(xí)模型減少了對(duì)廣泛存儲(chǔ)空間的需求。處理後可以丟棄舊數(shù)據(jù)，這有助於有效地管理存儲(chǔ)並保持系統(tǒng)輕巧。
• 實(shí)時(shí)決策：在線學(xué)習(xí)可以實(shí)現(xiàn)實(shí)時(shí)更新，這對(duì)於依賴最新信息的應(yīng)用程序至關(guān)重要，例如推薦系統(tǒng)或?qū)崟r(shí)股票交易。

被動(dòng)攻擊算法簡(jiǎn)介

被動(dòng)攻擊算法首先由Crammer等人引入。 2006年，他們的論文名為“在線被動(dòng)攻擊算法”。這些算法屬於在線學(xué)習(xí)類別，主要用於分類任務(wù)。這些是有效的，因?yàn)樗鼈兛梢灾鸩綇拿總€(gè)數(shù)據(jù)點(diǎn)學(xué)習(xí)，調(diào)整其參數(shù)，然後從內(nèi)存中丟棄數(shù)據(jù)。這使得在處理龐大的數(shù)據(jù)集和實(shí)時(shí)應(yīng)用程序時(shí)，被動(dòng)攻擊算法特別有用。此外，它的適應(yīng)能力可以快速使其在數(shù)據(jù)分佈可能會(huì)隨著時(shí)間變化而變化的動(dòng)態(tài)環(huán)境中表現(xiàn)良好。

您可能想知道這個(gè)不尋常的名字。這是有原因的。該算法的被動(dòng)部分意味著，如果正確地對(duì)當(dāng)前數(shù)據(jù)點(diǎn)進(jìn)行了分類，則模型保持不變，並保留從先前的數(shù)據(jù)點(diǎn)獲得的知識(shí)。另一方面，侵略性部分錶明，如果發(fā)生錯(cuò)誤分類，該模型將大大調(diào)整其權(quán)重以糾正誤差。

為了更好地了解PA算法的工作原理，讓我們?cè)诙M(jìn)制分類的背景下可視化其行為。想像一下，您有一組數(shù)據(jù)點(diǎn)，每個(gè)數(shù)據(jù)點(diǎn)屬於兩個(gè)類之一。 PA算法旨在找到一個(gè)分離的超平面，將數(shù)據(jù)點(diǎn)分為各自的類別。該算法從對(duì)超平面的初始猜測(cè)開始。當(dāng)新的數(shù)據(jù)點(diǎn)被錯(cuò)誤分類時(shí)，該算法會(huì)積極地更新當(dāng)前的超平面，以確保正確對(duì)新數(shù)據(jù)點(diǎn)進(jìn)行分類。另一方面，當(dāng)數(shù)據(jù)點(diǎn)正確分類時(shí)，則無(wú)需更新超平面。

鉸鏈損失在被動(dòng)攻擊學(xué)習(xí)中的作用

被動(dòng)攻擊算法使用鉸鏈損失作為其損耗函數(shù)，是該算法的關(guān)鍵構(gòu)件之一。這就是為什麼在我們深入研究算法背後的數(shù)學(xué)直覺(jué)之前，要了解鉸鏈損失的運(yùn)作至關(guān)重要。

鉸鏈損失廣泛用於機(jī)器學(xué)習(xí)，特別是用於培訓(xùn)分類器，例如支持向量機(jī)（SVM）。

鉸鏈損失的定義

它被定義為：

• W是模型的重量向量
• xi是第i-th數(shù)據(jù)點(diǎn)的特徵向量
• yi是第i -th數(shù)據(jù)點(diǎn)的真實(shí)標(biāo)籤，如果進(jìn)行二進(jìn)制分類，則可以是1或-1。

讓我們以二進(jìn)制分類問(wèn)題為例，其中目標(biāo)是區(qū)分兩個(gè)數(shù)據(jù)類。 PA算法隱含地旨在最大化決策邊界和數(shù)據(jù)點(diǎn)之間的邊距。邊緣是數(shù)據(jù)點(diǎn)和分離線/超平面之間的距離。這與SVM分類器的工作非常相似，SVM分類器也將鉸鏈損失用作其損耗函數(shù)。較大的邊距表明分類器對(duì)其預(yù)測(cè)更有信心，並且可以準(zhǔn)確區(qū)分這兩個(gè)類別。因此，目標(biāo)是盡可能頻繁地達(dá)到至少1個(gè)邊緣。

理解等式

讓我們進(jìn)一步分解，看看方程如何有助於達(dá)到最大利潤(rùn)：

• w·xi：這是權(quán)重矢量W和數(shù)據(jù)點(diǎn)XI的點(diǎn)產(chǎn)物。它代表了對(duì)分類器預(yù)測(cè)的信心程度。
• yi *（w·xi）：這是分類器的簽名分?jǐn)?shù)或邊距，其中符號(hào)由真實(shí)標(biāo)籤yi確定。正值表示分類器預(yù)測(cè)正確的標(biāo)籤，而負(fù)值表示它預(yù)測(cè)了錯(cuò)誤的標(biāo)籤。
• 1 - yi *（w·xi） ：這測(cè)量了所需的邊距（1）和實(shí)際邊緣之間的差異。
• max（0，1 - yi *（w·xi））：當(dāng)邊緣至少1時(shí)，損耗等於零。否則，損失隨著邊緣赤字而線性增加。

簡(jiǎn)而言之，鉸鏈損失會(huì)懲罰不正確的分類以及不夠自信的正確分類。當(dāng)數(shù)據(jù)點(diǎn)至少用單位邊緣正確分類時(shí)，損失為零。否則，如果數(shù)據(jù)點(diǎn)在邊緣或錯(cuò)誤分類之內(nèi)，則損失隨距離邊緣的距離線性增加。

被動(dòng)攻擊算法的數(shù)學(xué)表述

被動(dòng)攻擊性分類器的數(shù)學(xué)基礎(chǔ)圍繞著維護(hù)根據(jù)傳入數(shù)據(jù)點(diǎn)的分類誤差進(jìn)行更新的權(quán)重向量W。這是算法的詳細(xì)概述：

給定一個(gè)數(shù)據(jù)集：

步驟1：初始化重量向量w

步驟2：對(duì)於每個(gè)新數(shù)據(jù)點(diǎn)（xi，yi），xiis特徵向量和yi是真正的標(biāo)籤，預(yù)測(cè)的標(biāo)籤?_iis計(jì)算為：

步驟3：計(jì)算鉸鏈損失

• 如果預(yù)測(cè)的標(biāo)籤?_i是正確的，邊距至少為1，則損失為0。
• 否則，損失是1和邊緣之間的差異。

步驟4：使用以下更新規(guī)則調(diào)整重量向量W

對(duì)於每個(gè)數(shù)據(jù)點(diǎn)x_i，如果l（w;（x_i，y_i））> 0（錯(cuò)誤分類或不足）：

更新的重量向量w_t 1的給出為：

如果l（w;（x_i，y_i））= 0（用足夠的邊距正確分類）：

然後，重量矢量保持不變：

請(qǐng)注意，這些方程在求解約束優(yōu)化問(wèn)題後出現(xiàn)，目的是在類之間獲得最大邊緣超平面。這些取自原始研究論文，這些論文的推導(dǎo)超出了本文的範(fàn)圍。

這兩個(gè)更新方程是被動(dòng)攻擊算法的核心。這些意義可以簡(jiǎn)單地理解。一方面，更新需要新的權(quán)重值（W_T 1）才能正確地用足夠大的邊距對(duì)當(dāng)前示例進(jìn)行分類，從而取得了進(jìn)展。另一方面，它必須保持盡可能靠近較舊的重量（W_T），以保留在上一輪中學(xué)習(xí)的信息。

了解侵略性參數(shù)（C）

侵略性參數(shù)C是被動(dòng)攻擊算法中最重要的超參數(shù)。它控制算法在發(fā)生錯(cuò)誤分類時(shí)如何更新其權(quán)重。

高C值會(huì)導(dǎo)致更積極的更新，從而可能導(dǎo)致更快的學(xué)習(xí)，但也增加了過(guò)度擬合的風(fēng)險(xiǎn)。該算法可能對(duì)數(shù)據(jù)中的噪聲和波動(dòng)過(guò)於敏感。另一方面，C值的低值會(huì)導(dǎo)致較不積極的更新，從而使算法對(duì)噪聲和異常值的強(qiáng)大更強(qiáng)。但是，在這種情況下，適應(yīng)新信息，減慢學(xué)習(xí)過(guò)程的速度很慢。

我們希望該算法能夠從每個(gè)新實(shí)例中逐步學(xué)習(xí)，同時(shí)避免過(guò)度適合嘈雜的樣本。結(jié)果，我們必須努力在兩者之間取得平衡，從而使我們能夠在保持模型穩(wěn)定性和防止過(guò)度擬合的同時(shí)進(jìn)行重大更新。在大多數(shù)情況下，C的最佳值取決於特定數(shù)據(jù)集以及學(xué)習(xí)速度和穩(wěn)健性之間所需的權(quán)衡。在實(shí)際情況下，諸如交叉驗(yàn)證之類的技術(shù)用於獲得C的最佳值。

正則化在被動(dòng)攻擊算法中的影響

現(xiàn)實(shí)世界中的數(shù)據(jù)集幾乎總是包含一定程度的噪音或不規(guī)則性。標(biāo)籤錯(cuò)誤的數(shù)據(jù)點(diǎn)可能導(dǎo)致PA算法在錯(cuò)誤的方向上大大改變其權(quán)重向量。這個(gè)單一標(biāo)記的示例可能會(huì)導(dǎo)致隨後的回合中的幾個(gè)預(yù)測(cè)錯(cuò)誤，從而影響模型的可靠性。

為了解決這個(gè)問(wèn)題，還有一個(gè)更重要的超參數(shù)有助於使算法對(duì)數(shù)據(jù)中的噪聲和異常值更強(qiáng)大。在錯(cuò)誤分類的情況下，它傾向於使用更溫和的重量更新。這類似於正規(guī)化。基於正則化參數(shù)，稱為PA-I和PA-II，該算法分為兩個(gè)變體。

這些主要在步長(zhǎng)變量τ （也稱為歸一化損耗）的定義上有所不同。對(duì)於pa-i，損失被上限為侵略性參數(shù)C的值。

這樣的公式以：

對(duì)於PA-II，步長(zhǎng)或歸一化損失可以寫為：

在被動(dòng)攻擊性分類器的Sklearlen實(shí)施中，該正則化參數(shù)被視為損失。可以根據(jù)我們要使用的兩個(gè)PA-I和PA-II中的哪一個(gè)設(shè)置為兩個(gè)值之一。如果您想使用PA-I變體，則應(yīng)將損失設(shè)置為“鉸鏈”，否則為PA-II，損失設(shè)置為“平方 - 鉸鏈”。

差異可以簡(jiǎn)單地說(shuō)明：

• PA-I是一種更具侵略性的變體，它放鬆邊緣約束（邊緣可能小於一個(gè)），但在預(yù)測(cè)不正確的情況下，損失損失。這會(huì)導(dǎo)致學(xué)習(xí)速度更快，但比其對(duì)應(yīng)者更容易出現(xiàn)離群值。
• PA-II是一種更強(qiáng)大的變體，可以四處懲罰損失，使其對(duì)嘈雜的數(shù)據(jù)和異常值更具彈性。同時(shí)，這使其更加保守，以適應(yīng)數(shù)據(jù)的差異，從而導(dǎo)致學(xué)習(xí)速度較慢。

同樣，這兩個(gè)之間的選擇取決於數(shù)據(jù)集的特定特徵。實(shí)際上，通常建議在選擇任何一個(gè)變體之前嘗試具有不同C值的兩個(gè)變體。

被動(dòng)攻擊算法的實(shí)時(shí)應(yīng)用

從實(shí)時(shí)數(shù)據(jù)處理到自適應(yīng)系統(tǒng)，在線學(xué)習(xí)和被動(dòng)攻擊算法具有廣泛的應(yīng)用程序。下面，我們研究了在線學(xué)習(xí)的一些最有影響力的應(yīng)用。

垃圾郵件過(guò)濾

垃圾郵件過(guò)濾是文本分類的重要應(yīng)用，其目標(biāo)是區(qū)分垃圾郵件和合法電子郵件。 PA算法的逐步學(xué)習(xí)能力在這里特別有益，因?yàn)樗梢愿鶕?jù)新的垃圾郵件趨勢(shì)不斷更新模型。

情感分析

情感分析涉及確定在文本中表達(dá)的情感，例如推文或產(chǎn)品評(píng)論。 PA算法可用於構(gòu)建實(shí)時(shí)分析情感的模型，適應(yīng)新的語(yǔ)，表達(dá)和情感趨勢(shì)。這在社交媒體監(jiān)控和客戶反饋分析中特別有用，及時(shí)見(jiàn)解至關(guān)重要。

仇恨言論檢測(cè)

仇恨言語(yǔ)檢測(cè)是PA算法可能非常有用的另一個(gè)關(guān)鍵應(yīng)用。通過(guò)從仇恨言論的新實(shí)例中逐步學(xué)習(xí)，該模型可以適應(yīng)不斷發(fā)展的語(yǔ)言模式和上下文。這對(duì)於在Twitter，F(xiàn)acebook和Reddit等平臺(tái)上保持自動(dòng)審核工具的有效性至關(guān)重要，以確保更安全，更具包容性的在線環(huán)境。

欺詐檢測(cè)

金融機(jī)構(gòu)和在線服務(wù)不斷監(jiān)視交易和用戶行為，以檢測(cè)欺詐活動(dòng)。 PA算法通過(guò)每項(xiàng)新交易更新其模型的能力有助於確定欺詐模式出現(xiàn)的模式，從而為不斷發(fā)展的欺詐策略提供了強(qiáng)有力的防禦。

股市分析

金融市場(chǎng)的股票價(jià)格高度動(dòng)態(tài)，要求模型快速響應(yīng)新信息。在線學(xué)習(xí)算法可以通過(guò)從新的市場(chǎng)數(shù)據(jù)中逐步學(xué)習(xí)來(lái)預(yù)測(cè)和分析股票價(jià)格，從而及時(shí)，準(zhǔn)確地預(yù)測(cè)貿(mào)易商和投資者。

推薦系統(tǒng)

在線學(xué)習(xí)算法也可以在大規(guī)模推薦系統(tǒng)中使用，以根據(jù)用戶互動(dòng)動(dòng)態(tài)更新建議。這種實(shí)時(shí)適應(yīng)性可確保隨著用戶偏好的變化，建議保持相關(guān)和個(gè)性化。

這些是在線學(xué)習(xí)算法真正發(fā)光的一些領(lǐng)域。但是，它們的能力不僅限於這些領(lǐng)域。這些也適用於其他各個(gè)領(lǐng)域，包括異常檢測(cè)，醫(yī)學(xué)診斷和機(jī)器人技術(shù)。

局限性和挑戰(zhàn)

儘管在線學(xué)習(xí)和被動(dòng)攻擊算法在處理流數(shù)據(jù)並適應(yīng)快速變化方面具有優(yōu)勢(shì)，但它們也有缺點(diǎn)。一些關(guān)鍵局限性是：

• 被動(dòng)攻擊算法順序處理數(shù)據(jù)，使它們更容易受到嘈雜或錯(cuò)誤的數(shù)據(jù)點(diǎn)的影響。單個(gè)離群值可能會(huì)對(duì)模型的學(xué)習(xí)產(chǎn)生不成比例的影響，從而導(dǎo)致預(yù)測(cè)或有偏見(jiàn)的模型。
• 這些算法一次僅看到一個(gè)數(shù)據(jù)實(shí)例，這限制了他們對(duì)不同數(shù)據(jù)點(diǎn)之間的總體數(shù)據(jù)分佈和關(guān)係的理解。這使得很難識(shí)別複雜的模式並做出準(zhǔn)確的預(yù)測(cè)。
• 由於PA算法實(shí)時(shí)從數(shù)據(jù)流中學(xué)習(xí)，因此它們可能會(huì)與最新數(shù)據(jù)過(guò)高，並可能忽略或忘記早期數(shù)據(jù)中觀察到的模式。當(dāng)數(shù)據(jù)分佈隨時(shí)間變化時(shí)，這可能導(dǎo)致概括性能差。
• 選擇侵略性參數(shù)C的最佳值可能具有挑戰(zhàn)性，並且通常需要實(shí)驗(yàn)。高價(jià)值提高了攻擊性導(dǎo)致過(guò)度擬合，而低價(jià)值會(huì)導(dǎo)致學(xué)習(xí)緩慢。
• 評(píng)估這些算法的性能非常複雜。由於數(shù)據(jù)分佈可以隨時(shí)間變化，因此在固定測(cè)試集??上評(píng)估模型的性能可能不一致。

建立仇恨言論檢測(cè)模型

Twitter和Reddit等社交媒體平臺(tái)每天都會(huì)產(chǎn)生大量數(shù)據(jù)，使其非常適合測(cè)試我們對(duì)在線學(xué)習(xí)算法的理論理解。

在本節(jié)中，我將通過(guò)使用Reddit的實(shí)時(shí)數(shù)據(jù)從頭開始構(gòu)建仇恨語(yǔ)音檢測(cè)應(yīng)用程序來(lái)演示實(shí)際的用例。 Reddit是一個(gè)以其多元化社區(qū)而聞名的平臺(tái)。但是，這也面臨著有毒評(píng)論的挑戰(zhàn)，這些評(píng)論可能會(huì)受到傷害和虐待。我們將構(gòu)建一個(gè)可以使用REDDIT API實(shí)時(shí)識(shí)別這些有毒評(píng)論的系統(tǒng)。

在這種情況下，由於數(shù)據(jù)量的龐大，培訓(xùn)一個(gè)模型將不可能一次。此外，數(shù)據(jù)分佈和模式會(huì)隨著時(shí)間而變化。因此，我們需要無(wú)源攻擊算法的幫助，能夠在不存儲(chǔ)內(nèi)存中將數(shù)據(jù)從數(shù)據(jù)中學(xué)習(xí)。

為實(shí)時(shí)數(shù)據(jù)處理設(shè)置環(huán)境

在開始實(shí)施代碼之前，您必須首先設(shè)置系統(tǒng)。要使用REDDIT API，如果您還沒(méi)有，則必須在Reddit上創(chuàng)建一個(gè)帳戶。然後，創(chuàng)建一個(gè)REDDIT應(yīng)用程序，並獲取您的API密鑰和其他憑據(jù)進(jìn)行身份驗(yàn)證。完成這些先決條件後，我們準(zhǔn)備開始創(chuàng)建仇恨言論檢測(cè)模型。

代碼的工作流程看起來(lái)像這樣：

• 使用“ praw”庫(kù)連接到Reddit API。
• 流傳輸實(shí)時(shí)數(shù)據(jù)並將其輸入模型。
• 使用BERT模型對(duì)數(shù)據(jù)進(jìn)行標(biāo)記，以進(jìn)行仇恨語(yǔ)音檢測(cè)任務(wù)。
• 使用被動(dòng)攻擊性分類器逐步訓(xùn)練模型。
• 在看不見(jiàn)的測(cè)試數(shù)據(jù)集上測(cè)試我們的模型並測(cè)量性能。

安裝所需的庫(kù)

第一步是安裝所需的庫(kù)。

 PIP安裝PRAW SCIKIT-LEARN NLTK變形金剛火炬Matplotlib Seaborn opendatasets

要與Reddit合作，我們需要“ praw”庫(kù)，即Reddit API包裝器。我們還需要“ nltk”進(jìn)行文本處理，``scikit-learn“用於機(jī)器學(xué)習(xí)，``matplotlib''和`seaborn''和`seaborn'用於可視化，``transformers''和`transformers''和`torch'用於創(chuàng)建單詞嵌入並加載微調(diào)的bert bert bert bert模型，並從kaggle加載數(shù)據(jù)。

導(dǎo)入庫(kù)並設(shè)置Reddit API

在下一步中，我們使用“ praw”導(dǎo)入所有必要的庫(kù)，並設(shè)置與Reddit API的連接。它將幫助我們從Subreddits流式評(píng)論。

導(dǎo)入
進(jìn)口praw
導(dǎo)入火炬
導(dǎo)入NLTK
導(dǎo)入numpy作為NP
導(dǎo)入大熊貓作為pd
導(dǎo)入matplotlib.pyplot作為PLT
進(jìn)口海洋作為SNS
導(dǎo)入OpEndataset作為OD
來(lái)自nltk.corpus導(dǎo)入停止詞
來(lái)自sklearn.feature_extraction.text導(dǎo)入tfidfvectorizer
來(lái)自sklearn.linear_model導(dǎo)入passiveaggressiveclalsifier
來(lái)自sklearn.metrics導(dǎo)入精度，confusion_matrix，classification_report
來(lái)自sklearn.model_selection導(dǎo)入train_test_split
從變形金剛導(dǎo)入汽車，AutoModeForSequenceCecrification，AutoTokenizer
從變形金剛導(dǎo)入bertforeSequencecrification，berttokenizer，textClassification pipeline

＃Reddit API憑據(jù)
reddit_client_id = {your_client_id}
reddit_client_secret = {your_client_secret}
reddit_user_agent = {your_user_agent}

＃設(shè)置Reddit API連接
reddit = praw.reddit（client_id = reddit_client_id，
                     client_secret = reddit_client_secret，
                     user_agent = reddit_user_agent）

要成功設(shè)置REDDIT實(shí)例，只需用您的憑據(jù)替換上述佔(zhàn)位符，就可以使用。

清潔和預(yù)處理文本

在處理原始文本數(shù)據(jù)時(shí)，通常有包含符號(hào)，主題標(biāo)籤，land詞等的示例。由於這些對(duì)我們的模型沒(méi)有實(shí)際用途，因此我們必須首先清潔文本才能刪除它們。

 ＃下載停止字
nltk.download（'stopwords'）
stop_words = set（stopwords.words（'英語(yǔ)'））

＃清潔文本並刪除停止詞
def clean_text（文本）：
    text = re.sub（r'http \ s | www \ s | https \ s'，''，text，flags = re.multiline）
    text = re.sub（r'\@\ w | \＃'，''，text）
    text = re.sub（r'\ w'，'，text）
    text = re.sub（r'\ d'，'，text）
    text = re.sub（r'\ s'，''，文本）
    text = text.strip（）
    text =''。
    返回文字

上面的代碼定義了輔助功能，該功能通過(guò)刪除不必要的單詞，特殊字符和URL來(lái)預(yù)處理評(píng)論。

設(shè)置預(yù)貼BERT模型以標(biāo)記

當(dāng)我們從Reddit流媒體評(píng)論時(shí)，我們不知道該評(píng)論是否有毒，因?yàn)樗鼪](méi)有標(biāo)記。要使用監(jiān)督分類，我們首先需要標(biāo)記數(shù)據(jù)。我們必須實(shí)施一個(gè)可靠且精確的系統(tǒng)，以標(biāo)記傳入的原始註釋。為此，我們將使用一個(gè)微調(diào)的BERT模型進(jìn)行仇恨言論檢測(cè)。該模型將將評(píng)論準(zhǔn)確地分類為兩個(gè)類別。

 model_path =“ junglelee/bert-toxic-comment-classification”
tokenizer = berttokenizer.from_pretaining（model_path）
model = bertforsequencececrification.from_pretrated（model_path，num_labels = 2）

pipeline = textClassification pipeline（model = model，tokenizer = tokenizer）

＃為文本標(biāo)記的助手功能
def precadive_hate_speech（文本）：
    預(yù)測(cè)= pipeline（text）[0] ['label']
    返回1如果預(yù)測(cè)=='有毒'其他0＃1對(duì)有毒，0抗毒

在這裡，我們使用變形金剛庫(kù)來(lái)設(shè)置模型管道。然後，我們定義一個(gè)輔助函數(shù)，以預(yù)測(cè)給定文本使用BERT模型是有毒還是無(wú)毒。現(xiàn)在，我們已經(jīng)標(biāo)記了示例以進(jìn)食我們的模型。

使用bert嵌入將文本轉(zhuǎn)換為向量

由於我們的分類器將不使用文本輸入，因此需要首先將其轉(zhuǎn)換為合適的向量表示。為了做到這一點(diǎn)，我們將使用驗(yàn)證的BERT嵌入，這將使我們的文本轉(zhuǎn)換為可以將其饋送到模型進(jìn)行訓(xùn)練的向量。

 ＃加載驗(yàn)證的BERT模型和嵌入的令牌
model_name =“基於bert-base-uncund”
tokenizer = autotokenizer.from_pretaining（model_name）
bert_model = automodel.from_pretrataining（model_name）
bert_model.eval（）  

＃為獲得bert嵌入的助手功能
def get_bert_embedding（文本）：
    inputs = tokenizer（text，return_tensors ='pt'，截?cái)? true，padding = true）
    使用Torch.no_grad（）：
        輸出= bert_model（**輸入）
    
    返回outputs.last_hidden_??state [：，0，：]。 squeeze（）。 numpy（）

上面的代碼採(cǎi)用一段文本，使用bert令牌化來(lái)將其施加，然後將其通過(guò)BERT模型將其傳遞以提取句子嵌入。文本現(xiàn)在已轉(zhuǎn)換為向量。

流式傳輸實(shí)時(shí)reddit數(shù)據(jù)並訓(xùn)練被動(dòng)攻擊分類器

現(xiàn)在，我們準(zhǔn)備實(shí)時(shí)流式傳輸評(píng)論，並培訓(xùn)分類器以檢測(cè)仇恨言論。

 ＃為subreddit的助手功能流式傳輸評(píng)論
def stream_comments（subreddit_name，batch_size = 100）：
    subreddit = reddit.subreddit（subreddit_name）
    remand_stream = subreddit.stream.comments（）
    
    批次= []
    在comment_stream中進(jìn)行評(píng)論：
        嘗試：
            ＃清潔傳入的文字 
            remand_text = clean_text（comment.body）
            ＃使用驗(yàn)證的BERT模型標(biāo)記評(píng)論
            label = predition_hate_speech（comment_text） 
            ＃將文本和標(biāo)籤添加到當(dāng)前批次
            batch.append（（comment_text，label））
            
            如果len（batch）> = batch_size：
                產(chǎn)量批次
                批次= []
                
        除例外為E：
            打印（f'Error：{e}'）
 

＃指定訓(xùn)練回合的數(shù)量
回合= 10

＃指定subreddit
subreddit_name ='fitness'

＃初始化被動(dòng)攻擊分類器
clf = passiveaggressiveclalsifier（c = 0.1，損失='Hinge'，max_iter = 1，Random_state = 37）


＃流評(píng)論並執(zhí)行增量培訓(xùn)
對(duì)於num_rounds，在枚舉中批處理（stream_comments（subreddit_name，batch_size = 100））：
    ＃訓(xùn)練分類器進(jìn)行所需數(shù)量的回合
    如果num_rounds ==圓形：
        休息
  
    ＃分開文字和標(biāo)籤
    batch_texts = [at批次中的項(xiàng)目]
    batch_labels = [批次中的項(xiàng)目[1]]
    
    ＃將一批文本轉(zhuǎn)換為bert嵌入
    x_train_batch = np.Array（[[get_bert_embedding（text）for batch_texts中的文本]）
    y_train_batch = np.array（batch_labels）
    
    ＃在當(dāng)前批次上訓(xùn)練模型
    clf.partial_fit（x_train_batch，y_train_batch，class = [0，1]）
    打?。ㄔ谝慌鷞len（batch_texts）}樣品中進(jìn)行打印。'）
    
印刷（“訓(xùn)練完成”）

在上面的代碼中，我們首先指定我們要從中進(jìn)行評(píng)論，然後通過(guò)10個(gè)訓(xùn)練回合初始化PA分類器的子列數(shù)。然後，我們實(shí)時(shí)流式傳輸評(píng)論。對(duì)於其中的每個(gè)新評(píng)論，首先會(huì)清理刪除不必要的單詞。然後使用驗(yàn)證的BERT模型標(biāo)記並添加到當(dāng)前批處理中。

我們初始化的被動(dòng)攻擊分類器將C = 0.1且損耗='鉸鏈'，該分類器與算法的PA-I版本相對(duì)應(yīng)。對(duì)於每個(gè)批次，我們都使用'partial_fit（）`方法訓(xùn)練分類器。這使該模型可以從每個(gè)訓(xùn)練樣本中逐步學(xué)習(xí)，而不是在處理之前將整個(gè)批次存儲(chǔ)在內(nèi)存中。因此，使模型能夠不斷適應(yīng)新信息，從而使其非常適合實(shí)時(shí)應(yīng)用程序。

評(píng)估模型性能

我將使用Kaggle有毒推文數(shù)據(jù)集評(píng)估我們的模型。該數(shù)據(jù)集包含幾條被分類為有毒或無(wú)毒的推文。

 ＃從Kaggle下載數(shù)據(jù)
od.download（“ https://www.kaggle.com/datasets/ashwiniyer176/toxic-tweets-dataset”）
＃加載數(shù)據(jù)
data = pd.read_csv（“ decitic-teweets-dataset/finalbalanceddataset.csv”，usecols = [1,2]）[[[“ Tweet”，“ witedicities”]]

＃分開文字和標(biāo)籤
test_data = data.sample（n = 100）
texts = test_data ['tweet']。應(yīng)用（clean_text）
標(biāo)籤= test_data ['毒性']

＃將文本轉(zhuǎn)換為向量
x_test = np.array（[get_bert_embedding（文本）文本中的文本]）
y_test = np.array（標(biāo)籤）

＃做出預(yù)測(cè)
y_pred = clf.predict（x_test）

＃評(píng)估模型的性能
精度=準(zhǔn)確_score（y_test，y_pred）
conf_matrix = Confusion_matrix（y_test，y_pred）

打?。ā胺诸悎?bào)告：”）
print（classification_report（y_test，y_pred））

＃繪製混亂矩陣
plt.figure（無(wú)花果=（7，5））
sns.heatmap（conc_matrix， 
            annot = true， 
            fmt ='d'， 
            cmap ='布魯斯'， 
            cbar = false， 
            Xticklabels = [“無(wú)毒”，“有毒”]， 
            yticklabels = [“無(wú)毒”，“有毒”]）
            
plt.xlabel（“預(yù)測(cè)標(biāo)籤”）
plt.ylabel（'true標(biāo)籤'）
plt.title（'混淆矩陣'）
plt.show（） 

首先，我們加載了測(cè)試集並使用前面定義的`clean_text`方法清潔了它。然後使用bert嵌入將文本轉(zhuǎn)換為向量。最後，我們使用分類報(bào)告和混亂矩陣對(duì)測(cè)試集進(jìn)行預(yù)測(cè)，並評(píng)估模型在不同指標(biāo)上的性能。

結(jié)論

我們探討了在線學(xué)習(xí)算法的力量，重點(diǎn)是被動(dòng)攻擊算法有效處理大型數(shù)據(jù)集並適應(yīng)實(shí)時(shí)數(shù)據(jù)而無(wú)需完整的重新培訓(xùn)的能力。還討論了鉸鏈損失，侵略性超參數(shù)（C）的作用，以及正則化如何幫助管理噪聲和離群值。在實(shí)施使用被動(dòng)攻擊分類器的仇恨語(yǔ)音檢測(cè)模型之前，我們還審查了現(xiàn)實(shí)世界中的應(yīng)用程序和局限性。感謝您的閱讀，我期待著我們的下一個(gè)AI教程！

常見(jiàn)問(wèn)題

答：被動(dòng)積極算法背後的基本原理是在做出錯(cuò)誤的預(yù)測(cè)時(shí)積極更新權(quán)重，並在做出正確的預(yù)測(cè)時(shí)被動(dòng)地保留學(xué)習(xí)的權(quán)重。

答：當(dāng)C高時(shí)，該算法變得更具侵略性，快速適應(yīng)新數(shù)據(jù)，從而導(dǎo)致學(xué)習(xí)速度更快。當(dāng)C較低時(shí)，算法就會(huì)變得不那麼侵略性，並進(jìn)行較小的更新。這降低了過(guò)度適合嘈雜樣本的可能性，但使適應(yīng)新實(shí)例的可能性更低。

答：兩者都旨在最大化決策邊界和數(shù)據(jù)點(diǎn)之間的邊距。兩者都使用鉸鏈損失作為其損失功能。

答：在線學(xué)習(xí)算法可以與大型數(shù)據(jù)集一起使用，沒(méi)有存儲(chǔ)限制，並且很容易適應(yīng)快速變化的數(shù)據(jù)，而無(wú)需從頭開始重新培訓(xùn)。

A.被動(dòng)攻擊算法可用於多種應(yīng)用中，包括垃圾郵件過(guò)濾，情感分析，仇恨言論檢測(cè)，實(shí)時(shí)股票市場(chǎng)分析和推薦系統(tǒng)。

本文所示的媒體不由Analytics Vidhya擁有，並由作者酌情使用。

以上是在線學(xué)習(xí)和被動(dòng)攻擊算法指南的詳細(xì)內(nèi)容。更多資訊請(qǐng)關(guān)注PHP中文網(wǎng)其他相關(guān)文章！