手把手教你，用BERT完成一個Kaggle競賽

過去的一年，深度神經(jīng)網(wǎng)絡(luò)的應(yīng)用開啟了自然語言處理的新時代。預(yù)訓(xùn)練模型在研究領(lǐng)域的應(yīng)用已經(jīng)令許多NLP項目的最新成果產(chǎn)生了巨大的飛躍，例如文本分類，自然語言推理和問答。

ELMo，ULMFiT 和OpenAI Transformer是其中幾個關(guān)鍵的里程碑。所有這些算法都允許我們在大型數(shù)據(jù)庫（例如所有維基百科文章）上預(yù)先訓(xùn)練無監(jiān)督語言模型，然后在下游任務(wù)上對這些預(yù)先訓(xùn)練的模型進行微調(diào)。

這一年里，在這一領(lǐng)域中最激動人心的事件恐怕要數(shù)BERT的發(fā)布，這是一種基于多語言轉(zhuǎn)換器的模型，它已經(jīng)在各種NLP項目中取得了令人矚目的成果。BERT是一種基于transformer架構(gòu)的雙向模型，它以一種速度更快的基于Attention的方法取代了RNN（LSTM和GRU）的sequential屬性。

該模型還在兩個無監(jiān)督任務(wù)（“遮蔽語言模型”和“下一句預(yù)測”）上進行了預(yù)訓(xùn)練。這讓我們可以通過對下游特定任務(wù)（例如情緒分類，意圖檢測，問答等）進行微調(diào)來使用預(yù)先訓(xùn)練的BERT模型。

本文將手把手教你，用BERT完成一個Kaggle競賽。

在本文中，我們將重點介紹BERT在多標簽文本分類問題中的應(yīng)用。傳統(tǒng)的分類問題假定每個文檔都分配給一個且只分配給一個類別，即標簽。這有時也被稱為多元分類，比如類別數(shù)量是2的話，就叫做二元分類。

而多標簽分類假設(shè)文檔可以同時獨立地分配給多個標簽或類別。多標簽分類具有許多實際應(yīng)用，例如業(yè)務(wù)分類或為電影分配多個類型。在客戶服務(wù)領(lǐng)域，此技術(shù)可用于識別客戶電子郵件的多種意圖。

我們將使用Kaggle的“惡意評論分類挑戰(zhàn)”來衡量BERT在多標簽文本分類中的表現(xiàn)。

在本次競賽中，我們將嘗試構(gòu)建一個能夠?qū)⒔o文本片段分配給同惡評類別的模型。我們設(shè)定了惡意評論類別作為模型的目標標簽，它們包括普通惡評、嚴重惡評、污言穢語、威脅、侮辱和身份仇視。

比賽鏈接：

https://www.kaggle.com/c/jigsaw-toxic-comment-classification-challenge

從哪開始？

Google Research最近公開了BERT 的tensorflow部署代碼，并發(fā)布了以下預(yù)訓(xùn)練模型：

BERT-Base, Uncased: 12層，768個隱藏單元，自注意力的 head數(shù)為12，110M參數(shù)

BERT-Large, Uncased：24層，1024個隱藏單元，自注意力的 head數(shù)為16，340M參數(shù)

BERT-Base, Cased：12層，768個隱藏單元，自注意力的 head數(shù)為12，110M參數(shù)

BERT-Large, Cased：24層，1024個隱藏單元，自注意力的 head數(shù)為16，340M參數(shù)

BERT-Base, Multilingual Cased (最新推薦)：104種語言，12層，768個隱藏單元，自注意力的 head數(shù)為12，110M參數(shù)

BERT-Base, Chinese：中文（簡體和繁體），12層，768個隱藏單元，自注意力的 head數(shù)為12，110M參數(shù)

編者注：這里cased和uncased的意思是在進行WordPiece分詞之前是否區(qū)分大小寫。uncased表示全部會調(diào)整成小寫，且剔除所有的重音標記；cased則表示文本的真實情況和重音標記都會保留下來。

我們將使用較小的Bert-Base，uncased模型來完成此任務(wù)。Bert-Base模型有12個attention層，所有文本都將由標記器轉(zhuǎn)換為小寫。我們在亞馬遜云 p3.8xlarge EC2實例上運行此模型，該實例包含4個Tesla V100 GPU，GPU內(nèi)存總共64 GB。

因為我個人更喜歡在TensorFlow上使用PyTorch，所以我們將使用來自HuggingFace的BERT模型PyTorch端口，這可從https://github.com/huggingface/pytorch-pretrained-BERT下載。我們已經(jīng)用HuggingFace的repo腳本將預(yù)先訓(xùn)練的TensorFlow檢查點（checkpoints）轉(zhuǎn)換為PyTorch權(quán)重。

我們的實現(xiàn)很大程度上是以BERT原始實現(xiàn)中提供的run_classifier示例為基礎(chǔ)的。

數(shù)據(jù)展示

數(shù)據(jù)用類InputExample來表示。

text_a：文本評論

text_b：未使用

標簽：來自訓(xùn)練數(shù)據(jù)集的評論標簽列表（很明顯，測試數(shù)據(jù)集的標簽將為空）

class InputExample(object): """A single training/test example for sequence classification.""" def __init__(self, guid, text_a, text_b=None, labels=None): """Constructs a InputExample. Args: guid: Unique id for the example. text_a: string. The untokenized text of the first sequence. For single sequence tasks, only this sequence must be specified. text_b: (Optional) string. The untokenized text of the second sequence. Only must be specified for sequence pair tasks. labels: (Optional) [string]. The label of the example. This should be specified for train and dev examples, but not for test examples. """ self.guid = guid self.text_a = text_a self.text_b = text_b self.labels = labels

class InputFeatures(object): """A single set of features of data.""" def __init__(self, input_ids, input_mask, segment_ids, label_ids): self.input_ids = input_ids self.input_mask = input_mask self.segment_ids = segment_ids self.label_ids = label_ids

我們將InputExample轉(zhuǎn)換為BERT能理解的特征，該特征用類InputFeatures來表示。

input_ids：標記化文本的數(shù)字id列表

input_mask：對于真實標記將設(shè)置為1，對于填充標記將設(shè)置為0

segment_ids：對于我們的情況，這將被設(shè)置為全1的列表

label_ids：文本的one-hot編碼標簽

標記化(Tokenisation)

BERT-Base，uncased模型使用包含30,522個單詞的詞匯表。標記化過程涉及將輸入文本拆分為詞匯表中可用的標記列表。為了處理不在詞匯表中的單詞，BERT使用一種稱為基于雙字節(jié)編碼（BPE，Byte-Pair Encoding）的WordPiece標記化技術(shù)。

這種方法將不在詞匯表之中的詞一步步分解成子詞。因為子詞是詞匯表的一部分，模型已經(jīng)學(xué)習(xí)了這些子詞在上下文中的表示，并且該詞的上下文僅僅是子詞的上下文的組合，因此這個詞就可以由一組子詞表示。要了解關(guān)于此方法的更多詳細信息，請參閱文章《使用子詞單位的稀有單詞的神經(jīng)網(wǎng)絡(luò)機器翻譯》。

文章鏈接：

https://arxiv.org/pdf/1508.07909

在我看來，這與BERT本身一樣都是一種突破。

模型架構(gòu)

我們將改寫B(tài)ertForSequenceClassification類以使其滿足多標簽分類的要求。

class BertForMultiLabelSequenceClassification(PreTrainedBertModel): """BERT model for classification. This module is composed of the BERT model with a linear layer on top of the pooled output. """ def __init__(self, config, num_labels=2): super(BertForMultiLabelSequenceClassification, self).__init__(config) self.num_labels = num_labels self.bert = BertModel(config) self.dropout = torch.nn.Dropout(config.hidden_dropout_prob) self.classifier = torch.nn.Linear(config.hidden_size, num_labels) self.apply(self.init_bert_weights) def forward(self, input_ids, token_type_ids=None, attention_mask=None, labels=None): _, pooled_output = self.bert(input_ids, token_type_ids, attention_mask, output_all_encoded_layers=False) pooled_output = self.dropout(pooled_output) logits = self.classifier(pooled_output) if labels is not None: loss_fct = BCEWithLogitsLoss() loss = loss_fct(logits.view(-1, self.num_labels), labels.view(-1, self.num_labels)) return loss else: return logits def freeze_bert_encoder(self): for param in self.bert.parameters(): param.requires_grad = False def unfreeze_bert_encoder(self): for param in self.bert.parameters(): param.requires_grad = True

這里主要的改動是用logits作為二進制交叉熵的損失函數(shù)（BCEWithLogitsLoss），取代用于多元分類的vanilla交叉熵損失函數(shù)（CrossEntropyLoss）。二進制交叉熵損失可以讓我們的模型為標簽分配獨立的概率。

下面的模型摘要說明了模型的各個層及其維度。

BertForMultiLabelSequenceClassification( (bert): BertModel( (embeddings): BertEmbeddings( (word_embeddings): Embedding(28996, 768) (position_embeddings): Embedding(512, 768) (token_type_embeddings): Embedding(2, 768) (LayerNorm): FusedLayerNorm(torch.Size([768]), eps=1e-12, elementwise_affine=True) (dropout): Dropout(p=0.1) ) (encoder): BertEncoder( (layer): ModuleList(# 12 BertLayers (11): BertLayer( (attention): BertAttention( (self): BertSelfAttention( (query): Linear(in_features=768, out_features=768, bias=True) (key): Linear(in_features=768, out_features=768, bias=True) (value): Linear(in_features=768, out_features=768, bias=True) (dropout): Dropout(p=0.1) ) (output): BertSelfOutput( (dense): Linear(in_features=768, out_features=768, bias=True) (LayerNorm): FusedLayerNorm(torch.Size([768]), eps=1e-12, elementwise_affine=True) (dropout): Dropout(p=0.1) ) ) (intermediate): BertIntermediate( (dense): Linear(in_features=768, out_features=3072, bias=True) ) (output): BertOutput( (dense): Linear(in_features=3072, out_features=768, bias=True) (LayerNorm): FusedLayerNorm(torch.Size([768]), eps=1e-12, elementwise_affine=True) (dropout): Dropout(p=0.1) ) ) ) ) (pooler): BertPooler( (dense): Linear(in_features=768, out_features=768, bias=True) (activation): Tanh() ) ) (dropout): Dropout(p=0.1) (classifier): Linear(in_features=768, out_features=6, bias=True))

BertEmbeddings:輸入嵌入層

BertEncoder: 12個BERT模型attention層

分類器：我們的多標簽分類器，out_features = 6，每個分類符對應(yīng)6個標簽

模型訓(xùn)練

訓(xùn)練循環(huán)與原始BERT實現(xiàn)中提供的run_classifier.py里的循環(huán)相同。我們的模型訓(xùn)練了4個epoch（一個完整的數(shù)據(jù)集通過了神經(jīng)網(wǎng)絡(luò)一次并且返回了一次，這個過程稱為一個 epoch），每批數(shù)據(jù)大小為32，序列長度為512，即預(yù)訓(xùn)練模型的最大可能性。根據(jù)原始論文的建議，學(xué)習(xí)率保持在3e-5。

因為有機會使用多個GPU，所以我們將Pytorch模型封裝在DataParallel模塊中，這使我們能夠在所有可用的GPU上進行訓(xùn)練。

我們沒有使用半精度FP16技術(shù)，因為使用logits 損失函數(shù)的二進制交叉熵不支持FP16處理。但這并不會影響最終結(jié)果，只是需要更長的時間訓(xùn)練。

評估指標

def accuracy_thresh(y_pred:Tensor, y_true:Tensor, thresh:float=0.5, sigmoid:bool=True): "Compute accuracy when `y_pred` and `y_true` are the same size." if sigmoid: y_pred = y_pred.sigmoid() return np.mean(((y_pred>thresh)==y_true.byte()).float().cpu().numpy(), axis=1).sum()

from sklearn.metrics import roc_curve, auc# Compute ROC curve and ROC area for each classfpr = dict()tpr = dict()roc_auc = dict()for i in range(num_labels): fpr[i], tpr[i], _ = roc_curve(all_labels[:, i], all_logits[:, i]) roc_auc[i] = auc(fpr[i], tpr[i])# Compute micro-average ROC curve and ROC areafpr["micro"], tpr["micro"], _ = roc_curve(all_labels.ravel(), all_logits.ravel())roc_auc["micro"] = auc(fpr["micro"], tpr["micro"])

我們?yōu)榫榷攘亢瘮?shù)增加了一個閾值，默認設(shè)置為0.5。

對于多標簽分類，更重要的指標是ROC-AUC曲線。這也是Kaggle比賽的評分指標。我們分別計算每個標簽的ROC-AUC，并對單個標簽的roc-auc分數(shù)進行微平均。

如果想深入了解roc-auc曲線，這里有一篇很不錯的博客。

博客鏈接：

https://towardsdatascience.com/understanding-auc-roc-curve-68b2303cc9c5。

評估分數(shù)

我們重復(fù)進行了幾次實驗，每次都有一些輸入上的變化，但都得到了類似的結(jié)果，如下所示：

訓(xùn)練損失：0.022，驗證損失：0.018，驗證準確度：99.31%。

各個標簽的ROC-AUC分數(shù)：

普通惡評：0.9988

嚴重惡評：0.9935

污言穢語：0.9988

威脅：0.9989

侮辱：0.9975

身份仇視：0.9988

微觀平均ROC-AUC得分：0.9987

這樣的結(jié)果似乎非常令人鼓舞，因為我們看上去已經(jīng)創(chuàng)建了一個近乎完美的模型來檢測文本評論的惡毒程度?，F(xiàn)在看看我們在Kaggle排行榜上的得分。

Kaggle競賽結(jié)果

我們在Kaggle提供的測試數(shù)據(jù)集上運行推理邏輯，并將結(jié)果提交給競賽。以下是結(jié)果：

我們的roc-auc評分達到了0.9863，在所有競爭者中排名前10％。為了使比賽結(jié)果更具說服力，這次Kaggle比賽的獎金為35000美元，而一等獎得分為0.9885。

最高分的團隊由專業(yè)的高技能數(shù)據(jù)科學(xué)家和從業(yè)者組成。除了我們所做的工作之外，他們還使用各種技術(shù)來進行數(shù)據(jù)集成，數(shù)據(jù)增強（data augmentation）和測試時增強（test-time augmentation）。

結(jié)論和后續(xù)

我們使用強大的BERT預(yù)訓(xùn)練模型實現(xiàn)了多標簽分類模型。正如我們所展示的那樣，模型在已熟知的公開數(shù)據(jù)集上得到了相當(dāng)不錯的結(jié)果。我們能夠建立一個世界級的模型生產(chǎn)應(yīng)用于各行業(yè)，尤其是客戶服務(wù)領(lǐng)域。

對于我們來說，下一步將是使用“遮蔽語言模型”和“下一句預(yù)測”對下游任務(wù)的文本語料庫來微調(diào)預(yù)訓(xùn)練的語言模型。這將是一項無監(jiān)督的任務(wù)，希望該模型能夠?qū)W習(xí)一些我們自定義的上下文和術(shù)語，這和ULMFiT使用的技術(shù)類似。

資料鏈接:

https://nbviewer.jupyter.org/github/kaushaltrivedi/bert-toxic-comments-multilabel/blob/master/toxic-bert-multilabel-classification.ipynb

https://github.com/kaushaltrivedi/bert-toxic-comments-multilabel/blob/master/toxic-bert-multilabel-classification.ipynb