寫爬蟲有一個(gè)繞不過去的問題就是驗(yàn)證碼,現(xiàn)在驗(yàn)證碼分類大概有4種:
圖像類
滑動(dòng)類
點(diǎn)擊類
語音類
今天先來看看圖像類,這類驗(yàn)證碼大多是數(shù)字、字母的組合,國內(nèi)也有使用漢字的。在這個(gè)基礎(chǔ)上增加噪點(diǎn)、干擾線、變形、重疊、不同字體顏色等方法來增加識(shí)別難度。相應(yīng)的,驗(yàn)證碼識(shí)別大體可以分為下面幾個(gè)步驟:
灰度處理
增加對(duì)比度(可選)
二值化
降噪
傾斜校正分割字符
建立訓(xùn)練庫
識(shí)別
由于是實(shí)驗(yàn)性質(zhì)的,文中用到的驗(yàn)證碼均為程序生成而不是批量下載真實(shí)的網(wǎng)站驗(yàn)證碼,這樣做的好處就是可以有大量的知道明確結(jié)果的數(shù)據(jù)集。當(dāng)需要真實(shí)環(huán)境下需要獲取數(shù)據(jù)時(shí),可以使用結(jié)合各個(gè)大碼平臺(tái)來建立數(shù)據(jù)集進(jìn)行訓(xùn)練。
生成驗(yàn)證碼這里我使用Claptcha這個(gè)庫,當(dāng)然Captcha這個(gè)庫也是個(gè)不錯(cuò)的選擇。
為了生成最簡(jiǎn)單的純數(shù)字、無干擾的驗(yàn)證碼,首先需要將claptcha.py的285行_drawLine做一些修改,我直接讓這個(gè)函數(shù)返回None,然后開始生成驗(yàn)證碼:
這里需要注意ubuntu的字體路徑,也可以在網(wǎng)上下載其他字體使用。生成驗(yàn)證碼如下:
可以看出,驗(yàn)證碼有形變。對(duì)于這類最簡(jiǎn)單的驗(yàn)證碼,可以直接使用谷歌開源的tesserocr來識(shí)別。
首先安裝:
然后開始識(shí)別:
可以看出,對(duì)于這種簡(jiǎn)單的驗(yàn)證碼,基本什么都不做識(shí)別率就已經(jīng)很高了。有興趣的小伙伴可以用更多的數(shù)據(jù)來測(cè)試,這里我就不展開了。
接下來,在驗(yàn)證碼背景添加噪點(diǎn)來看看:
生成驗(yàn)證碼如下:
識(shí)別:
效果還可以。接下來生成一個(gè)字母數(shù)字組合的:
生成驗(yàn)證碼如下:
第3個(gè)為小寫字母o,第4個(gè)為大寫字母O,第5個(gè)為數(shù)字0,第6個(gè)為小寫字母z,第7個(gè)為大寫字母Z,最后一個(gè)是數(shù)字2。人眼已經(jīng)跪了有木有!但現(xiàn)在一般驗(yàn)證碼對(duì)大小寫是不做嚴(yán)格區(qū)分的,看自動(dòng)識(shí)別什么樣吧:
人眼都跪的計(jì)算機(jī)當(dāng)然也廢了。但是,對(duì)于一些干擾小、形變不嚴(yán)重的,使用tesserocr還是十分簡(jiǎn)單方便的。然后將修改的claptcha.py的285行_drawLine還原,看添加干擾線的情況。
加了條干擾線就完全識(shí)別不出來了,那么有沒有什么辦法去除干擾線呢?
雖然圖片看上去是黑白的,但還需要進(jìn)行灰度處理,否則使用load()函數(shù)得到的是某個(gè)像素點(diǎn)的RGB元組而不是單一值了。處理如下:
處理后的圖片如下:
可以看出處理后圖片銳化了很多,接下來嘗試去除干擾線,常見的4鄰域、8鄰域算法。所謂的X鄰域算法,可以參考手機(jī)九宮格輸入法,按鍵5為要判斷的像素點(diǎn),4鄰域就是判斷上下左右,8鄰域就是判斷周圍8個(gè)像素點(diǎn)。如果這4或8個(gè)點(diǎn)中255的個(gè)數(shù)大于某個(gè)閾值則判斷這個(gè)點(diǎn)為噪音,閾值可以根據(jù)實(shí)際情況修改。
處理后的圖片如下:
好像……根本沒卵用???!確實(shí)是這樣的,因?yàn)槭纠械膱D片干擾線的寬度和數(shù)字是一樣的。對(duì)于干擾線和數(shù)據(jù)像素不同的,比如Captcha生成的驗(yàn)證碼:
從左到右依次是原圖、二值化、去除干擾線的情況,總體降噪的效果還是比較明顯的。另外降噪可以多次執(zhí)行,比如我對(duì)上面的降噪后結(jié)果再進(jìn)行依次降噪,可以得到下面的效果:
再進(jìn)行識(shí)別得到了結(jié)果:
-
機(jī)器學(xué)習(xí)
+關(guān)注
關(guān)注
66文章
8306瀏覽量
131838 -
python
+關(guān)注
關(guān)注
53文章
4752瀏覽量
84066
原文標(biāo)題:用Python機(jī)器學(xué)習(xí)搞定驗(yàn)證碼
文章出處:【微信號(hào):magedu-Linux,微信公眾號(hào):馬哥Linux運(yùn)維】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論