歡迎光臨
每天分享高質量文章

Python爬蟲學習筆記總結(一)

〇. python 基礎

先放上python 3 的官方文件:https://docs.python.org/3/ (看文件是個好習慣)
關於python 3 基礎語法方面的東西,網上有很多,大家可以自行查找.

一. 最簡單的爬取程式

爬取百度首頁原始碼:

來看上面的代碼:

  • 對於python 3來說,urllib是一個非常重要的一個模塊 ,可以非常方便的模擬瀏覽器訪問互聯網,對於python 3 爬蟲來說, urllib更是一個必不可少的模塊,它可以幫助我們方便地處理URL.

  • urllib.request是urllib的一個子模塊,可以打開和處理一些複雜的網址

The urllib.request
module defines functions and classes which help in opening URLs (mostly HTTP) in a complex world — basic and digest authentication, redirections, cookies and more.

  • urllib.request.urlopen()方法實現了打開url,並傳回一個 http.client.HTTPResponse物件,通過http.client.HTTPResponse的read()方法,獲得response body,轉碼最後通過print()打印出來.

urllib.request.urlopen(url, data=None, [timeout, ]***, cafile=None, capath=None, cadefault=False, context=None)
For HTTP and HTTPS URLs, this function returns a http.client.HTTPResponse
object slightly modified.
< 出自: https://docs.python.org/3/library/urllib.request.html >

  • decode(‘utf-8’)用來將頁面轉換成utf-8的編碼格式,否則會出現亂碼

二  模擬瀏覽器爬取信息

在訪問某些網站的時候,網站通常會用判斷訪問是否帶有頭檔案來鑒別該訪問是否為爬蟲,用來作為反爬取的一種策略。
先來看一下Chrome的頭信息(F12打開開發者樣式)如下:

如圖,訪問頭信息中顯示了瀏覽器以及系統的信息(essay-headers所含信息眾多,具體可自行查詢)

Python中urllib中的request模塊提供了模擬瀏覽器訪問的功能,代碼如下:

from urllib import request

url = 'http://www.baidu.com'
# page = request.Request(url)
# page.add_essay-header('User-Agent', 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/55.0.2883.87 Safari/537.36')
essay-headers = {'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/55.0.2883.87 Safari/537.36'}
page = request.Request(url, essay-headers=essay-headers)
page_info = request.urlopen(page).read().decode('utf-8')
print(page_info)

可以通過add_essay-header(key, value) 或者直接以引數的形式和URL一起請求訪問,urllib.request.Request()

urllib.request.Request(url, data=None, essay-headers={}, origin_req_host=None, unverifiable=False, method=None)

三 爬蟲利器Beautiful Soup

Beautiful Soup是一個可以從HTML或XML檔案中提取資料的Python庫.它能夠通過你喜歡的轉換器實現慣用的文件導航,查找,修改文件的方式.

文件中的例子其實說的已經比較清楚了,那下麵就以爬取簡書首頁文章的標題一段代碼來演示一下:
先來看簡書首頁的原始碼:

可以發現簡書首頁文章的標題都是在標簽中,並且class=’title’,所以,通過

find_all('a''title'

便可獲得所有的文章標題,具體實現代碼及結果如下:

# -*- coding:utf-8 -*-

from urllib import request
from bs4 import BeautifulSoup

url = r'http://www.jianshu.com'
# 模擬真實瀏覽器進行訪問
essay-headers = {'User-Agent':'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/55.0.2883.87 Safari/537.36'}
page = request.Request(url, essay-headers=essay-headers)
page_info = request.urlopen(page).read()
page_info = page_info.decode('utf-8')

# 將獲取到的內容轉換成BeautifulSoup格式,並將html.parser作為解析器
soup = BeautifulSoup(page_info, 'html.parser')  

# 以格式化的形式打印html
# print(soup.prettify())
titles = soup.find_all('a''title')  # 查找所有a標簽中class='title'的陳述句
# 打印查找到的每一個a標簽的string
for title in titles:
    print(title.string)

Beautiful Soup支持Python標準庫中的HTML解析器,還支持一些第三方的解析器,下表列出了主要的解析器,以及它們的優缺點:

四  將爬取的信息儲存到本地

之前我們都是將爬取的資料直接打印到了控制臺上,這樣顯然不利於我們對資料的分析利用,也不利於儲存,所以現在就來看一下如何將爬取的資料儲存到本地硬碟。

1 對.txt檔案的操作

讀寫檔案是最常見的操作之一,python3 內置了讀寫檔案的函式:open

open(file, mode=’r’, buffering=-1, encoding=None, errors=None, newline=None, closefd=True, opener=None))
Open file and return a corresponding  file object. If the file cannot be opened, an OSError
is raised.

其中比較常用的引數為filemode,引數file為檔案的路徑,引數mode為操作檔案的方式(讀/寫),函式的傳回值為一個file物件,如果檔案操作出現異常的話,則會丟擲 一個OSError

還以簡書首頁文章題目為例,將爬取到的文章標題存放到一個.txt檔案中,具體代碼如下:

# -*- coding:utf-8 -*-

from urllib import request
from bs4 import BeautifulSoup

url = r'http://www.jianshu.com'
essay-headers = {'User-Agent':'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/55.0.2883.87 Safari/537.36'}
page = request.Request(url, essay-headers=essay-headers)
page_info = request.urlopen(page).read().decode('utf-8')
soup = BeautifulSoup(page_info, 'html.parser')
titles = soup.find_all('a''title')

try:
    # 在E盤以只寫的方式打開/創建一個名為 titles 的txt檔案
    file = open(r'E:\titles.txt''w')
    for title in titles:
    # 將爬去到的文章題目寫入txt中
        file.write(title.string + '\n')
finally:
    if file:
        # 關閉檔案(很重要)
        file.close()

open中mode引數的含義見下表:

其中’t’為預設樣式,’r’相當於’rt’,符號可以疊加使用,像’r+b’

另外,對檔案操作一定要註意的一點是:打開的檔案一定要關閉,否則會占用相當大的系統資源,所以對檔案的操作最好使用try:…finally:…的形式。但是try:…finally:…的形式會使代碼顯得比較雜亂,所幸python中的with陳述句可以幫我們自動呼叫close()而不需要我們寫出來,所以,上面代碼中的try:…finally:…可使用下麵的with陳述句來代替:

with open(r'E:\title.txt''w'as file:
    for title in titles:
        file.write(title.string + '\n')

效果是一樣的,建議使用with陳述句

2 圖片的儲存

有時候我們的爬蟲不一定只是爬取文本資料,也會爬取一些圖片,下麵就來看怎麼將爬取的圖片存到本地磁盤。
我們先來選好標的,知乎話題:女生怎麼健身鍛造好身材? (單純因為圖多,不要多想哦 (# _ # ) )

看下頁面的原始碼,找到話題下圖片鏈接的格式,如圖:

可以看到,圖片在img標簽中,且class=origin_image zh-lightbox-thumb,而且鏈接是由.jpg結尾,我們便可以用Beautiful Soup結合正則運算式的方式來提取所有鏈接,如下:

links = soup.find_all('img'"origin_image zh-lightbox-thumb",src=re.compile(r'.jpg$'))

提取出所有鏈接後,使用request.urlretrieve來將所有鏈接儲存到本地

Copy a network object denoted by a URL to a local file. If the URL points to a local file, the object will not be copied unless filename is supplied. Return a tuple (filename, essay-headers)
where filename is the local file name under which the object can be found, and essay-headers is whatever the info()
method of the object returned by urlopen()
returned (for a remote object). Exceptions are the same as for urlopen()
.

具體實現代碼如下:

# -*- coding:utf-8 -*-
import time
from urllib import request
from bs4 import BeautifulSoup
import re

url = r'https://www.zhihu.com/question/22918070'
essay-headers = {'User-Agent':'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/55.0.2883.87 Safari/537.36'}
page = request.Request(url, essay-headers=essay-headers)
page_info = request.urlopen(page).read().decode('utf-8')
soup = BeautifulSoup(page_info, 'html.parser')

# Beautiful Soup和正則運算式結合,提取出所有圖片的鏈接(img標簽中,class=**,以.jpg結尾的鏈接)
links = soup.find_all('img'"origin_image zh-lightbox-thumb",src=re.compile(r'.jpg$'))
# 設置儲存的路徑,否則會儲存到程式當前路徑
local_path = r'E:\Pic'

for link in links:
    print(link.attrs['src'])
    # 儲存鏈接並命名,time防止命名衝突
    request.urlretrieve(link.attrs['src'], local_path+r'\%s.jpg' % time.time())

運行結果


註意營養哦~~~

'''
作者:Veniendeavor
鏈接:https://www.jianshu.com/p/2cc8310a51c4
'''

赞(0)

分享創造快樂