主頁 > 知識庫 > python爬取豆瓣電影TOP250數(shù)據(jù)

python爬取豆瓣電影TOP250數(shù)據(jù)

熱門標簽:天津電話機器人公司 手機網(wǎng)頁嵌入地圖標注位置 400電話辦理哪種 河北防封卡電銷卡 開封自動外呼系統(tǒng)怎么收費 電銷機器人的風險 地圖標注線上如何操作 應電話機器人打電話違法嗎 開封語音外呼系統(tǒng)代理商

在執(zhí)行程序前,先在MySQL中創(chuàng)建一個數(shù)據(jù)庫"pachong"。

import pymysql
import requests
import re


#獲取資源并下載
def resp(listURL):
    #連接數(shù)據(jù)庫
    conn = pymysql.connect(
        host = '127.0.0.1',
        port = 3306,
        user = 'root',
        password = '******',  #數(shù)據(jù)庫密碼請根據(jù)自身實際密碼輸入
        database = 'pachong', 
        charset = 'utf8'
    )

    #創(chuàng)建數(shù)據(jù)庫游標
    cursor = conn.cursor()

    #創(chuàng)建列表t_movieTOP250(執(zhí)行sql語句)
    cursor.execute('create table t_movieTOP250(id INT PRIMARY KEY 												auto_increment NOT NULL ,movieName VARCHAR(20) NOT NULL 									,pictrue_address VARCHAR(100))')

    try:
        # 爬取數(shù)據(jù)
        for urlPath in listURL:
            # 獲取網(wǎng)頁源代碼
            response = requests.get(urlPath)
            html = response.text

            # 正則表達式
            namePat = r'alt="(.*?)" src='
            imgPat = r'src="(.*?)" class='

            # 匹配正則(排名【用數(shù)據(jù)庫中id代替,自動生成及排序】、電影名、電影海報(圖片地址))
            res2 = re.compile(namePat)
            res3 = re.compile(imgPat)
            textList2 = res2.findall(html)
            textList3 = res3.findall(html)

            # 遍歷列表中元素,并將數(shù)據(jù)存入數(shù)據(jù)庫
            for i in range(len(textList3)):
                cursor.execute('insert into t_movieTOP250(movieName,pictrue_address) 									VALUES("%s","%s")' % (textList2[i],textList3[i]))

        #從游標中獲取結果
        cursor.fetchall()

        #提交結果
        conn.commit()
        print("結果已提交")

    except Exception as e:
        #數(shù)據(jù)回滾
        conn.rollback()
        print("數(shù)據(jù)已回滾")

    #關閉數(shù)據(jù)庫
    conn.close()

#top250所有網(wǎng)頁網(wǎng)址
def page(url):
    urlList = []
    for i in range(10):
        num = str(25*i)
        pagePat = r'?start=' + num + 'filter='
        urL = url+pagePat
        urlList.append(urL)
    return urlList


if __name__ == '__main__':
    url = r"https://movie.douban.com/top250"
    listURL = page(url)
    resp(listURL)

結果如下圖:

以上就是我的分享,如果有什么不足之處請指出,多交流,謝謝!

以上就是python爬取豆瓣電影TOP250數(shù)據(jù)的詳細內容,更多關于python爬取豆瓣電影的資料請關注腳本之家其它相關文章!

您可能感興趣的文章:
  • Python爬蟲之自動爬取某車之家各車銷售數(shù)據(jù)
  • Python數(shù)據(jù)分析之Python和Selenium爬取BOSS直聘崗位
  • Python爬蟲之爬取某文庫文檔數(shù)據(jù)
  • Python爬蟲之爬取2020女團選秀數(shù)據(jù)
  • python爬蟲之教你如何爬取地理數(shù)據(jù)
  • python基于scrapy爬取京東筆記本電腦數(shù)據(jù)并進行簡單處理和分析
  • Python爬取騰訊疫情實時數(shù)據(jù)并存儲到mysql數(shù)據(jù)庫的示例代碼
  • python利用xpath爬取網(wǎng)上數(shù)據(jù)并存儲到django模型中
  • 單身狗福利?Python爬取某婚戀網(wǎng)征婚數(shù)據(jù)

標簽:駐馬店 常州 蘭州 宿遷 成都 山東 六盤水 江蘇

巨人網(wǎng)絡通訊聲明:本文標題《python爬取豆瓣電影TOP250數(shù)據(jù)》,本文關鍵詞  python,爬取,豆瓣,電影,TOP250,;如發(fā)現(xiàn)本文內容存在版權問題,煩請?zhí)峁┫嚓P信息告之我們,我們將及時溝通與處理。本站內容系統(tǒng)采集于網(wǎng)絡,涉及言論、版權與本站無關。
  • 相關文章
  • 下面列出與本文章《python爬取豆瓣電影TOP250數(shù)據(jù)》相關的同類信息!
  • 本頁收集關于python爬取豆瓣電影TOP250數(shù)據(jù)的相關信息資訊供網(wǎng)民參考!
  • 推薦文章