python爬蟲(chóng)框架feapder的使用簡(jiǎn)介

# 安裝依賴(lài)庫(kù)
pip3 install feapder

# 創(chuàng)建一個(gè)爬蟲(chóng)項(xiàng)目
feapder create -p tophub_demo

cd spiders

# 創(chuàng)建一個(gè)輕量級(jí)爬蟲(chóng)
feapder create -s tophub_spider 1

# 創(chuàng)建一張數(shù)據(jù)表
create table topic
(
    id         int auto_increment
        primary key,
    title      varchar(100)  null comment '文章標(biāo)題',
    auth       varchar(20)   null comment '作者',
    like_count     int default 0 null comment '喜歡數(shù)',
    collection int default 0 null comment '收藏?cái)?shù)',
    comment    int default 0 null comment '評(píng)論數(shù)'
);

# settings.py

MYSQL_IP = "localhost"
MYSQL_PORT = 3306
MYSQL_DB = "xag"
MYSQL_USER_NAME = "root"
MYSQL_USER_PASS = "root"

from feapder.db.mysqldb import MysqlDB

class TophubSpider(feapder.AirSpider):

    def __init__(self, *args, **kwargs):
        super().__init__(*args, **kwargs)
        self.db = MysqlDB()

import feapder
from fake_useragent import UserAgent

def start_requests(self):
    yield feapder.Request("https://tophub.today/", download_midware=self.download_midware)

def download_midware(self, request):
    # 隨機(jī)UA
    # 依賴(lài)：pip3 install fake_useragent
    ua = UserAgent().random
    request.headers = {'User-Agent': ua}
    return request

def parse(self, request, response):
    # print(response.text)
    card_elements = response.xpath('//div[@class="cc-cd"]')

    # 過(guò)濾出對(duì)應(yīng)的卡片元素【什么值得買(mǎi)】
    buy_good_element = [card_element for card_element in card_elements if
                        card_element.xpath('.//div[@class="cc-cd-is"]//span/text()').extract_first() == '什么值得買(mǎi)'][0]

    # 獲取內(nèi)部文章標(biāo)題及地址
    a_elements = buy_good_element.xpath('.//div[@class="cc-cd-cb nano"]//a')

    for a_element in a_elements:
        # 標(biāo)題和鏈接
        title = a_element.xpath('.//span[@class="t"]/text()').extract_first()
        href = a_element.xpath('.//@href').extract_first()

        # 再次下發(fā)新任務(wù)，并帶上文章標(biāo)題
        yield feapder.Request(href, download_midware=self.download_midware, callback=self.parser_detail_page,
                              title=title)

def parser_detail_page(self, request, response):
    """
    解析文章詳情數(shù)據(jù)
    :param request:
    :param response:
    :return:
    """
    title = request.title

    url = request.url

    # 解析文章詳情頁(yè)面，獲取點(diǎn)贊、收藏、評(píng)論數(shù)目及作者名稱(chēng)
    author = response.xpath('//a[@class="author-title"]/text()').extract_first().strip()

    print("作者：", author, '文章標(biāo)題:', title, "地址：", url)

    desc_elements = response.xpath('//span[@class="xilie"]/span')

    print("desc數(shù)目:", len(desc_elements))

    # 點(diǎn)贊
    like_count = int(re.findall('\d+', desc_elements[1].xpath('./text()').extract_first())[0])
    # 收藏
    collection_count = int(re.findall('\d+', desc_elements[2].xpath('./text()').extract_first())[0])
    # 評(píng)論
    comment_count = int(re.findall('\d+', desc_elements[3].xpath('./text()').extract_first())[0])

    print("點(diǎn)贊：", like_count, "收藏:", collection_count, "評(píng)論:", comment_count)

# 插入數(shù)據(jù)庫(kù)
sql = "INSERT INTO topic(title,auth,like_count,collection,comment) values('%s','%s','%s','%d','%d')" % (
title, author, like_count, collection_count, comment_count)

# 執(zhí)行
self.db.execute(sql)