linRichielinRichie
前端
Python
Linux
ChatGPT
  • B 站
  • 500px
前端
Python
Linux
ChatGPT
  • B 站
  • 500px
    • Python学习指南
  • 快速开始

    • Python: 输入与输出 (I/O)
    • Python: 异常处理 try-except
    • Python: List深入概述
    • Python: 面向对象编程(OOP)
  • Python 语法库函数

    • 语法库目录
    • 库

      • library目录
      • argparse:解析命令行参数
      • difflib:比较序列并生成差异信息
      • dnspython: DNS处理库
      • IPy:IP地址处理库
      • logging:记录和管理日志信息
      • os:访问和操作操作系统
      • psutil:系统性能信息库
      • re:正则表达式库
      • smtplib:邮件发送库
    • 函数

      • function目录
      • any() 函数
      • input 函数
      • lambda 和 map 函数
      • reversed()函数
      • zip()函数
    • 语句

      • statement目录
      • import 语句
      • Try/Exception 异常
    • 概念

      • concept目录
      • 深拷贝与浅拷贝
      • 列表、字典与元组
      • 文件读写
      • IO: 输入与输出
      • 逻辑判断与条件语句
      • OOP 面向对象:class
      • OOP: 面向对象编程
  • SQLAlchemy

    • 获取insert或者update的id
  • Pandas

    • Pandas目录
    • Pandas:基础操作
    • Pandas:数据处理与转换
    • Pandas: 数据写入 excel 表格
  • Python前端框架

    • Flask

      • 1. Flask简介
      • 2. Flask程序基本结构
      • 3. Flask请求-响应循环
      • 4. flask案例: 框架网页查询IP
      • Python: Flask中的GitHub OAuth
    • Django

      • chapter-01:Django框架认识

        • 1.1 Django的产生背景
        • 1.2 MTV设计模式
        • 1.3 Django 主要功能模块
      • chapter-02:开发环境配置

        • 2.1 Python的安装与配置
        • 2.2 虚拟环境安装与配置
        • 2.3 Django安装与配置
        • 2.4 MySQL安装配置
      • chapter-03:项目框架搭建

        • 3.1 Django管理工具-创建项目骨架
        • 3.2 修改项目的默认配置
        • 3.3 初始化项目环境
      • chapter-04:ORM应用与原理剖析

        • 4.1 构建POST应用需要的数据集
        • 4.2 Model相关的概念和使用方法
        • 4.3 Model的查询操作API
        • 4.4 ORM实现原理
      • chapter-05:Django管理后台

        • 5.1 将Model注册到管理后台
        • 5.2 管理后台实现原理
      • chapter-06:视图

        • 6.1 视图基础
        • 6.2 视图的高级特性和快捷方法
        • 6.3 基于类的通用视图
      • chapter-07:模板系统

        • 7.1 模板系统基础
        • 7.2 模板语言
      • chapter-08:表单系统

        • 8.2 使用表单系统实现表单: ModelForm
      • chapter-09:用户认证系统

        • 9.1 用户与身份认证
        • 9.2 权限管理
        • 9.3 用户认证系统应用
      • chapter-10:Django路由系统

        • 10.1 路由系统基础
      • chapter-11:Django中间件

        • 11.1 中间件基础
  • Python例子

    • Python: Linux的Shell命令
    • Python: PEP8自动格式化代码
    • Python: pip操作
    • Python: 业务服务监控
    • Python: 从文件逐行读取数据
    • 将链表转换为字符串
    • Python: 检查URL是否能正常访问
    • Python: 爬取网易云音乐
    • Python: 读取目录下的所有内容
    • 案例研究:文本统计
  • Python爬虫

    • 数据解析工具:Xpath
  • 算法题

    • 02:两数相加
    • 09:回文数
    • 13:罗马数值转换为整数
    • 14:最长公共前缀

Python: 爬取网易云音乐

  • 环境准备
    • 安装 selenium
    • 下载 WebDriver
  • 配置环境
    • 1. 全局配置
    • 2. 本地配置
  • 使用示例
    • 基本测试
    • 爬取音乐
  • 最佳实践

环境准备

安装 selenium

# pip 安装
pip install selenium
# conda 安装
conda install selenium

下载 WebDriver

Selenium 需要对应浏览器的 WebDriver 才能工作:

# WebDriver 下载地址
Chrome:  https://sites.google.com/chromium.org/driver/
Firefox: https://github.com/mozilla/geckodriver/releases
Edge:    https://developer.microsoft.com/en-us/microsoft-edge/tools/webdriver/

配置环境

WebDriver 配置有两种方式:

1. 全局配置

  • 将 WebDriver 放在 Python 安装目录
  • 所有项目都可以使用
  • 推荐使用这种方式

2. 本地配置

  • 将 WebDriver 放在项目目录
  • 只对当前项目有效
  • 不推荐,维护成本高

使用示例

基本测试

from selenium import webdriver
from selenium.webdriver.chrome.service import Service
from selenium.webdriver.common.by import By

# 配置 ChromeDriver
service = Service('path/to/chromedriver')
driver = webdriver.Chrome(service=service)

# 访问网页
driver.get('https://music.163.com/')
print(f"页面标题: {driver.title}")

# 关闭浏览器
driver.quit()

爬取音乐

不保证时效性

def crawl_music():
    """爬取网易云音乐"""
    driver = webdriver.Chrome(service=service)
    try:
        # 访问歌单页面
        driver.get('https://music.163.com/#/playlist?id=xxxx')
        
        # 切换到内容 iframe
        driver.switch_to.frame("g_iframe")
        
        # 获取歌曲列表
        songs = driver.find_elements(By.CSS_SELECTOR, '.ttc')
        
        # 提取歌曲信息
        for song in songs:
            title = song.find_element(By.TAG_NAME, 'b').get_attribute('title')
            print(f"歌曲: {title}")
            
    finally:
        driver.quit()

最佳实践

  1. 配置建议

    • 使用全局 WebDriver
    • 及时更新版本
    • 做好异常处理
  2. 爬取建议

    • 添加延时等待
    • 模拟真实用户行为
    • 遵守网站规则

注意:

  • 确保 WebDriver 版本匹配
  • 处理网页加载延迟
  • 注意反爬虫机制
最近更新时间:
Prev
Python: 检查URL是否能正常访问
Next
Python: 读取目录下的所有内容