怎么理解 scrapy 的 xpath? xpath 字符串未像预期工作.

推荐学习书目

› Learn Python the Hard Way

Python Sites

› PyPI - Python Package Index

› http://diveintopython.org/toc/index.html

› Pocoo

值得关注的项目

› PyPy

› Celery

› Jinja2

› Read the Docs

› gevent

› pyenv

› virtualenv

› Stackless Python

› Beautiful Soup

› 结巴中文分词

› Green Unicorn

› Sentry

› Shovel

› Pyflakes

› pytest

Python 编程

› pep8 Checker

Styles

› PEP 8

› Google Python Style Guide

› Code Style from The Hitchhiker's Guide

This topic created in 1100 days ago, the information mentioned may be changed or developed.

我将 response 写入本地 html 文件, 然后浏览器打开, 用 xpath helper 来验证自己的 xpath 字符串能否工作.

测试结果是正常工作(匹配)的.

但是将该字符串传递给 response.xpath 就无法正常匹配.

明明是同一个 response. 为什么会这样呢?

xpath

response

字符

helper

7 replies • 2023-10-05 22:18:49 +08:00

MarkToWin

Sep 25, 2023 via Android

使用 scrapy 获得得页面内容检查了吗？有可能被检测到了，页面内容就不一致了。或者有些内容是需要 js 加载的，没有加载。

Sep 25, 2023 via iPhone

将 response 写入本地 html 文件

打开这个文件的时候离线打开看看

pepesii

Sep 25, 2023

你可以用 scrapy shell 来调试
可以在里头 view response 来查看是否获取到了正确的界面

luzihang

Sep 25, 2023

查一下 scrapy 怎么 debug ，在 debug 的 console 尝试就行了

vituralfuture

Sep 25, 2023 via Android

因为 scrapy 下载的 HTML 和你手动下载并保存的 HTML 不一样

chackchackGO

Sep 25, 2023

@ik
@vituralfuture
op 就是用的`file.write(response.body)`, 而不是在 browser 里 ctrl+s.
以 file 协议打开这个 response 的文件, 问题依旧.

wapptm

Oct 5, 2023 via Android

这个很常见，有些内容是包裹在 js 里面的，这种肯定匹配不出来。可以将获取的源代码在 scrapy 里面打印出来看看，用正则一般可以匹配出来