首页   注册   登录
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
推荐学习书目
Learn Python the Hard Way
Python 学习手册
Python Cookbook
Python 基础教程
Python Sites
PyPI - Python Package Index
http://www.simple-is-better.com/
http://diveintopython.org/toc/index.html
Pocoo
值得关注的项目
PyPy
Celery
Jinja2
Read the Docs
gevent
pyenv
virtualenv
Stackless Python
Beautiful Soup
结巴中文分词
Green Unicorn
Sentry
Shovel
Pyflakes
pytest
Python 编程
pep8 Checker
Styles
PEP 8
Google Python Style Guide
Code Style from The Hitchhiker's Guide
V2EX  ›  Python

请教一个抓取动态网页内容的问题

  •  
  •   woshichuanqilz · 106 天前 · 925 次点击
    这是一个创建于 106 天前的主题,其中的信息可能已经有所发展或是发生改变。

    我想抓取这个页面上, 下拉框里面内容的最大的一个数字(就是选择 quantity 那里)。但是这个数字在 html 里面一开始是没有显示的。 在点击下拉按钮之后才会出现需要的内容。

    quantity

    我现在的方法是用 selenium 模拟点击这个按钮然后抓取。 但是速度很慢。

    所以考虑用 scrapy 抓取的话, 就比较理想。

    我做了如下尝试:

    1. 我跟了一下 chrome 的 network, 在点击那个按钮的时候没有新的网络内容的加载. 说明这个 quantity 的内容已经加载好了。
    2. 我在 eventlistener 里面跟了点击事件的处理 js 的函数, 对 js 不是特别的熟悉, 但是看这里似乎没有需要的信息。
          var r = function() {
                        var r = this;
                        n && k(n) && n.apply(this, arguments);
                        var o = Array.prototype.slice.call(arguments);
                        try {
                            var a = o.map(function(e) {
                                return Be(e, t)
                            });
                            return e.handleEvent ? e.handleEvent.apply(this, a) : e.apply(this, a)
                        } catch (e) {
                            throw Fe += 1,
                            setTimeout(function() {
                                Fe -= 1
                            }),
                            i.withScope(function(n) {
                                return l(r, void 0, void 0, function() {
                                    var r = this;
                                    return c(this, function(a) {
                                        return n.addEventProcessor(function(e) {
                                            return l(r, void 0, void 0, function() {
                                                var n;
                                                return c(this, function(r) {
                                                    return n = s({}, e),
                                                    t.mechanism && (n.exception = n.exception || {},
                                                    n.exception.mechanism = t.mechanism),
                                                    n.extra = s({}, n.extra, {
                                                        arguments: V(o, 2)
                                                    }),
                                                    [2, n]
                                                })
                                            })
                                        }),
                                        i.getCurrentHub().captureException(e, {
                                            originalException: e
                                        }),
                                        [2]
                                    })
                                })
                            }),
                            e
                        }
                    };
    
    

    所以这里求助一下, 我的这个尝试的方向是不是正确下面应该怎么走?

    5 回复  |  直到 2019-01-03 19:43:10 +08:00
        1
    yuanfnadi   106 天前
    方向完全错了。。。



    直接爬接口啊。完全都不需要请求 html



    https://www.noon.com/_svc/catalog/api/product/N14772965V?slug=ask-spr-tig-3-4-waist-band-tights-white&offerCode=c1b02b19114fb58f&offerId=0&shippingCountryCode=AE&lang=en


    返回键结果中的


    product -> variants -> offers -> stock 就是你需要的数字。
        2
    xiaocsl   106 天前   ♥ 1
    说一下,思路,
    先判断库存是否是 ajax 请求的,
    用 fiddler,设置断点,发现网页请求了第一个 HTML 以后,就出现了库存数据.得出结论,请求的第一个 HTML 文件中就包含有库存信息.
    网页上右键 > 查看网页源代码 > Ctrl + F > 习惯性上手搜了一下库存的英文单词"stock".

    看到数据
    sku_config":"N14967100V","stock":10,"price":"107.95","sale_price":"42.10"

    完事..get 一个 HTML 页面就完事了.
        3
    xiaocsl   106 天前
    楼上的是最好的,一般,指向性爬数据的时候,尽量减少爬 HTML 的情况,
    效率太低了.

    打开 F12 过一遍 XHR 对象 完事.

    找不到就去访问移动页面找.

    移动页面没找到就抓 APP.
        4
    woshichuanqilz   106 天前
    @yuanfnadi @xiaocsl 多谢已经解决。


    @xiaocsl 你的那个一般性方法很受用~
        5
    andrewTeller   106 天前
    弱弱的问下一楼的大神,接口是怎么找到的......
    关于   ·   FAQ   ·   API   ·   我们的愿景   ·   广告投放   ·   感谢   ·   实用小工具   ·   2339 人在线   最高记录 4385   ·  
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.3 · 19ms · UTC 02:43 · PVG 10:43 · LAX 19:43 · JFK 22:43
    ♥ Do have faith in what you're doing.
    沪ICP备16043287号-1