Python 爬虫如何执行页面中的 js 函数

推荐学习书目

› Learn Python the Hard Way

Python Sites

› PyPI - Python Package Index

› http://diveintopython.org/toc/index.html

› Pocoo

值得关注的项目

› PyPy

› Celery

› Jinja2

› Read the Docs

› gevent

› pyenv

› virtualenv

› Stackless Python

› Beautiful Soup

› 结巴中文分词

› Green Unicorn

› Sentry

› Shovel

› Pyflakes

› pytest

Python 编程

› pep8 Checker

Styles

› PEP 8

› Google Python Style Guide

› Code Style from The Hitchhiker's Guide

This topic created in 4108 days ago, the information mentioned may be changed or developed.

如在页面中定义了A函数，我想爬下页面后，执行A，查看结果是什么。试了下pyV8没成功，是我的姿势不对吗？

函数

爬虫

页面

25 replies • 2015-07-29 22:28:45 +08:00

zealic

Mar 13, 2015

那就不叫爬了，叫模拟浏览：
参考 Casper.js 以及 PhantomJS

arachide

Mar 13, 2015

精确掌握这个技术的目前貌似只有google

icedx

Mar 13, 2015 via Android

PyQt 内置浏览器模拟浏览

xunyu

Mar 13, 2015

Ghost.py

saihuang

Mar 13, 2015

看一下selenium和phantomjs

nomaka

Mar 13, 2015

selenium

shoumu

Mar 13, 2015

PhantomJs

dingyaguang117

Mar 13, 2015

PhantomJs +1

jedyu

Mar 13, 2015

@xunyu Ghost好像就是在pyV8上封装了一层

@icedx 就是想通过脚本

tabris17

Mar 13, 2015

@jedyu pyv8只是封装了个v8引擎，无法执行web页面的里的js

icedx

Mar 13, 2015 via Android

@jedyu PyQt 这是脚本阿

jedyu

Mar 13, 2015

@tabris17 确实，window这些都要自己写类，写不全还跑不了

poke707

Mar 13, 2015

如果你的目的是挖出js里面调用的ajax, 可以直接用chrome调试模式找出来URL来

leonlu

Mar 13, 2015

python爬虫可以删掉，用phathomjs重新写一份了。

jedyu

Mar 13, 2015

@poke707 我是为了获取一个加密的值，用于一个请求，可这个加密算法的js被混淆了，只有一个入口函数

icedx

Mar 13, 2015 via Android

@jedyu 你就顺着它逻辑写呗J's 混淆能到什么程度

kchum

Mar 14, 2015

PhantomJs 一劳永逸。再混淆你又要看一次。

gaotongfei

Mar 14, 2015

我都是用selenium-webdriver的

gaotongfei

Mar 14, 2015

http://selenium-python.readthedocs.org/en/latest/index.html

tonic

Mar 14, 2015

可以试试 PyExecJS

jedyu

Mar 16, 2015

@tonic PyExecJS试了不行
@icedx 太多了。。。

xunyu

Mar 16, 2015

@jedyu 什么页面，我之前也是碰到加密，后来懒得看，全部丢给ghost.py处理了

icedx

Mar 16, 2015 via Android

@jedyu 都是人写的

hadesqiao

Mar 16, 2015

mark01

vincent123456

Jul 29, 2015

@icedx 话不能这么说，有些变态网站JS写的复杂的狠，例如QQ的