fdsfsdfsdf3334
V2EX  ›  问与答

有人了解百度或者谷歌的爬虫吗

  •  
  •   fdsfsdfsdf3334 · Mar 24, 2014 · 2387 views
    This topic created in 4465 days ago, the information mentioned may be changed or developed.
    最近学爬虫,打算用 python unbuntu postgresql

    问题1:他们的爬虫,是不是会针对一些大网站,专门定制开发蜘蛛规则?

    问题2:爬虫的分布式任务调度算法是不是很复杂?查资料了 ,还是没理解透彻 [是不是先,生成要采集的url,然后把url分部给worker]

    问题3:你有什么爬虫的知识分享给新手吗
    No Comments Yet
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   4068 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 26ms · UTC 05:13 · PVG 13:13 · LAX 22:13 · JFK 01:13
    ♥ Do have faith in what you're doing.