marenight
V2EX  ›  问与答

求助一个爬虫问题,实在搞不定

  •  
  •   marenight · Sep 24, 2017 · 1659 views
    This topic created in 3165 days ago, the information mentioned may be changed or developed.

    想要爬取 cnki 的科研项目数据库 http://projects.cnki.net/approvalitem.aspx ,然后抠出来的这个页面的第一页 http://projects.cnki.net/Asynch/GetData.ashx?ac=ca&f=2&sc=ApprovalItem&_=1505991481639 是可以爬的,而这个页面 http://projects.cnki.net/Asynch/GetData.ashx?id=ApprovalItem&sc=ApprovalItem&cf=%2FCoreResources%2FConfigFolder%2FListView%2FListView.xml&ps=100&ac=Page&cp=1&_=1505986760956 可以在浏览器里打开,但是放到爬虫里就啥都没有。

    关于网络和 js 的知识太匮乏,实在不知道问题出在哪里。求助。

    3 replies    2017-09-24 20:16:03 +08:00
    lhx2008
        1
    lhx2008  
       Sep 24, 2017
    带了 cookie session 之类的吧,我直接开业开不了
    syahd
        2
    syahd  
       Sep 24, 2017 via Android   ❤️ 1
    你需要 postman
    a87150
        3
    a87150  
       Sep 24, 2017   ❤️ 1
    ASP.NET_SessionId=ora3gjhezp3umgzm0g5vutpf

    要这个 cookie
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   3389 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 54ms · UTC 11:31 · PVG 19:31 · LAX 04:31 · JFK 07:31
    ♥ Do have faith in what you're doing.