① 有哪些網站用爬蟲爬取能得到很有價值的數據
一般有一下幾種
一些常用的方法
IP代理
對於IP代理,各個語言的Native
Request
API都提供的IP代理響應的API,
需要解決的主要就是IP源的問題了.
網路上有廉價的代理IP(1元4000個左右),
我做過簡單的測試,
100個IP中,
平均可用的在40-60左右,
訪問延遲均在200以上.
網路有高質量的代理IP出售,
前提是你有渠道.
因為使用IP代理後,
延遲加大,
失敗率提高,
所以可以將爬蟲框架中將請求設計為非同步,
將請求任務加入請求隊列(RabbitMQ,Kafka,Redis),
調用成功後再進行回調處理,
失敗則重新加入隊列.
每次請求都從IP池中取IP,
如果請求失敗則從IP池中刪除該失效的IP.
Cookies
有一些網站是基於cookies做反爬蟲,
這個基本上就是如
@朱添一
所說的,
維護一套Cookies池
注意研究下目標網站的cookies過期事件,
可以模擬瀏覽器,
定時生成cookies
限速訪問
像開多線程,循環無休眠的的暴力爬取數據,
那真是分分鍾被封IP的事,
限速訪問實現起來也挺簡單(用任務隊列實現),
效率問題也不用擔心,
一般結合IP代理已經可以很快地實現爬去目標內容.
一些坑
大批量爬取目標網站的內容後,
難免碰到紅線觸發對方的反爬蟲機制.
所以適當的告警提示爬蟲失效是很有必有的.
一般被反爬蟲後,
請求返回的HttpCode為403的失敗頁面,
有些網站還會返回輸入驗證碼(如豆瓣),
所以檢測到403調用失敗,
就發送報警,
可以結合一些監控框架,
如Metrics等,
設置短時間內,
告警到達一定閥值後,
給你發郵件,簡訊等.
當然,
單純的檢測403錯誤並不能解決所有情況.
有一些網站比較奇葩,
反爬蟲後返回的頁面仍然是200的(如去哪兒),
這時候往往爬蟲任務會進入解析階段,
解析失敗是必然的.
應對這些辦法,
也只能在解析失敗的時候,
發送報警,
當告警短時間到達一定閥值,
再觸發通知事件.
當然這個解決部分並不完美,
因為有時候,
因為網站結構改變,
而導致解析失敗,
同樣回觸發告警.
而你並不能很簡單地區分,
告警是由於哪個原因引起的.
② 網路爬蟲實時股票價格 怎麼實現
周二時已經出現了跌停股,漲幅2%的個股僅650家,大部分個股處於1%的微漲格局,而周三這一情況加劇到了漲跌各半,甚至在午盤後跳水中出現了局部漲少跌多的情況,今天這樣的情況有增無減。 。
很高興第一時間為你解答，敬請採納。
如果對本題還有什麼疑問，請追問。
③ 如何監控scrapy爬蟲的（實時）狀態
搜索aotol，找myexception（只能說到這怕違規）。
④ java 如何實現 獲取實時股票數據
一般有三種方式：
網頁爬蟲。採用爬蟲去爬取目標網頁的股票數據，去GitHub或技術論壇（如CSDN、51CTO）上找一下別人寫的爬蟲集成到項目中。
請求第三方API。會有專門的公司（例如網路API市場）提供股票數據，你只需要去購買他們的服務，使用他們提供的SDK，仿照demo開發實現即可。如下圖所示：
⑤ 如何用爬蟲抓取股市數據並生成分析報表
1. 關於數據採集
股票數據是一種標准化的結構數據，是可以通過API介面訪問的（不過一般要通過渠道，開放的API有一定的局限性）。也可以通過爬蟲軟體進行採集，但是爬蟲軟體採集數據不能保證實時性，根據數據量和採集周期，可能要延遲幾十秒到幾分鍾不等。我們總結了一套專業的爬蟲技術解決方案(Ruby + Sidekiq)。能夠很快實現這個採集，也可以後台可視化調度任務。
2. 關於展現
網路股票數據的展現，網頁端直接通過HTML5技術就已經足夠，如果對界面要求高一點，可以採用集成前端框架，如Bootstrap；如果針對移動端開發， 可以使用Ionic框架。
3. 關於觸發事件
如果是採用Ruby on Rails的開發框架的話，倒是很方便了，有如sidekiq, whenever這樣子的Gem直接實現任務管理和事件觸發。
⑥ 如何使用爬蟲監控一系列網站的更新情況
你的監控肯定會指定數據，不可能說頁面日期更新我也算更新
先寫出對於網站目標數據的爬蟲並儲存，然後定時爬取，每次爬取進行標志性比較，例如第一條信息的文本或是鏈接地址
你在打開網頁時的狀態碼是200，這時刷新的話會變為304
但如果你是進行定時爬蟲的話響應碼應該會一直是200
⑦ 現在是大數據時代，有類似網路爬蟲的數據抓取工具獲取windows應用程序的數據嗎
有101 異構數據採集技術，但是這個技術有別於爬蟲，應該說，比爬蟲先進多了。
它可以抓取軟體數據，而不只是網頁數據，最重要的是，他不需要軟體廠商做介面，直接可以採集數據，這是其他爬蟲以及採集工具都不具備的。
⑧ 如何利用爬蟲技術來輔助老媽炒股票
炒股賺錢是一個極度復雜的綜合體，不可能單憑某種技術就能炒股賺錢的。要是那樣，股市就不是1賺1平8虧了。
⑨ 除了網路爬蟲技術，還有其他自動抓取數據的工具嗎
網路爬蟲的功能有限哦，只能爬網頁的內容，也就是BS 端的數據哦。
如果您希望採集到軟體系統，也就是CS 端的數據的話，用博 為的小幫 軟體機器人哦。
小幫 BS 和CS 端的數據都能採集的，全自動運行，只需要簡單的配置即可。相對於人工的採集數據，小幫的效率大大提升！
⑩ 爬蟲可以為我們做什麼，可以做數據分析房價行情嗎
可以啊，爬蟲是數據採集必備的技能
而數據分析必然要有數據才能分析，要數據必然就會涉及到數據採集也就是爬蟲。
你說的房價行情通過爬蟲爬取房源數據，匯總到資料庫就可以做一定程度上的分析。
爬蟲需要掌握Python基礎，re正則模塊，Beatifulsoup，pyquery，xpath，selenium，scrapy等一些知識點，能爬取任何網站，包括某寶，某東。一手資料有償低價給你。