新浪微博爬蟲python

⑴ 可以用python爬蟲監控一個人在微博等社交網路發出與收到的評論嗎

你可以監控已授權的賬戶收到的評論和自動回復評論，微博是有這個相關api的，至於監控其他人內的，容就不是很清楚了，你可以看一下微博開放平台上的微博API
http://open.weibo.com/wiki/%E5%BE%AE%E5%8D%9AAPI

⑵ 用Python3寫的微博爬蟲

為什麼非要3.4的？有現成的2.7的就使用吧！最新的難道一定就是最好的？？

⑶ java和python哪個適合寫爬蟲

python更適合，語法更加簡單，容易上手，用現成的requests庫發送和接收請求，再結合具體需求解析響應數據

⑷ 如何寫爬蟲程序爬取豆瓣網或者新浪微博里的內容

在面向對象的高級語言中，早已有人將請求封裝成了類庫，你只需要調下介面，就能獲得目標網頁的源碼。所以程序需要做的就是請求目標url，獲取頁面的源碼，解析html。基本流程是：
獲取目標頁面源碼，方法：調用對應的類庫。
解析html文件，提取出自己想要的信息。方法：正則表達式或者解析html的庫。

按照上述步驟，C++（Qt）涉及的類是：
WebView，它的內核其實就是webkit，所以它就是一個功能原始的瀏覽器，他內置能夠返回頁面源碼的函數，接受一個url的string類型參數，返回一個QString對象。
WebView類有方法能夠處理DOM。
C#（.net）涉及的類是：
WebClient，WebRequest，HttpWebRequest等類，第一個封裝得比較高級，寫法簡單，後面兩個封裝得低級，寫起來麻煩但是用起來靈活，HttpWebRequest是WebRequest的一個子類。
Html Agility Pack。
Python涉及的包是：
urllib，urllib2，前者僅可以接受URL，不能偽裝Header，但是需要用它的一個函數對post數據進行編碼。類似於瀏覽器的有Selenium。
BeautifulSoup。
上面三種相比，python寫法最簡單，操作也靈活，要獲取源碼只要寫一句話就行。字元串處理python也毫不遜色於C#和C++。

⑸ 如何通過python調用新浪微博的API來爬取數據

先上結論，通過公開的api如果想爬到某大v的所有數據，需要滿足以下兩個條件：
1、在你的爬蟲開始運行時，該大v的所有微博發布量沒有超過回溯查詢的上限，新浪是2000，twitter是3200。
2、爬蟲程序必須不間斷運行。
新浪微博的api基本完全照搬twitter，其中介面的參數特性與底層的NoSQL密不可分，建議先看點Nosql資料庫的設計理念有助於更好的理解api設計。
一般來說，如果決定爬某個大v，第一步先試獲取該用戶的基本信息，中間會包含一條最新的status，記下其中的id號作為基準，命名為baseId。
介面中最重要的兩個參數：
since_id：返回ID比since_id大的微博（即比since_id時間晚的微博），默認為0。
max_id：返回ID小於或等於max_id的微博，默認為0。
出於各種原因，獲取statuses的介面，固定為按id降序排列（scan_index_forward=false），即最新的statuses返回在前。假設該微博第一天上線，就一個用戶，發了一百條，id是1到100。而你在該用戶發了第50條的時候開始運行的爬蟲，即baseId=50。

⑹ 對於爬蟲項目,python 2和3哪個好些

python入門當然建議直接學python3了，畢竟是趨勢。
而且python3中對於字元編碼的改動會讓新手省掉很多很多很多關於字元編解碼問題的糾結。
另一方面看你項目大小吧。
如果自己寫代碼，python2和python3沒啥區別。
但是如果你是奔著scrapy這個爬蟲框架去的（很多寫爬蟲選擇python就是因為有這樣一個很成熟的框架），那你還是用python2吧，因為scrapy到現在都還沒有支持python3。

⑺ python爬蟲怎樣賺外快

1）在校大學生。最好是數學或計算機相關專業，編程能力還可以的話，稍微看一下爬蟲知識，主要涉及一門語言的爬蟲庫、html解析、內容存儲等，復雜的還需要了解URL排重、模擬登錄、驗證碼識別、多線程、代理、移動端抓取等。由於在校學生的工程經驗比較少，建議只接一些少量數據抓取的項目，而不要去接一些監控類的項目、或大規模抓取的項目。慢慢來，步子不要邁太大。
（2）在職人員。如果你本身就是爬蟲工程師，接私活很簡單。如果你不是，也不要緊。只要是做IT的，稍微學習一下爬蟲應該不難。在職人員的優勢是熟悉項目開發流程，工程經驗豐富，能對一個任務的難度、時間、花費進行合理評估。可以嘗試去接一些大規模抓取任務、監控任務、移動端模擬登錄並抓取任務等，收益想對可觀一些。

渠道：淘寶、熟人介紹、豬八戒、csdn、發源地、QQ群等！

(7)新浪微博爬蟲python擴展閱讀：

網路爬蟲（又被稱為網頁蜘蛛，網路機器人，在FOAF社區中間，更經常的稱為網頁追逐者），是一種按照一定的規則，自動地抓取萬維網信息的程序或者腳本。另外一些不常使用的名字還有螞蟻、自動索引、模擬程序或者蠕蟲。

隨著網路的迅速發展，萬維網成為大量信息的載體，如何有效地提取並利用這些信息成為一個巨大的挑戰。搜索引擎(Search Engine)，例如傳統的通用搜索引擎AltaVista，Yahoo!和Google等，作為一個輔助人們檢索信息的工具成為用戶訪問萬維網的入口和指南。但是，這些通用性搜索引擎也存在著一定的局限性，如：

(1)不同領域、不同背景的用戶往往具有不同的檢索目的和需求，通用搜索引擎所返回的結果包含大量用戶不關心的網頁。

(2)通用搜索引擎的目標是盡可能大的網路覆蓋率，有限的搜索引擎伺服器資源與無限的網路數據資源之間的矛盾將進一步加深。

(3)萬維網數據形式的豐富和網路技術的不斷發展，圖片、資料庫、音頻、視頻多媒體等不同數據大量出現，通用搜索引擎往往對這些信息含量密集且具有一定結構的數據無能為力，不能很好地發現和獲取。

(4)通用搜索引擎大多提供基於關鍵字的檢索，難以支持根據語義信息提出的查詢。

為了解決上述問題，定向抓取相關網頁資源的聚焦爬蟲應運而生。聚焦爬蟲是一個自動下載網頁的程序，它根據既定的抓取目標，有選擇的訪問萬維網上的網頁與相關的鏈接，獲取所需要的信息。與通用爬蟲(general purpose web crawler)不同，聚焦爬蟲並不追求大的覆蓋，而將目標定為抓取與某一特定主題內容相關的網頁，為面向主題的用戶查詢准備數據資源。

1 聚焦爬蟲工作原理以及關鍵技術概述

網路爬蟲是一個自動提取網頁的程序，它為搜索引擎從萬維網上下載網頁，是搜索引擎的重要組成。傳統爬蟲從一個或若干初始網頁的URL開始，獲得初始網頁上的URL，在抓取網頁的過程中，不斷從當前頁面上抽取新的URL放入隊列,直到滿足系統的一定停止條件。聚焦爬蟲的工作流程較為復雜，需要根據一定的網頁分析演算法過濾與主題無關的鏈接，保留有用的鏈接並將其放入等待抓取的URL隊列。然後，它將根據一定的搜索策略從隊列中選擇下一步要抓取的網頁URL，並重復上述過程，直到達到系統的某一條件時停止。另外，所有被爬蟲抓取的網頁將會被系統存貯，進行一定的分析、過濾，並建立索引，以便之後的查詢和檢索；對於聚焦爬蟲來說，這一過程所得到的分析結果還可能對以後的抓取過程給出反饋和指導。

相對於通用網路爬蟲，聚焦爬蟲還需要解決三個主要問題：

(1) 對抓取目標的描述或定義；

(2) 對網頁或數據的分析與過濾；

(3) 對URL的搜索策略。