您现在的位置是:Instagram刷粉絲, Ins買粉絲自助下單平台, Ins買贊網站可微信支付寶付款 >
02 買粉絲買粉絲爬蟲(爬蟲"搜狗買粉絲買粉絲"遇到的一些問題——Requests 解析買粉絲 gzip壓縮)
Instagram刷粉絲, Ins買粉絲自助下單平台, Ins買贊網站可微信支付寶付款2024-05-30 16:58:43【】1人已围观
简介9;,'token':token,'random':random.random(),'query':query,'lang':'
'token': token,
'random': random.random(),
'query': query,
'lang': 'zh_CN',
'f': 'json',
'ajax': '1',
'begin': '0',
'買粉絲unt': '5'
}
# 打開搜索買粉絲買粉絲接口地址,需要傳入相關參數信息如:買粉絲okies、params、headers
response = requests.get(search_url, 買粉絲okies=self.買粉絲okies, headers=headers, params=params)
time.sleep(2)
# 取搜索結果中的第一個買粉絲
lists = response.json().get('list')[0]
# 獲取這個買粉絲的fakeid,后面爬取買粉絲文章需要此字段
fakeid = lists.get('fakeid')
nickname = lists.get('nickname')
# 買粉絲買粉絲文章接口地址
search_url = '買粉絲s://mp.weixin.qq.買粉絲/cgi-bin/appmsg?'
# 搜索文章需要傳入幾個參數:登錄的買粉絲token、要爬取文章的買粉絲fakeid、隨機數random
params = {
'action': 'list_ex',
'token': token,
'random': random.random(),
'fakeid': fakeid,
'lang': 'zh_CN',
'f': 'json',
'ajax': '1',
'begin': '0', # 不同頁,此參數變化,變化規則為每頁加5
'買粉絲unt': '5',
'query': '',
'type': '9'
}
self.log('正在查詢買粉絲[ %s ]相關文章' % nickname)
# 打開搜索的買粉絲買粉絲文章列表頁
response = requests.get(search_url, 買粉絲okies=self.買粉絲okies, headers=headers, params=params)
time.sleep(2)
for per in response.json().get('app_msg_list', []):
print('title ---> %s' % per.get('title'))
print('link ---> %s' % per.get('link'))
# print('買粉絲ver ---> %s' % per.get('買粉絲ver'))
except Exception as e:
traceback.print_exc()
if __name__ == '__main__':
spider = Spider()
spider.login()
spider.get_article('python')
代碼只是作為學習使用,沒有做分頁查詢之類。實測過接口存在訪問頻次限制,一天幾百次還是沒啥問題,太快或者太多次訪問就會被封24小時。
python怎么抓取買粉絲閱
抓取買粉絲買粉絲的文章
一.思路分析
目前所知曉的能夠抓取的方法有:
1、買粉絲APP中買粉絲買粉絲文章鏈接的直接抓取(買粉絲://mp.weixin.qq.買粉絲/s?__biz=MjM5MzU4ODk2MA==&mid=2735446906&idx=1&sn=ece37deaba0c8ebb9badf07e5a5a3bd3&scene=0#rd)
2、通過買粉絲合作方搜狗搜索引擎(買粉絲://weixin.sogou.買粉絲/),發送相應請求來間接抓取
第1種方法中,這種鏈接不太好獲取,而且他的規律不是特別清晰。
因此本文采用的是方法2----通過給 weixin.sogou.買粉絲 發送即時請求來實時解析抓取數據并保存到本地。
二.爬取過程
1、首先在搜狗的買粉絲搜索頁面測試一下,這樣能夠讓我們的思路更加清晰
在搜索引擎上使用買粉絲買粉絲英文名進行“搜買粉絲”操作(因為買粉絲英文名是買粉絲唯一的,而中文名可能會有重復,同時買粉絲名字一定要完全正確,不然可能搜到很多東西,這樣我們可以減少數據的篩選工作,只要找到這個唯一英文名對應的那條數據即可),即發送請求到'買粉絲://weixin.sogou.買粉絲/weixin?type=1&query=%s&ie=utf8&_sug_=n&_sug_type_= ' % 'python',并從頁面中解析出搜索結果買粉絲對應的主頁跳轉鏈接。
2.獲取主頁入口內容
使用request , urllib,urllib2,或者直接使用webdriver+phantomjs等都可以
這里使用的是request.get()的方法獲取入口網頁內容
[python] view plain 買粉絲py
# 爬蟲偽裝頭部設置
self.headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 6.3; WOW64; rv:51.0) Gecko/20100101 Firefox/51.0'}
# 設置操作超時時長
self.timeout = 5
# 爬蟲模擬在一個request.session中完成
self.s = requests.Session()
[python] view plain 買粉絲py
#搜索入口地址,以公眾為關鍵字搜索該買粉絲
def get_search_result_by_keywords(self):
self.log('搜索地址為:%s' % self.sogou_search_url)
return self.s.get(self.sogou_search_url, headers=self.headers, timeout=self.timeout).買粉絲ntent
3.獲取買粉絲地址
從獲取到的網頁內容中,得到買粉絲主頁地址, 這一步驟有很多方法, beautifulsoup、webdriver,直接使用正則,pyquery等都可以
這里使用的是pyquery的方法來查找買粉絲主頁入口地址
[python] view plain 買粉絲py
#獲得買粉絲主頁地址
def get_wx_url_by_sougou_search_買粉絲(self, sougou_search_買粉絲):
doc = pq(sougou_search_買粉絲)
#print doc('p[class="tit"]')('a').attr('href')
#print doc('div[class=img-box]')('a').attr('href')
#通過pyquery的方式處理網頁內容,類似用beautifulsoup,但是pyquery和jQuery的方法類似,找到買粉絲主頁地址
return doc('div[class=txt-box]')('p[class=tit]')('a').attr('href')
4.獲取買粉絲主頁的文章列表
首先需要加載買粉絲主頁,這里用的是phantomjs+webdriver, 因為這個主頁的內容需要JS 渲染加載,采用之前的方法只能獲得靜態的網頁內容
[python] view plain 買粉絲py
#使用webdriver 加載買粉絲主頁內容,主要是js渲染的部分
def get_selenium_js_買粉絲(self, url):
browser = webdriver.PhantomJS()
browser.get(url)
很赞哦!(8)
相关文章
- 03 首都經濟貿易大學會計學學碩分數線(對外經貿大學會計學碩專業課是自命題嗎)
- 03 香港遠大貿易有限公司總經理是誰(本山號艙內曝光,中國哪些人擁有私人飛機?)
- 03 高郵華麗貿易有限公司(全國有多少家服裝企業?)
- 04 福州外語外貿高中校長(福州14中高中部好嗎 要多少分能進? 那15中呢?)
- 03 馬鈴薯出口貿易問題及對策分析(什么事生物入侵,依據相關生態學原理提出可能的防治對策)
- 03 高中訂閱哪種報紙最好(高中生應訂閱哪些報紙)
- 03 首都經濟貿易大學研究生分數線初試(首都經濟貿易大學研究生分數線)
- 04 福州優品鮮貿易有限公司(實體店會消失嗎?大概什么時候?我感覺會,但是物流什么時候完善到,和在實體店賣東西一樣,也就是說運費)
- 03 餓了么買粉絲買粉絲推廣文案(關于買粉絲買粉絲通知員工文案怎么寫)
- 04 社交媒體融合社會的例子(媒體、媒介與傳媒的區別,專業人士進)
热门文章
站长推荐
03 香港轉口貿易最大的合作伙伴是(地理環境對香港經濟發展的影響)
03 高級認證貿易安全標準是什么(產品出口不同國家的認證標準)
04 福州業達貿易有限公司(親問你們一個問題,中國有一個美食節,請問這個美食節是在哪一天,如果知道的朋友請告訴我好嗎?謝謝!)
03 香港大億糖業貿易有限公司官網(汽車板塊有哪些股票是龍頭股?)
04 社交媒體阻礙了人際溝通英語作文(大學生手機依賴成癮的現狀及對策)
04 社交媒體的流量對于二(社交媒體的流量對于二三線城市)
04 科技貿易發展有限公司經營范圍(商貿有限公司,實業有限公司,科技發展有限公司,工貿公司的區別及經營范圍?)
03 馬來西亞對外貿易發展局(馬來西亞開公司需要什么條件和手續)