欧洲国产视频_自拍视频在线_www.精品_国产小视频免费_日韩在线_av黄色天堂

<b>全自動監控網站關鍵詞排名(Python實現)</b>

作者:Lgo100 來源:未知 2012-04-17 23:33:58 閱讀 我要評論 直達商品

  年夜這篇文章起頭不籌算再破耗年夜量精神去寫軌范自己的常識,事實?下場是各類書籍上有的內容。其余首要需要進修的是內置函數的使用,和一些模塊的使用體例,尤其是pycurl, re, threading這些需要慢慢熟悉起來。

  若在進修中有不解的處所,在文章評論中可以提出,如不美觀有空會死力輔佐解答。

  軌范需求

  對于稍年夜的一個網站,往往話芐良多關頭詞需要每隔一個周期監控它們的排名,以剖析seo效不美觀的口角,及判定百度Google的動向等等。

  有一個關頭在于數據的收集全自動與否的問題。若經常用Google Analytics剖析數據的話應該會感受到,數據剖析的需求是多種多樣的,只有事先已經有了完美的各個維度的數據往后,才能跟著最初的設法進行剖析,而不會為數據的匱乏所局限。像Google Analytics這樣超卓的工具完全自動的將這些數據收集了起來,才給seo對于流量的多樣化剖析打下了基本。同樣的,如不美觀想剖析的時辰更自由的話,就需要記實盡多種類的歷史數據,如不美觀這些作為每日工作,那將耗時很是長,所以自動化的收集就浮現出了其主要性。

  現有的監控排名首要解決方案是使用商業軟件Rank Tracker,但它也有些不是很理想的處所。好比對于幾乎所有既有軟件都存在的問題,功能不矯捷。此外它最年夜的短處之一在于它必然要找個具有圖形界面的系統運行(因為它是Java實現的,有多操作系統版本,所以不必然是Windows)。

  對于DIY的Python劇本,在Linux系統瑯縵沔可以將其放到crontab中(系統級打算使命),全自動的按時運行收集原始數據。然后在需要的時辰,再用此外的劇原本措置原始數據,進行各個維度的剖析。所需的一般情形下為:Linux系統的低設置裝備擺設VPS一臺,總共不跨越100行的Python代碼(Windows也能實現這些,但相對斗勁麻煩)。

  然后再來剖析更具體的需求。此處我總結了一些原則:

  1. 除非數據量年夜到會對硬盤帶來壓力(好比每日數G的日志的剖析等),否則把能想到的盡多的數據都記實下來。因為剖析的需求是多變的,數據若周全即可有備無患。

  2. 同上,除非數據量極年夜,否則務必把歷史數據全數保留下來。在年夜數據量的時辰,也需要按現實情形保留一按時刻區間的數據(打個例如,前3年每月保留一副本,昔時每周保留一副本)。歷史數據的對比在良多時辰的意義很是年夜。

  3. 當數據很是單一的時辰,使用txt按行保留;當數據斗勁簡單的時辰,使用csv按行列儲存;當數據斗勁復雜的時辰,可以考慮使用MongoDB等key-value型NoSQL儲存;再復雜的時辰,使用MySQL之類的關系性數據庫儲存。但這些不是絕對的,仍是要看現實情形而定。

  對于今朝的需求,因為是要監控關頭詞排名趨向,所以一般最多監控幾千個關頭詞就夠了。或許網站斗勁年夜,想體味數十萬的關頭辭書排名,但對于體味排名趨向的情形下,沒需要全數發芽,隨機拔取其一一小部門作為樣本就可以了。

  因為最多幾千個關頭詞,所以最好天天記實一次它們的排名數據(保證不變的情形下,對于單IP,Google天天可以發芽5000+詞,百度則可以發芽數萬的詞)。而且數據自己,首要為關頭詞、排名、著陸頁URL這幾項,文件體積很小,所以天天都保留一份數據。

  數據的儲存體例上,此時一般建議選擇csv。它和Excel表格(xls)在數據的儲存體例上是一模一樣的。

  代碼實現

  這些代碼需要以下運行情形:

  Linux操作系統

  Python的第三方模塊pycurl

  Python下載網頁的最簡單體例是:

import urllib2

print urllib2.urlopen('http://***.com/').read()

  但urllib2模塊自己功能雖然還行,卻仍離pycurl模塊有較年夜距離。且在做稍微復雜一些的操作時,pycurl模塊使用起來比urllib2模塊便利良多。pycurl是必需要諳練運用的模塊之一,但也因為它上手可能會讓人有頷首疼,這里我自己寫了一個模塊,以此即可便利的使用它:

from pycurl import *

import StringIO, time, random

def curl(url, retry=False, delay=1, **kwargs):

'''Basic usage: curl('http://www.xxx.com/'), will download the url.

If set `retry` to True, when network error, it will retry automatically.

`delay` set the seconds to delay between every retry.

**kwargs can be curl params. For example:

curl(url, FOLLOWLOCATION=False, USERAGENT='Firefox')

'''

useragent_list = [

'Mozilla/5.0 (Windows; U; Windows NT 5.1; en-GB; rv:1.8.1.6) Gecko/20070725 Firefox/2.0.0.6',

'Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1)',

'Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1; .NET CLR 1.1.4322; .NET CLR 2.0.50727; .NET CLR 3.0.04506.30)',

'Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; .NET CLR 1.1.4322)',

'Opera/9.20 (Windows NT 6.0; U; en)',

'Mozilla/4.0 (compatible; MSIE 5.0; Windows NT 5.1; .NET CLR 1.1.4322)',

'Opera/9.00 (Windows NT 5.1; U; en)',

'Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; en) Opera 8.50',

'Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; en) Opera 8.0',

'Mozilla/4.0 (compatible; MSIE 6.0; MSIE 5.5; Windows NT 5.1) Opera 7.02 [en]',

'Mozilla/5.0 (Windows; U; Windows NT 5.1; en-US; rv:1.7.5) Gecko/20060127 Netscape/8.1',

]

size = len(useragent_list)

useragent = useragent_list[random.randint(0, size-1)]

s = StringIO.StringIO()

c = Curl()

c.setopt(NOSIGNAL, True)

c.setopt(FOLLOWLOCATION, True)

c.setopt(MAXREDIRS, 5)


  推薦閱讀

  <b>合格SEOER的白帽操作手冊:SEO效果最大化</b>

巨匠好,我是虛子雨。不知道巨匠對于白帽seo關注度有若干好多,小我因為喜歡進行白帽seo操作,對于這個辭書關注度就斗勁高,而且也倡導我四周的伴侶進行白帽seo,因為黑帽seo有時辰雖然短時刻內有不錯的效不美觀,可>>>詳細閱讀


本文標題:<b>全自動監控網站關鍵詞排名(Python實現)</b>

地址:http://www.xglongwei.com/a/34/20120417/51890.html

樂購科技部分新聞及文章轉載自互聯網,供讀者交流和學習,若有涉及作者版權等問題請及時與我們聯系,以便更正、刪除或按規定辦理。感謝所有提供資訊的網站,歡迎各類媒體與樂購科技進行文章共享合作。

網友點評
我的評論: 人參與評論
驗證碼: 匿名回答
網友評論(點擊查看更多條評論)
友情提示: 登錄后發表評論,可以直接從評論中的用戶名進入您的個人空間,讓更多網友認識您。
自媒體專欄

評論

熱度

主站蜘蛛池模板: 顶级嫩模 一区二区三区 | 亚洲 日本 欧美 中文幕 | 免费观看欧美成人禁片 | 久久www免费人成高清 | 国产毛片久久久久久国产毛片 | 久久99热这里只有精品国产 | 日本视频网站在线观看 | 国产精品久久久久久一区二区 | 人人擦人人 | 欧美性受xxxx视频 | 天天看天天摸天天操 | 欧美亚洲一区二区三区在线 | 青娱乐在线视频盛宴 | 天天干天天添 | 中文字幕日本不卡 | 国产精品无码久久久久 | 九九精品在线观看 | www.日本在线| 国产一级毛片午夜 | 日韩在线视频免费播放 | 久草视频在线首页 | 九月丁香婷婷 | 国产精品亚洲玖玖玖在线靠爱 | 青青热久久久久综合精品 | 欧美性高清suv | 久久九九免费视频 | 国内精品福利在线视频 | 免费亚洲视频在线观看 | 欧美xxxx色视频在线观看免费 | 免费操人 | 超级香蕉97视频在线观看一区 | 久久涩视频 | 欧美成人丝袜视频在线观看 | 澳门a毛片免费观看 | 亚洲黄网免费 | 最新97在线超极碰 | 一级毛片一级毛片免费毛片 | 日日日日操 | 九九精品视频在线观看 | 久久久精品国产 | 日本视频在线观看不卡高清免费 |