作為一名合格的操作員,往往需要掌握數(shù)據(jù)分析技能。例如,加入去新公司負(fù)責(zé)編輯新媒體內(nèi)容,需要盤點(diǎn)公司現(xiàn)有的內(nèi)容資產(chǎn),以避免重復(fù)內(nèi)容制作。這時(shí)候就需要把網(wǎng)頁(yè)上的數(shù)據(jù)刮下來(lái),放在一起,一目了然。從網(wǎng)頁(yè)爬取數(shù)據(jù)最好的方法當(dāng)然是爬蟲工具啦~本文將介紹Web Scraper爬蟲工具使用教程,幫助小白快速上手爬蟲工具!
第 1 步:下載網(wǎng)頁(yè)抓取工具
Web Scraper 是 Chrome 瀏覽器上的一個(gè)插件。您需要進(jìn)入 Chrome App Store 并下載 Web Scraper 插件。
第 2 步:打開 Web Scraper
首先打開一個(gè)您要抓取數(shù)據(jù)的網(wǎng)頁(yè)。比如今天我要抓取今日頭條賬號(hào)“吳曉波頻道”的文章標(biāo)題、時(shí)間、評(píng)論數(shù),那我就先打開,再操作。然后使用快捷鍵 Ctrl + Shift + I / F12 打開 Web Scraper。
第 3 步:創(chuàng)建新站點(diǎn)地圖
點(diǎn)擊Create New Sitemap,有兩個(gè)選項(xiàng),import sitemap是引導(dǎo)進(jìn)入一個(gè)現(xiàn)成的sitemap,操作小白一般不是現(xiàn)成的,所以一般不選這個(gè),選create sitemap就好了。然后做這兩個(gè)操作:
Sitemap Name:表示你的Sitemap適用于哪個(gè)網(wǎng)頁(yè),所以你可以根據(jù)網(wǎng)頁(yè)來(lái)命名,但是需要用英文字母,比如我抓到今天頭條的數(shù)據(jù),那我就命名它與頭條; Sitemap URL:將網(wǎng)頁(yè)鏈接復(fù)制到Star URL欄,如圖,我把“吳曉波頻道”的首頁(yè)鏈接復(fù)制到了這個(gè)欄。
第 4 步:設(shè)置站點(diǎn)地圖
整個(gè)Web Scraper的抓取邏輯如下:設(shè)置一級(jí)Selector,選擇選中的抓取范圍;在一級(jí)Selector下設(shè)置二級(jí)Selector,選擇抓取字段,然后抓取。
再舉個(gè)例子,如果要獲取福建人的姓名、性別、年齡這三個(gè)元素,那么你必須這樣做:首先定位福建省,然后定位福建省的人名。 、性別、年齡。這里,一級(jí)Selector表示要圈出中國(guó)大國(guó)中的福建省,二級(jí)Selector表示要圈出福建省人口中的姓名、性別、年齡三個(gè)要素對(duì)于文章,一級(jí)Selector表示需要圈出本文的元素。這個(gè)元素可能包括標(biāo)題、作者、發(fā)表時(shí)間、評(píng)論數(shù)等,然后我們會(huì)在二級(jí)Selector中挑選出來(lái)。我們想要的元素,例如標(biāo)題、作者、閱讀次數(shù)。
(1)點(diǎn)擊添加新選擇器創(chuàng)建一級(jí)選擇器,步驟如下:
a.輸入id:id代表你抓取的整個(gè)范圍,比如這里有一篇文章,我們可以命名為126 wuxiaobo-articles;
b. Select Type:type代表你抓取的部分的類型,比如element/text/link,因?yàn)檫@是整個(gè)文章元素范圍的選擇,我們需要使用Element整體選擇(如果這個(gè)網(wǎng)絡(luò)頁(yè)面需要滑動(dòng)加載更多,然后選擇Element Scroll Down);
c. Check Multiple:勾選Multiple前面的小框,因?yàn)橐x擇多個(gè)元素而不是單個(gè)元素,當(dāng)我們勾選時(shí),爬蟲插件會(huì)幫助我們識(shí)別多篇相似文章;
d. 保留設(shè)置:其余未提及的部分保留默認(rèn)設(shè)置。
(2)點(diǎn)擊選擇范圍,按以下步驟操作:
a.選擇范圍:用鼠標(biāo)選擇要爬取數(shù)據(jù)的范圍,綠色為要選中的區(qū)域,鼠標(biāo)點(diǎn)擊后變?yōu)榧t色即為選中;
b.多選:不要只選一個(gè),下面的也不能選,否則只會(huì)爬出一行數(shù)據(jù);
c.完成選擇:記得點(diǎn)擊完成選擇;
d.保存:點(diǎn)擊保存選擇器。
(3)設(shè)置一級(jí)Selector后,點(diǎn)擊設(shè)置二級(jí)Selector,按以下步驟操作:
a.新選擇器:點(diǎn)擊添加新選擇器;
b.輸入id:id代表你在抓取哪個(gè)字段,所以可以取字段的英文,比如我要選擇“作者”,就寫“作者”;
c. Select Type:選擇Text,因?yàn)槟阋ト〉氖俏谋荆?/p>
d.不要勾選Multiple:不要勾選Multiple前面的小方框,因?yàn)槲覀冞@里是抓取單個(gè)元素;保留設(shè)置:將其余未提及的部分保留為默認(rèn)設(shè)置。
(4)點(diǎn)擊選擇,然后點(diǎn)擊要爬取的字段,按照以下步驟操作:
a.選擇字段:這里要爬取的字段是一個(gè)。用鼠標(biāo)單擊該字段以將其選中。比如你想爬取標(biāo)題,用鼠標(biāo)點(diǎn)擊一篇文章的標(biāo)題。當(dāng)字段區(qū)域變?yōu)榧t色時(shí),即被選中;
c.完成選擇:記得點(diǎn)擊完成選擇;
d.保存:點(diǎn)擊保存選擇器。
(5)重復(fù)以上操作,引導(dǎo)你選擇你要爬的場(chǎng)地。
第 5 步:抓取數(shù)據(jù)
之所以說(shuō)Web Scraper是任何新手必備的爬蟲工具,是因?yàn)槟阒恍枰O(shè)置好所有的Selector,然后就可以開始爬取數(shù)據(jù)了。怎么這么簡(jiǎn)單?那么如何開始爬取數(shù)據(jù)呢? 只需一個(gè)簡(jiǎn)單的操作:點(diǎn)擊Scrape,然后點(diǎn)擊Start Scraping,會(huì)彈出一個(gè)小窗口,然后勤奮的小爬蟲就開始工作了。您將獲得一個(gè)列表,其中包含您想要的所有數(shù)據(jù)。
以上是小白必知的Web Scraper爬蟲工具使用教程。怎么樣,Web Scraper 的所有操作你都快開始了嗎?相信即使是不懂編程語(yǔ)言的小白也能掌握5分鐘爬取數(shù)據(jù)的爬蟲工具!更多關(guān)于全媒體培訓(xùn)的問(wèn)題,歡迎咨詢千鋒教育在線名師。千鋒教育擁有多年IT培訓(xùn)服務(wù)經(jīng)驗(yàn),采用全程面授高品質(zhì)、高體驗(yàn)培養(yǎng)模式,擁有國(guó)內(nèi)一體化教學(xué)管理及學(xué)員服務(wù),助力更多學(xué)員實(shí)現(xiàn)高薪夢(mèng)想。