欧美日产国产精品,国产精品vvv,国内精品视频久久,综合国产精品

網頁抓取工具如何進行http模擬請求

2017-02-05 11:28:06 瀏覽:12255

在使用網頁抓取工具采集網頁時,進行http模擬請求可以通過瀏覽器自動獲取登錄cookie、返回頭信息,查看源碼等。具體如何操作呢?這里分享給大家網頁抓取工具火車采集器V9中的http模擬請求。許多請求工具都是仿照火車采集器中的請求工具所寫,因此大家可以此為例學習一下。

http模擬請求可以設置如何發起一個http請求,包括設置請求信息,返回頭信息等。并具有自動提交的功能。工具主要包含兩大部分:一個MDI父窗體和請求配置窗體。

圖片3.png

1.2請求信息:常規設置和更高級設置兩部分。1.1請求地址:正確填寫請求的鏈接。

(1)常規設置:

①來源頁:正確填寫請求頁來源頁地址。

②發送方式:get和post,當選擇post時,請在發送數據文本框正確填寫發布數據。

③客戶端:選擇或粘貼瀏覽器類型至此處。

④cookie值:讀取本地登錄信息和自定義兩種選擇。

高級設置:包含如圖所示系列設置,當不需要以上高級設置時,點擊關閉按鈕即可。

圖片4.png

②網頁編碼:自動識別和自定義兩種選擇,若選中自定義,自定義后面會出現編碼選擇框,在選擇框選擇請求的編碼。

①網頁壓縮:選擇壓縮方式,可全選,對應請求頭信息的Accept-Encoding。

③Keep-Alive:決定當前請求是否與internet資源建立持久性鏈接。

④自動跳轉:決定當前請求是否應跟隨重定向響應。

⑤基于Windows身份驗證類型的表單:正確填寫用戶名,密碼,域即可,無身份認證時不必填寫。

⑥更多發送頭信息:顯示發送的頭信息,以列表形式顯示更清晰直觀的了解到請求的頭信息。此處的頭信息供用戶選填的,若要將某一名稱的頭信息進行請求,勾選Header名對應的復選框即可,Header名和Header值都是可以進行編輯的。

1.3返回頭信息:將詳細羅列請求成功之后返回的頭信息,如下圖。

圖片5.png

1.5預覽:可在此預覽請求成功之后返回的頁面。1.4源碼:待請求完畢后,工具會自動跳轉到源碼選項,在此可查看請求成功之后所返回的頁面源碼信息。

1.6自動操作選項:可設置自動刷新/提交的時間間隔和運行次數,啟用此操作后,工具會自動的按一定的時間間隔和運行次數向服務器自動請求,若想取消此操作,點擊后面的停止按鈕即可。

配置好上述信息后,點擊“開始查看”按鈕即可查看請求信息,返回頭信息等,為避免填寫請求信息,可以點擊“粘貼外部監視HTTP請求數據”按鈕粘貼請求的頭信息,然后點擊開始查看按鈕即可。這種捷徑是在粘貼的頭信息格式正確的前提下,否則會彈出錯誤提示框。

更多有關網頁抓取工具或網頁采集的教程都可以從火車采集器的系列教程中學習借鑒。

掃碼關注微信
主站蜘蛛池模板: 光泽县| 额敏县| 新邵县| 萨嘎县| 清原| 淄博市| 河源市| 张家口市| 武穴市| 乐清市| 分宜县| 吉安市| 兴和县| 承德县| 桓仁| 阳谷县| 凤阳县| 景宁| 烟台市| 阿合奇县| 江北区| 贵溪市| 黔西县| 龙海市| 曲水县| 望城县| 临漳县| 沂源县| 罗平县| 滦平县| 连云港市| 梁河县| 桦甸市| 资溪县| 县级市| 黄石市| 株洲市| 漳平市| 安图县| 锡林浩特市| 中宁县|