亚洲激情专区-91九色丨porny丨老师-久久久久久久女国产乱让韩-国产精品午夜小视频观看

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

python爬蟲簡單的添加代理以及編寫進行訪問的實現代碼

發布時間:2021-10-26 10:56:07 來源:億速云 閱讀:198 作者:柒染 欄目:編程語言

python爬蟲簡單的添加代理以及編寫進行訪問的實現代碼,針對這個問題,這篇文章詳細介紹了相對應的分析和解答,希望可以幫助更多想解決這個問題的小伙伴找到更簡單易行的方法。

在使用python對網頁進行多次快速爬取的時候,訪問次數過于頻繁,服務器不會考慮User-Agent的信息,會直接把你視為爬蟲,從而過濾掉,拒絕你的訪問,在這種時候就需要設置代理,我們可以給proxies屬性設置一個代理的IP地址,代碼如下:

<?php
 // 要訪問的目標頁面
 $url = "http://httpbin.org/ip";
 $urls = "https://httpbin.org/ip";
 
 // 代理服務器
 define("PROXY_SERVER", "tcp://t.16yun.cn:31111");
 
 // 隧道身份信息
 define("PROXY_USER", "16YUN123");
 define("PROXY_PASS", "123456");
 
 $proxyAuth = base64_encode(PROXY_USER . ":" . PROXY_PASS);
 
 // 設置 Proxy tunnel
 $tunnel = rand(1,10000);
 
 $headers = implode("\r\n", [
 "Proxy-Authorization: Basic {$proxyAuth}",
 "Proxy-Tunnel: ${tunnel}",
 ]);
 $sniServer = parse_url($urls, PHP_URL_HOST);
 $options = [
 "http" => [
 "proxy" => PROXY_SERVER,
 "header" => $headers,
 "method" => "GET",
 'request_fulluri' => true,
 ],
 'ssl' => array(
 'SNI_enabled' => true, // Disable SNI for https over http proxies
 'SNI_server_name' => $sniServer
 )
 ];
 print($url);
 $context = stream_context_create($options);
 $result = file_get_contents($url, false, $context);
 var_dump($result);
 
 // 訪問 HTTPS 頁面
 print($urls);
 $context = stream_context_create($options);
 $result = file_get_contents($urls, false, $context);
 var_dump($result);?>

在代碼中的目標網站是檢測代理是否訪問成功,如果訪問成功就會返回代理ip,如果代理返回

異常有可能是代理的配置沒有正確,那就需要對配置的代理信息進行檢查。

關于python爬蟲簡單的添加代理以及編寫進行訪問的實現代碼問題的解答就分享到這里了,希望以上內容可以對大家有一定的幫助,如果你還有很多疑惑沒有解開,可以關注億速云行業資訊頻道了解更多相關知識。

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

弋阳县| 武安市| 郴州市| 鱼台县| 南阳市| 松潘县| 福海县| 平度市| 福鼎市| 鄂伦春自治旗| 邵东县| 汝州市| 乌兰浩特市| 化德县| 台南县| 南召县| 毕节市| 厦门市| 商洛市| 东丰县| 洛阳市| 县级市| 容城县| 海安县| 合作市| 敦化市| 安平县| 岚皋县| 慈溪市| 榆社县| 江阴市| 榆林市| 仁化县| 阳朔县| 克什克腾旗| 临洮县| 郯城县| 红河县| 吉安县| 阿坝县| 扎兰屯市|