.net怎么解決spider多次和重復抓取的問題

本篇內容介紹了“.net怎么解決spider多次和重復抓取的問題”的有關知識，在實際案例的操作過程中，不少人都會遇到這樣的困境，接下來就讓小編帶領大家學習一下如何處理這些情況吧！希望大家仔細閱讀，能夠學有所成！

原因:

早期由于搜索引擎蜘蛛的不完善，蜘蛛在爬行動態的url的時候很容易由于網站程序的不合理等原因造成蜘蛛迷路死循環。

所以蜘蛛為了避免之前現象就不讀取動態的url，特別是帶？的url

解決方案:

1):配置路由

復制代碼 代碼如下:

routes.MapRoute("RentofficeList",
               "rentofficelist/{AredId}-{PriceId}-{AcreageId}-{SortId}-{SortNum}.html",
               new { controller = "Home", action = "RentOfficeList" },
               new[] { "Mobile.Controllers" });

第一個參數是路由名稱
第二個參數是路由的Url模式,參數之間用{}-{}方式分隔
第三個參數是一個包含默認路由的對象
第四個參數是應用程序的一組命名空間

2):設置連接

<a href="@Url.Action("RentofficeList",new RouteValueDictionary { { "AredId",0},{"PriceId",0},{"AcreageId",0},{"SortId",0},{"SortNum",0}})">默認排序</a>

對照上面的Url模式,依次寫入參數賦值
3):獲取參數

復制代碼 代碼如下:

int areaId = GetRouteInt("AredId");//獲取參數
/// <summary>
/// 獲得路由中的值
/// </summary>
/// <param name="key">鍵</param>
/// <param name="defaultValue">默認值</param>
/// <returns></returns>
protected int GetRouteInt(string key, int defaultValue)
{
return Convert.ToInt32(RouteData.Values[key], defaultValue);
}
/// <summary>
/// 獲得路由中的值
/// </summary>
/// <param name="key">鍵</param>
/// <returns></returns>
protected int GetRouteInt(string key)
{
return GetRouteInt(key, 0);
}

根據上面3個步驟操作,顯示的url地址為:

http://localhost:3841/rentofficelist/3-0-0-0-0.html
這樣就可以避免靜態頁面上使用動態參數,顯示的頁面都為靜態頁面

“.net怎么解決spider多次和重復抓取的問題”的內容就介紹到這里了，感謝大家的閱讀。如果想了解更多行業相關的知識可以關注億速云網站，小編將為大家輸出更多高質量的實用文章！