Python怎么監視和衡量網站

這篇文章主要講解了“Python怎么監視和衡量網站”，文中的講解內容簡單清晰，易于學習與理解，下面請大家跟著小編的思路慢慢深入，一起來研究和學習“Python怎么監視和衡量網站”吧！

網絡重要指標簡介

5月初，Google推出了Core Web Vitals，它是其關鍵Web Vitals指標的一部分。

這些指標用于提供有關網站上用戶體驗質量的指導。

Google將其描述為“幫助量化您的網站體驗并確定改進機會”的一種方式，進一步強調了它們向關注用戶體驗的轉變。

核心網絡生命力是真實的，以用戶為中心的指標，用于衡量用戶體驗的關鍵方面。加載時間，互動性和穩定性。

除此之外，Google  上周宣布，他們將引入一個新的搜索排名信號，它將這些指標與現有頁面體驗信號(例如移動設備友好性和HTTPS安全性)結合在一起，以確保它們繼續為高質量網站提供服務給用戶。

監控性能指標

預計此更新將于2021年推出，Google已確認不需要立即采取行動。

但是，為了幫助我們為這些更改做準備，他們更新了用于測量頁面速度的工具，包括PSI，Google Lighthouse和Google Search  Console Speed Report。

Pagespeed Insights API從何入手?

Google的PageSpeed Insights是查看網頁效果摘要的有用工具，它使用現場數據和實驗室數據來生成結果。

這是獲得少數URL概述的好方法，因為它是逐頁使用的。

但是，如果您在大型站點上工作，并且希望獲得大規模的見解，那么該API可以有利于一次分析多個頁面，而無需單獨插入URL。

用于衡量性能的Python腳本

我創建了以下Python腳本來大規模度量關鍵性能指標，以節省手動測試每個URL所花費的時間。

該腳本使用Python將請求發送到Google PSI API，以收集和提取在PSI和Lighthouse中顯示的指標。

我決定在Google Colab中編寫此腳本，因為這是開始編寫Python并允許輕松共享的好方法，因此本文將使用Google  Colab貫穿整個安裝過程。

但是，它也可以在本地運行，對數據的上傳和下載進行一些調整。

請務必注意，某些步驟可能需要一些時間才能完成，尤其是當每個URL通過API運行時，為了不使請求過載。

因此，您可以在后臺運行腳本，并在完成步驟后返回到腳本。

讓我們逐步介紹啟動和運行此腳本所需的步驟。

步驟1：安裝所需的軟件包

在開始編寫任何代碼之前，我們需要安裝一些Python程序包，然后才能使用該腳本。這些使用導入功能很容易安裝。

我們需要的軟件包是：

• urllib：用于處理，打開，閱讀和解析URL。

• json：允許您將JSON文件轉換為Python或將Python文件轉換為JSON。

• request：一個HTTP庫，用于發送各種HTTP請求。

• pandas：主要用于數據分析和處理，我們正在使用它來創建DataFrames。

• time：一個用于處理時間的模塊，我們正在使用它在請求之間提供時間間隔。

• 文件：通過Google Colab，您可以上傳和下載文件。

• io：用于訪問文件的默認接口。

# Import required packages  import json import requests import pandas as pd import urllib import time from google.colab import files import io

第2步：設置API請求

下一步是設置API請求。完整的說明可以在這里找到，但是從本質上講，該命令將如下所示：

• https://www.googleapis.com/pagespeedonline/v5/runPagespeed?url={yourURL}/&strategy=mobile/&key={yourAPIKey}

這將允許您附加URL，策略(臺式機或移動設備)和API密鑰。

要在Python中使用它，我們將使用urllib請求庫urllib.request.urlopen并將其添加到名為result的變量中，以便我們可以存儲結果并在腳本中再次使用它們。

# Define URL   url = 'https://www.example.co.uk'  # API request url result = urllib.request.urlopen('https://www.googleapis.com/pagespeedonline/v5/runPagespeed?url={}/&strategy=mobile'\ .format(url)).read().decode('UTF-8')  print(result)

步驟3：測試API

為了測試API的正確設置以及對測試過程中生成的內容的理解，我使用簡單的urllib.request方法通過API運行了一個URL。

完成此操作后，我將結果轉換為json文件并下載了它，以便查看結果。

# Convert to json format result_json = json.loads(result)  print(result_json)  with open('result.json', 'w') as outfile:   json.dump(result_json, outfile)  files.download('result.json')

(請注意，此方法用于在Google Colab中轉換和下載JSON文件。)

步驟4：讀取JSON檔案

JSON文件顯示字段數據(存儲在loadingExperience下)和實驗室數據(可以在lighthouseResult下找到)。

為了提取所需的指標，我們可以利用JSON文件的格式，因為我們能夠看到每個部分下面的指標。

第5步：上傳CSV并存儲為Pandas數據框

下一步是上傳我們要通過PSI API運行的URL的CSV文件。您可以通過抓取工具(例如DeepCrawl)生成站點URL的列表。

當我們使用API時，建議您在此處使用較小的URL示例集，尤其是在您擁有大型站點的情況下。

例如，您可以使用訪問量最高的頁面或產生最大收入的頁面。另外，如果您的站點有模板，則非常適合測試其中的模板。

您還可以在此處添加column-header變量，我們將在遍歷列表時使用該變量。確保此名稱與您上傳的CSV文件中的列標題名稱匹配：

uploaded = files.upload() #if your column header is something other than 'url' please define it here  column_header='url'

(請注意，此方法用于在Google Colab中上傳CSV文件。)

將其上傳后，我們將使用Pandas庫將CSV轉換為DataFrame，我們可以在以下步驟中進行迭代。

# Get the filename from the upload so we can read it into a CSV. for key in uploaded.keys():   filename = key # Read the selected file into a Pandas Dataframe df = pd.read_csv(io.BytesIO(uploaded[filename]))  df.head()

DataFrame看起來像這樣，從零索引開始。

步驟6：將結果保存到響應對象

下一步涉及使用for循環來迭代剛剛通過PSI API創建的URL的DataFrame。

for循環使我們可以遍歷上載的列表并為每個項目執行命令。然后，我們可以將結果保存到響應對象中，并將其轉換為JSON文件。

response_object = {}  # Iterate through the df for x in range(0, len(df)):          # Define request parameter         url = df.iloc[x][column_header]          # Make request         pagespeed_results = urllib.request.urlopen('https://www.googleapis.com/pagespeedonline/v5/runPagespeed?url={}&strategy=mobile'.format(url)).read().decode('UTF-8')          # Convert to json format         pagespeed_results_json = json.loads(pagespeed_results)          # Insert returned json response into response_object         response_object[url] = pagespeed_results_json         time.sleep(30)                  print(response_object[url])

我們將在此處使用范圍內的x，它表示循環中正在運行的URL，以及(0，len)允許循環遍歷DataFrame中的所有URL，無論包含多少個URL 。

該響應對象防止通過重寫相互循環，你的網址，使我們能夠保存數據以備將來使用。

這也是在將其轉換為JSON文件之前，將使用列標題變量定義URL請求參數的地方。

我還將此處的睡眠時間設置為30秒，以減少連續進行的API調用次數。

另外，如果您希望更快地提出請求，則可以在URL命令的末尾附加一個API密鑰。

縮進在這里也很重要，因為每個步驟都是for循環的一部分，因此必須在命令中縮進它們。

步驟7：創建一個數據框來存儲響應

我們還需要創建一個DataFrame來存儲我們要從響應對象中提取的指標。

DataFrame是類似于表的數據結構，具有存儲數據的列和行。我們只需要為每個指標添加一列并適當地命名它，如下所示：

# Create dataframe to store responses df_pagespeed_results = pd.DataFrame(columns=           ['url',           'Overall_Category',           'Largest_Contentful_Paint',           'First_Input_Delay',           'Cumulative_Layout_Shift',           'First_Contentful_Paint',           'Time_to_Interactive',           'Total_Blocking_Time',           'Speed_Index'])    print(df_pagespeed_results)

出于此腳本的目的，我使用了Core Web Vital指標以及當前Lighthouse版本中使用的其他負載和交互性指標。

這些指標各自具有不同的權重，然后將它們用于總體績效得分：

• LCP

• FID

• CLS

• FCP

• TTI

• TBT

您可以在上方鏈接的各個目標網頁上找到有關每個指標的更多信息以及如何解釋分數的信息。

我還選擇包括速度指數和整體類別，這些類別將提供慢速，平均或快速得分。

步驟8：從響應對象中提取指標

保存響應對象后，我們現在可以對其進行過濾并僅提取所需的指標。

在這里，我們將再次使用for循環遍歷響應對象文件，并設置一系列列表索引以僅返回特定指標。

為此，我們將從DataFrame中定義列名稱，以及為每個URL從中提取每個指標的響應對象的特定類別。

for (url, x) in zip(     response_object.keys(),     range(0, len(response_object)) ):          # URLs         df_pagespeed_results.loc[x, 'url'] =\             response_object[url]['lighthouseResult']['finalUrl']          # Overall Category         df_pagespeed_results.loc[x, 'Overall_Category'] =\             response_object[url]['loadingExperience']['overall_category']             # Core Web Vitals               # Largest Contentful Paint             df_pagespeed_results.loc[x, 'Largest_Contentful_Paint'] =\         response_object[url]['lighthouseResult']['audits']['largest-contentful-paint']['displayValue']          # First Input Delay          fid = response_object[url]['loadingExperience']['metrics']['FIRST_INPUT_DELAY_MS']         df_pagespeed_results.loc[x, 'First_Input_Delay'] = fid['percentile']          # Cumulative Layout Shift             df_pagespeed_results.loc[x, 'Cumulative_Layout_Shift'] =\         response_object[url]['lighthouseResult']['audits']['cumulative-layout-shift']['displayValue']          # Additional Loading Metrics           # First Contentful Paint          df_pagespeed_results.loc[x, 'First_Contentful_Paint'] =\         response_object[url]['lighthouseResult']['audits']['first-contentful-paint']['displayValue']          # Additional Interactivity Metrics           # Time to Interactive           df_pagespeed_results.loc[x, 'Time_to_Interactive'] =\         response_object[url]['lighthouseResult']['audits']['interactive']['displayValue']          # Total Blocking Time            df_pagespeed_results.loc[x, 'Total_Blocking_Time'] =\         response_object[url]['lighthouseResult']['audits']['total-blocking-time']['displayValue']          # Speed Index         df_pagespeed_results.loc[x, 'Speed_Index'] =\         response_object[url]['lighthouseResult']['audits']['speed-index']['displayValue']

我已將此腳本設置為提取上面提到的關鍵指標，因此您可以立即使用它來收集此數據。

但是，可以提取在PSI測試以及Lighthouse分析中都可以找到的許多其他有用指標。

在此JSON文件可用于查看每個指標在列表中的位置。

例如，在從Lighthouse審核中提取指標(例如“互動時間”的顯示值)時，將使用以下內容：

df_pagespeed_results.loc[x, 'Time_to_Interactive'] =\ response_object[url]['lighthouseResult']['audits']['interactive']['displayValue']

再一次，重要的是要確保每一個都位于循環中，否則它們將不會包含在迭代中，并且只會為一個URL生成一個結果。

步驟9：將DataFrame轉換為CSV文件

最后一步是創建一個摘要文件以收集所有結果，因此我們可以將其轉換為易于分析的格式，例如CSV文件。

summary = df_pagespeed_results  df_pagespeed_results.head()  #Download csv file  summary.to_csv('pagespeed_results.csv') files.download('pagespeed_results.csv')

(請注意，此方法用于在Google Colab中轉換和下載CSV文件。)

進一步探索數據

目前，我們導出的所有指標都存儲為字符串，這是用于文本和字符的Python數據類型。

由于我們提取的某些指標實際上是數字值，因此您可能希望將字符串轉換為數字數據類型，例如整數和浮點數。

整數，也稱為int，是整數的數據類型，例如1和10。

浮點數，也稱為浮點數，是十進制點數，例如1.0和10.1。

為了將字符串轉換為數字，我們需要執行兩個步驟，第一步是將's'字符(用于表示秒)替換為空格。

我們通過在每列上使用.str.replace方法來執行此操作。

#Replace the 's' with a blank space so we can turn into numbers df_pagespeed_results['Largest_Contentful_Paint'] = df_pagespeed_results.Largest_Contentful_Paint.str.replace('s', '') df_pagespeed_results['First_Contentful_Paint'] = df_pagespeed_results.First_Contentful_Paint.str.replace('s', '') df_pagespeed_results['Time_to_Interactive'] = df_pagespeed_results.Time_to_Interactive.str.replace('s', '') df_pagespeed_results['Total_Blocking_Time'] = df_pagespeed_results.Total_Blocking_Time.str.replace('ms', '') df_pagespeed_results['Speed_Index'] = df_pagespeed_results.Speed_Index.str.replace('s', '')

然后，我們將使用.astype()方法將字符串轉換為整數或浮點數：

#Turn strings into intergers or floats df_pagespeed_results['Largest_Contentful_Paint'] = df_pagespeed_results.Largest_Contentful_Paint.astype(float) df_pagespeed_results['Cumulative_Layout_Shift'] = df_pagespeed_results.Cumulative_Layout_Shift.astype(int) df_pagespeed_results['First_Contentful_Paint'] = df_pagespeed_results.First_Contentful_Paint.astype(float) df_pagespeed_results['Time_to_Interactive'] = df_pagespeed_results.Time_to_Interactive.astype(float) df_pagespeed_results['Speed_Index'] = df_pagespeed_results.Speed_Index.astype(float)

完成此操作后，您可以使用多種不同的方法進一步評估數據。

例如，您可以使用數據可視化庫(例如matplotlib或seaborn)來可視化指標，以及測量指標如何隨時間變化并將結果分組為慢速，中速和快速存儲桶。

感謝各位的閱讀，以上就是“Python怎么監視和衡量網站”的內容了，經過本文的學習后，相信大家對Python怎么監視和衡量網站這一問題有了更深刻的體會，具體使用情況還需要大家實踐驗證。這里是億速云，小編將為大家推送更多相關知識點的文章，歡迎關注！