計量學中的分辨率是衡量整體價值的關鍵指標。然而，很多時候我們會專注于從測量儀器中讀出的計數(shù)或數(shù)字的數(shù)量，而沒有理解這些數(shù)字是有效的輸出值還是只是附加到信號的噪聲。根據(jù)計量學詞匯(VIM)，分辨率是被測量量的最小變化，導致相應指示發(fā)生可察覺的變化。

我們以硅壓力傳感器為例。從技術上講，我們從硅傳感器中獲得的分辨率是無限的，并且僅受用于測量傳感器的換能器的限制。然而，封裝的壓力傳感器具有解釋數(shù)據(jù)的電子設備就會限制了可以從傳感器中獲得的整體分辨率。Mensor的CPT9000 高級壓力傳感器具有集成的24位A/D轉換器，具有16,777,216 步或計數(shù)，這是從選定的位數(shù)可能產(chǎn)生的離散值或除法數(shù)。那么這是否意味著您在讀取傳感器時可以獲得超過 0.1PPM的分辨率，但其有效性取決于測量過程、儀器的整體不確定度以及儀器制造商設置的讀數(shù)限制。

測量過程

考慮從Mensor壓力傳感器讀取單個壓力值。讀數(shù)的分辨率代表一部分真實信號和一部分噪聲。由于此噪聲是隨機的，無法對讀取的單個值的真實性給予高度的置信度。

現(xiàn)在，如果在相同條件下多次重復此過程，我們就可以計算讀數(shù)的平均值以明顯接近真實值。假設噪聲是隨機的，計算平均值的標準偏差會顯著提高讀數(shù)真實性的整體置信水平。

因此，一個0~1psi全量程傳感器，具有7位分辨率，其中您可以得出小至0.1x10-5psi的分辨率。單個讀數(shù)的整體信噪比的置信度明顯低于采用更大樣本量的置信度。

儀器的不確定度

分辨率不確定度是導致測量不確定度的一個因素。分辨率也被認為是整體 A 類不確定度的一個因素，是通過在定義的條件下獲得的統(tǒng)計分析來計算的。通常，不確定度的分辨率分量計算為整個A類不確定度和平方根方程的矩形分布。

這意味著對于具有7位分辨率的相同0~1psi傳感器，存在與0.1x10-5psi 最小分辨率相關的不確定因素。盡管如此，其整體影響在很大程度上取決于這與A 類（偏差）和 B 類（參考不確定性、線性度、重復性、滯后等）不確定性中的其他因素的關系。

廠家設置的限制

為了應對分辨率對整體不確定度的影響，設備制造商限制了儀器（特別是帶有數(shù)字顯示指示的儀器）的讀數(shù)，以減少顯示噪聲并使讀數(shù)更容易。

在前面的示例中，傳感器的總體規(guī)定不確定度為0.01%FS（在k=2時報告，置信水平為~95%）。任何靈敏度高于0.1x10-3psi 的讀數(shù)都不具有相同的真實性置信水平。因此，在這種情況下，盡管分辨率能夠達到 0.1x10-5psi，但尚不清楚記錄的測量值的最后兩位數(shù)字是否有任何意義。

通過讀取為抵消噪聲輸出而部署的過濾器，可以在一定程度上緩解這個問題。但是，過濾器必須不使顯示讀數(shù)滯后于真實讀數(shù)。

對于精密壓力指示器CPG2500等壓力儀器，報告的測量不確定度為0.008%或80ppm，分辨率定義為6-7位數(shù)字。這種情況主要是為了確保壓力輸出的信噪比高。 

所以總而言之，更高的分辨率并不一定意味著更真實的值，尤其是當讀數(shù)本身的樣本量有。話雖如此，重要的是要知道分辨率確實會影響儀器的整體不確定性。