[發明專利]一種用于高精度源表一體化測量設備的新型校準方法

有效

• 申請號: 201910966129.0
• 申請日: 2019-10-12
• 公開（公告）號: CN110657833B
• 公開（公告）日: 2023-02-10
• 發明（設計）人: 劉國福;徐偉專;甘偉;尚帥;文誠;胡能鋼;熊艷
• 申請（專利權）人: 湖南銀河電氣有限公司
• 主分類號: G01D18/00
• 分類號: G01D18/00;G01R35/00;G06F17/10
• 代理公司: 廣州凱東知識產權代理有限公司 44259
• 代理人: 梁靈周

本發明涉及本發明涉及測量設備的校準方法，特別涉及一種用于高精度源表一體化測量設備的新型校準方法，其包括獲取原始數據；分析獲取的原始數據；將輸出真值作為擬合對象，對實測值進行擬合，得到校準系數；將設置值Z作為擬合對象，對輸出真值Y進行擬合，得到另一組校準系數，微處理器根據上述兩組校準系數和原始數據校正得到校準后的實測值和設置值。本發明是基于非線性最小二乘法的高效擬合方法，其選取三次樣條函數作為擬合函數。該方法無需求取反函數，也就避免了牛頓迭代法的求導和除法，而且只需要六次乘法和三次加法即可求取一組校準系數，無需先進算法復雜的計算過程和龐大的計算量。

技術領域

本發明涉及測量設備的校準方法，特別涉及一種用于高精度源表一體化測量設備的新型校準方法。

背景技術

隨著科技的進步和社會的發展，各行業對設備的性能追求越來越高，高精密儀器儀表將獲得更加廣泛的應用空間。高精度源表一體化測量設備(Source Measure Unit，簡稱SMU)，作為高精密儀器儀表的一個重要分支，在投入使用前需要經過嚴格的校準，以確保真實輸出值和實測值都與輸出真值保持一致。現代化的SMU都具備寬量程和高分辨率的特點，有的甚至要求電壓在0.1V分辨率和1～10000V的量程范圍內的所有取值都能達到萬分之一的精度，這對于校準工作提出了嚴峻的挑戰。

在假設SMU的設置值和實測值相等的前提下，若對實測值校準采用多項式擬合的方法，那么對設置值校準則需要求取多項式的反函數，難免會引入求根運算和除法運算。目前廣泛采用的求根方法包括牛頓迭代法和較為先進的蟻群算法、模擬退火算法和遺傳算法等。牛頓迭代法對初值的要求較高，當初值選取較為精確時，收斂是很快的，但每步都要計算函數的導數，使得運算量很大，而且還引入了除法，易導致系統不穩定；而先進的智能算法則都需要復雜的計算過程和龐大的計算量，實用性較差。

發明內容

針對上述技術問題，本發明提供一種基于非線性最小二乘法的、高效的用于高精度源表一體化測量設備的新型校準方法。

本發明解決上述技術問題所采用的技術方案為：一種用于高精度源表一體化測量設備的新型校準方法，其包括以下步驟：

(1)獲取原始數據，包括SMU的輸出真值Y、實測值X和設置值Z；

(2)計算原始數據相對設置值的相對誤差，將相對誤差接近的采樣點劃分至同一個區間，對每個區間進行擬合；

(3)將輸出真值Y作為擬合對象，對實測值X進行擬合，得到一組校準系數，擬合表達式如下：

Y＝a[0]X³+a[1]X²+a[2]X+a[3] (1)

(4)為避免求取反函數，將輸出真值Y代替設置值Z作為擬合對象，對設置值Z進行擬合(本該對輸出真值Y進行擬合)，得到另一組校準系數，擬合表達式如下：

Y＝b[0]Z³+b[1]Z²+b[2]Z+b[3] (2)

此時Z表示設置值，為避免求取反函數，實際計算參數時Z取的卻是輸出真值，而Y取的是設置值。

(5)微處理器根據上述兩組校準系數和原始數據校正得到校準后的實測值和設置值。

從以上技術方案可知，本發明用于高精度源表一體化測量設備的新型校準方法是基于非線性最小二乘法的高效擬合方法，其選取三次樣條函數作為擬合函數。該方法無需求取反函數，也就避免了牛頓迭代法的求導和除法，而且只需要六次乘法和三次加法即可求取一組校準系數，無需先進算法復雜的計算過程和龐大的計算量，運算量非常小而且確保系統穩定，且能夠對寬量程范圍和高分辨率的SMU進行校準，易于實現，適用性強。

附圖說明

圖1是本發明的流程示意圖。

具體實施方式