[發明專利]一種用于高精度源表一體化測量設備的新型校準方法有效
| 申請號: | 201910966129.0 | 申請日: | 2019-10-12 |
| 公開(公告)號: | CN110657833B | 公開(公告)日: | 2023-02-10 |
| 發明(設計)人: | 劉國福;徐偉專;甘偉;尚帥;文誠;胡能鋼;熊艷 | 申請(專利權)人: | 湖南銀河電氣有限公司 |
| 主分類號: | G01D18/00 | 分類號: | G01D18/00;G01R35/00;G06F17/10 |
| 代理公司: | 廣州凱東知識產權代理有限公司 44259 | 代理人: | 梁靈周 |
| 地址: | 410100 湖南省長*** | 國省代碼: | 湖南;43 |
| 權利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關鍵詞: | 一種 用于 高精度 一體化 測量 設備 新型 校準 方法 | ||
1.一種用于高精度源表一體化測量設備的新型校準方法,其特征包括以下步驟:
(1)獲取原始數據,包括SMU的輸出真值Y、實測值X和設置值Z;
(2)計算原始數據相對設置值的相對誤差,將相對誤差接近的采樣點劃分至同一個區間,對每個區間進行擬合;
(3)將輸出真值Y作為擬合對象,對實測值X進行擬合,得到一組校準系數,擬合表達式如下:
Y=a[0]X3+a[1]X2+a[2]X+a[3] (1)
(4)為避免求取反函數,將輸出真值Y代替設置值Z作為擬合對象,對設置值Z進行擬合,得到另一組校準系數,擬合表達式如下:
Y=b[0]Z3+b[1]Z2+b[2]Z+b[3] (2)
為避免求取反函數,實際計算參數時Z取輸出真值,Y取設置值;
(5)微處理器根據上述兩組校準系數和原始數據校正得到校準后的實測值和設置值。
該專利技術資料僅供研究查看技術是否侵權等信息,商用須獲得專利權人授權。該專利全部權利屬于湖南銀河電氣有限公司,未經湖南銀河電氣有限公司許可,擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作,請聯系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/201910966129.0/1.html,轉載請聲明來源鉆瓜專利網。





