フォーラムへの返信

1件の投稿を表示中 - 1 - 1件目 (全1件中)
  • 投稿者
    投稿
  • 返信先: DDC114の積分直線誤差の表記について #9116

    sefuku
    参加者

    ご回答ありがとうございます。
    お答えいただいた内容、承知いたしました。

    すると、例えば、20bit分解能設定(max1048576カウント)で、100000カウントのカウント値が得られた場合、
    ±0.025% Reading → 100000カウント× ±0.025% → ±25カウント
    ±1.0ppm FSR → 1048576カウント× ±1.0ppm → ±1.0カウント
    計、±26カウントの積分直線性誤差(Integral Linearity Error)になるという認識でよろしいでしょうか。

    以上ご回答よろしくお願いします。

1件の投稿を表示中 - 1 - 1件目 (全1件中)