開始したトピック 返信リスト フォーラムへの返信 1件の投稿を表示中 - 1 - 1件目 (全1件中) 投稿者 投稿 2019年12月3日 5:16 PM 返信先: DDC114の積分直線誤差の表記について #9116 sefuku参加者 ご回答ありがとうございます。 お答えいただいた内容、承知いたしました。 すると、例えば、20bit分解能設定(max1048576カウント)で、100000カウントのカウント値が得られた場合、 ±0.025% Reading → 100000カウント× ±0.025% → ±25カウント ±1.0ppm FSR → 1048576カウント× ±1.0ppm → ±1.0カウント 計、±26カウントの積分直線性誤差(Integral Linearity Error)になるという認識でよろしいでしょうか。 以上ご回答よろしくお願いします。 投稿者 投稿 1件の投稿を表示中 - 1 - 1件目 (全1件中)