確度
高速信号を扱う波形観察器に一般的に用いられる精度表記です。
例）「±0.21％ of 20DIV」の波形観察器を「1V/DIV」で使用した場合の確度
±0.21％×20V=±0.042
従って確度は±0.042Vとなります。
分解能
入力信号を分解できる細かさ。
計測器のA/D変換素子で決まっています。
例）分解能14bit、「±0.21％ of 20DIV」の波形観察器を「1V/DIV」で使用した場合の分解能
20V÷214（16384）≒0.00122V
従って1.22mVが理論上の最小読み取り値になります。
