ADC的分辨率被定义为输入信号值的最小变化，这个最小数值变化会改变数字输出值的一个数值。对于一个理想ADC来说，传递函数是一个步宽等于分辨率的阶梯。然而，在具有较高分辨率的系统中（≥16位），传输函数的响应将相对于理想响应有一个较大的偏离。这是因为ADC以及驱动器电路导致的噪声会降低ADC的分辨率。
A/D转换器的精确度是指对于给定模拟输入，实际数字输出与理论预期数字输出之间的接近度。换而言之，转换器的精确度决定了数字输出代码中有多少个比特表示有关输入信号的有用信息。
上图是基本ADC的测量电路，理想ADC生成一个数字输出代码，是关于模拟信号电压和电压参考输入的方程，其中输出代码 ＝满量程压 × [VIN+ - VIN-] / [VREF+ - VREF-] ＝ 满量程电压 × [VIN /VREF]
每个数字输出代码表示参考电压的一个小数值。必须注意，ADC动态范围将要转换的信号的最大振幅，这样才能使ADC转换精度最大化。
如上图所示 ，假设Vin = 2.5V，Vref = 3.3V，那么对于16位ADC，最低有效位就为 3.3/2^16 = 50.35uV，如果ADC的最大信号为2.5V，那么 2.5 / 1LSB = 49652,结果有15884未被利用，这次转换后的精度或ENOB损失就为0.4位。ENOB(有效位数) ＝1.44ln(满量程/LSB) ，损失 = 总的位数 - ENOB；