1.6.2. - Precisione
Come precisione viene indicata la differenza tra la tensione reale di
uscita e la tensione teorica che si dovrebbe ottenere, per un dato codice d'ingresso.
Viene espressa come percentuale del valore di fondo scala della tensione d'uscita. Nel
caso ideale la precisione dovrebbe essere, nella peggiore delle ipotesi, pari a .
Questo parametro tiene conto di varie cause di errore, in particolare della non linearità del dispositivo e degli errori di guadagno e di offset della circuiteria interna.
In un convertitore D/A ideale, incrementi uguali del dato digitale d'ingresso devono produrre incrementi uguali del segnale d'uscita; pertanto la curva di trasferimento ingresso-uscita ideale può essere rappresentata con una retta.
L'errore di linearità è tipicamente provocato dall'indeterminazione nei valori dei resistori pesati ed esprime la massima deviazione della curva di trasferimento reale da quella ideale. Lo scarto massimo fra le due caratteristiche rappresenta l'errore di linearità, che si esprime generalmente in frazione di LSB.
L'errore di guadagno è associato all'indeterminazione del valore della resistenza di retroazione dell'amplificatore operazionale d'uscita.
L'errore di offset è attribuibile tipicamente alle derive (offset) dell'amplificatore operazionale o dei transistori di commutazione e sta ad indicare che l'uscita non è nulla anche se nessun ingresso è applicato.