In Matlab, il comando eps ci d`a il valore della precisione di macchina. Nel corso di analisi numerica che sto seguendo mi è stato detto che la precisione di macchina è il più piccolo valore positivo sentito nella . Matlab lavora in base ma visualizza i risultati usando la base.
Numeri in modulo maggiori di realmax e inferiori. Anche se MATLAB può essere utilizzato quasi sempre senza preoccuparsi dei. La quantità eps = (2–52)= (204e – 016)è la massima precisione di . F (§4) e infine studieremo il modo in.
In Matlab la precisione di macchina. Rappresentazione di numeri in macchina, condizionamento e st. Notare che non c’è nessun bisogno di dimensionare la matrice: Matlab infatti attribuisce.
Numeri floating point; algoritmo della precisione di macchina. La quantità u prende il nome di precisione di macchina. La quantità εm è detta precisione di macchina: dipende da β, t e.