Precisão aritmética

A precisão de um valor numérico descreve o número de dígitos que são usados para mostrar esse valor. Em um cenário científico, este seria o número total de dígitos (às vezes chamados de algarismos significativos ou dígitos significativos) ou, menos comumente, o número de dígitos fracionários ou casas decimais (o número de dígitos após o ponto decimal). Esta segunda definição é útil em aplicações financeiras e de engenharia onde a contagem de dígitos na parte fracionária tem particular importância.

Em ambos os casos, o termo "precisão" pode ser usado para descrever a posição na qual um resultado impreciso será arredondado. Por exemplo, na aritmética de ponto flutuante, um resultado é arredondado para uma precisão determinada ou fixa, que é o comprimento do significado resultante. Nos cálculos financeiros, um número é frequentemente arredondado para um determinado número de casas (por exemplo, para duas casas após o separador decimal para muitas moedas mundiais).

Como exemplo, a quantidade decimal 12.345 pode ser expressa com vários números de dígitos significativos ou casas decimais. Se não houver precisão suficiente, então o número é arredondado de alguma forma para se adequar à precisão disponível. A tabela a seguir mostra os resultados para várias precisões totais e casas decimais arredondadas para o valor mais próximo usando o método de arredondamento para pares.

Observe que muitas vezes não é apropriado exibir uma figura com mais dígitos do que aquela que pode ser medida. Por exemplo, se um dispositivo mede até a grama mais próxima e dá uma leitura de 12,345 kg, ele criaria falsa precisão se a medição fosse expressa "12,34500 kg" com 2 zeros extras ("00") no final.

A representação de um número positivo x a uma precisão de p dígitos significativos tem um valor numérico que é dado pela fórmula

redondo(10-n-x)-10n, onde n = piso(log10 x) + 1 - p.

Para um número negativo, o valor numérico é menos o do valor absoluto. O número 0, para qualquer precisão, pode ser considerado como 0.

Páginas relacionadas

Perguntas e Respostas

P: O que é precisão em um valor numérico?


R: Precisão em um valor numérico descreve o número de dígitos que são usados para mostrar esse valor.

P: Como pode ser usada precisão para descrever a posição em que um resultado impreciso será arredondado?


R: A precisão pode ser usada para descrever a posição em que um resultado impreciso será arredondado, estabelecendo uma precisão determinada ou fixa, que é o comprimento do significado resultante. Nos cálculos financeiros, um número é freqüentemente arredondado para um determinado número de casas (por exemplo, duas casas após o separador decimal para muitas moedas mundiais).

P: Como podem ser expressos 12.345 com vários números de dígitos significativos ou casas decimais?


R: 12.345 podem ser expressos com vários números de algarismos significativos ou casas decimais, arredondando-o de acordo com a precisão disponível, usando o método de arredondamento para pares.

P: O que acontece quando a precisão disponível é insuficiente?


R: Quando a precisão é insuficiente, então o número é arredondado de alguma maneira para se adequar à precisão disponível.

P: É apropriado exibir um número com mais dígitos do que aquele que pode ser medido?


R: Não, não é apropriado exibir um número com mais dígitos do que aquele que pode ser medido, pois isso cria uma falsa precisão. Por exemplo, se um aparelho mede até a grama mais próxima e dá uma leitura de 12,345 kg, criaria falsa precisão se a medida fosse expressa "12,34500 kg" com 2 zeros a mais ("00") no final.

P: Que fórmula representa números positivos x a um p significativo de precisão?


R: A fórmula que representa números positivos x para uma precisão p dígitos significativos tem valor numérico dado por arredondamento(10-n-x)-10n onde n = piso(log10 x) + 1 - p . Para números negativos, o valor numérico é menos o de seu valor absoluto e 0 tem qualquer precisão tomada como 0

AlegsaOnline.com - 2020 / 2023 - License CC3