반응형
Notice
Link
목록산술오버플로우 (1)
스택큐힙리스트
십진 분수를 더할 때 부동 소수점 산술이 왜 정확한 결과를 제공하지 않을까요?
다음 코드를 고려하십시오: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004왜 이러한 부정확성이 발생하나요?답변 1이진수 계산은 이렇게 진행됩니다. 대부분의 프로그래밍 언어에서는 IEEE 754 standard을 기반으로 합니다. 문제의 핵심은 숫자가 2의 거듭제곱을 곱한 정수로 표현된다는 것입니다. 2의 거듭제곱이 아닌 분모를 가진 유리수(예: 0.1, 1/10)는 정확하게 표현될 수 없습니다.표준 binary64 형식의 0.1에 대해, 표현은 정확히 다음과 같이 작성할 수 있습니다.0.1000000000000000055511151231257827021181583404541015625를 십진수로 변환하면0x1.999999999999ap-4은(는) ..
카테고리 없음
2023. 3. 12. 10:50