반응형
Notice
Link
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | |||
5 | 6 | 7 | 8 | 9 | 10 | 11 |
12 | 13 | 14 | 15 | 16 | 17 | 18 |
19 | 20 | 21 | 22 | 23 | 24 | 25 |
26 | 27 | 28 | 29 | 30 | 31 |
Tags
- Yes
- 프로그래밍
- 자료구조
- 빅데이터
- 소프트웨어
- 컴퓨터공학
- 데이터구조
- 보안
- 자바스크립트
- 파이썬
- 컴퓨터과학
- 코딩
- 컴퓨터비전
- 데이터베이스
- 알고리즘
- 웹개발
- 버전관리
- 인공지능
- 데이터분석
- I'm Sorry
- 데이터과학
- 네트워크
- 네트워크보안
- 프로그래밍언어
- 머신러닝
- 딥러닝
- 사이버보안
- 소프트웨어공학
- 2
- 클라우드컴퓨팅
Archives
- Today
- Total
목록임계값오차 (1)
스택큐힙리스트
십진 분수를 더할 때 부동 소수점 산술이 왜 정확한 결과를 제공하지 않을까요?
다음 코드를 고려하십시오: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004왜 이러한 부정확성이 발생하나요?답변 1이진수 계산은 이렇게 진행됩니다. 대부분의 프로그래밍 언어에서는 IEEE 754 standard을 기반으로 합니다. 문제의 핵심은 숫자가 2의 거듭제곱을 곱한 정수로 표현된다는 것입니다. 2의 거듭제곱이 아닌 분모를 가진 유리수(예: 0.1, 1/10)는 정확하게 표현될 수 없습니다.표준 binary64 형식의 0.1에 대해, 표현은 정확히 다음과 같이 작성할 수 있습니다.0.1000000000000000055511151231257827021181583404541015625를 십진수로 변환하면0x1.999999999999ap-4은(는) ..
카테고리 없음
2023. 3. 12. 10:50