반응형
Notice
Link
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | |||
5 | 6 | 7 | 8 | 9 | 10 | 11 |
12 | 13 | 14 | 15 | 16 | 17 | 18 |
19 | 20 | 21 | 22 | 23 | 24 | 25 |
26 | 27 | 28 | 29 | 30 | 31 |
Tags
- 보안
- 딥러닝
- 파이썬
- 프로그래밍언어
- 컴퓨터비전
- 코딩
- 빅데이터
- 알고리즘
- 데이터과학
- 네트워크보안
- 데이터구조
- 데이터분석
- I'm Sorry
- 버전관리
- 프로그래밍
- 2
- Yes
- 자바스크립트
- 머신러닝
- 사이버보안
- 소프트웨어
- 인공지능
- 웹개발
- 데이터베이스
- 컴퓨터과학
- 네트워크
- 자료구조
- 클라우드컴퓨팅
- 소프트웨어공학
- 컴퓨터공학
Archives
- Today
- Total
목록소수점이동연산 (1)
스택큐힙리스트
십진 분수를 더할 때 부동 소수점 산술이 왜 정확한 결과를 제공하지 않을까요?
다음 코드를 고려하십시오: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004왜 이러한 부정확성이 발생하나요?답변 1이진수 계산은 이렇게 진행됩니다. 대부분의 프로그래밍 언어에서는 IEEE 754 standard을 기반으로 합니다. 문제의 핵심은 숫자가 2의 거듭제곱을 곱한 정수로 표현된다는 것입니다. 2의 거듭제곱이 아닌 분모를 가진 유리수(예: 0.1, 1/10)는 정확하게 표현될 수 없습니다.표준 binary64 형식의 0.1에 대해, 표현은 정확히 다음과 같이 작성할 수 있습니다.0.1000000000000000055511151231257827021181583404541015625를 십진수로 변환하면0x1.999999999999ap-4은(는) ..
카테고리 없음
2023. 3. 12. 10:50