반응형
Notice
Link
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | |||
5 | 6 | 7 | 8 | 9 | 10 | 11 |
12 | 13 | 14 | 15 | 16 | 17 | 18 |
19 | 20 | 21 | 22 | 23 | 24 | 25 |
26 | 27 | 28 | 29 | 30 | 31 |
Tags
- 버전관리
- 소프트웨어
- 인공지능
- 딥러닝
- 보안
- 소프트웨어공학
- 데이터분석
- 프로그래밍
- 자바스크립트
- 2
- 클라우드컴퓨팅
- 컴퓨터비전
- 네트워크
- 파이썬
- 코딩
- 네트워크보안
- 머신러닝
- 컴퓨터공학
- 자료구조
- Yes
- 컴퓨터과학
- 데이터과학
- 데이터베이스
- 알고리즘
- 웹개발
- 빅데이터
- I'm Sorry
- 데이터구조
- 프로그래밍언어
- 사이버보안
Archives
- Today
- Total
목록소수점이동연산 (1)
스택큐힙리스트
십진 분수를 더할 때 부동 소수점 산술이 왜 정확한 결과를 제공하지 않을까요?
다음 코드를 고려하십시오: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004왜 이러한 부정확성이 발생하나요?답변 1이진수 계산은 이렇게 진행됩니다. 대부분의 프로그래밍 언어에서는 IEEE 754 standard을 기반으로 합니다. 문제의 핵심은 숫자가 2의 거듭제곱을 곱한 정수로 표현된다는 것입니다. 2의 거듭제곱이 아닌 분모를 가진 유리수(예: 0.1, 1/10)는 정확하게 표현될 수 없습니다.표준 binary64 형식의 0.1에 대해, 표현은 정확히 다음과 같이 작성할 수 있습니다.0.1000000000000000055511151231257827021181583404541015625를 십진수로 변환하면0x1.999999999999ap-4은(는) ..
카테고리 없음
2023. 3. 12. 10:50