반응형
Notice
Link
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | |||
5 | 6 | 7 | 8 | 9 | 10 | 11 |
12 | 13 | 14 | 15 | 16 | 17 | 18 |
19 | 20 | 21 | 22 | 23 | 24 | 25 |
26 | 27 | 28 | 29 | 30 | 31 |
Tags
- 머신러닝
- 사이버보안
- 프로그래밍언어
- 인공지능
- I'm Sorry
- 딥러닝
- 프로그래밍
- 데이터베이스
- Yes
- 데이터과학
- 데이터구조
- 버전관리
- 자료구조
- 2
- 네트워크보안
- 알고리즘
- 웹개발
- 소프트웨어공학
- 자바스크립트
- 파이썬
- 컴퓨터과학
- 데이터분석
- 빅데이터
- 컴퓨터비전
- 보안
- 컴퓨터공학
- 코딩
- 네트워크
- 소프트웨어
- 클라우드컴퓨팅
Archives
- Today
- Total
목록나눗셈오류 (1)
스택큐힙리스트
십진 분수를 더할 때 부동 소수점 산술이 왜 정확한 결과를 제공하지 않을까요?
다음 코드를 고려하십시오: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004왜 이러한 부정확성이 발생하나요?답변 1이진수 계산은 이렇게 진행됩니다. 대부분의 프로그래밍 언어에서는 IEEE 754 standard을 기반으로 합니다. 문제의 핵심은 숫자가 2의 거듭제곱을 곱한 정수로 표현된다는 것입니다. 2의 거듭제곱이 아닌 분모를 가진 유리수(예: 0.1, 1/10)는 정확하게 표현될 수 없습니다.표준 binary64 형식의 0.1에 대해, 표현은 정확히 다음과 같이 작성할 수 있습니다.0.1000000000000000055511151231257827021181583404541015625를 십진수로 변환하면0x1.999999999999ap-4은(는) ..
카테고리 없음
2023. 3. 12. 10:50