playXP

로그인

자유 게시판
Page. 6307 / 12520 [내 메뉴에 추가]
글쓰기
작성자 므너상
작성일 2014-01-08 18:04:01 KST 조회 258
제목
계산기에서 약간에 오차가 있는 이유가 뭔가요
파일포켓 이미지
ㅇㅇ?

지속적인 허위 신고시 신고자가 제재를 받을 수 있습니다.
신고 사유를 입력하십시오:

발도장 찍기
아이콘 미스틱케이지 (2014-01-08 18:06:09 KST)
0↑ ↓0
센스 이미지
CPU의 한계로 반올림 하는 자리가 달라서요
므너상 (2014-01-08 18:06:23 KST)
0↑ ↓0
센스 이미지를 등록해 주세요
엘샤다이는 없던걸로
아이콘 어그로중독자 (2014-01-08 18:08:41 KST)
0↑ ↓0
센스 이미지
2진수로 표현하는 과정에서 Quantization Error가 발생
므너상 (2014-01-08 18:09:24 KST)
0↑ ↓0
센스 이미지를 등록해 주세요
그렇다면 cpu성능이 극한으로 올라간다고 해도 안됨?
아이콘 어그로중독자 (2014-01-08 18:11:59 KST)
0↑ ↓0
센스 이미지
오차가 줄어드는 것일뿐
아이콘 어그로중독자 (2014-01-08 18:13:14 KST)
0↑ ↓0
센스 이미지
다만 숫자를 소숫점으로 처리하지 않고 기호처럼 처리하는 소프트웨어가 존재
아이콘 개념의극한 (2014-01-08 18:15:32 KST)
0↑ ↓0
센스 이미지
2진수는 부동소수점 표현 제대로 안됨
아이콘 개념의극한 (2014-01-08 18:16:53 KST)
0↑ ↓0
센스 이미지
컴퓨터는 0.1더하기 0.1 도 정확히 계산 못함

요즘 씨퓨가 아마 0.200000000016 이정도일듯?
댓글을 등록하려면 로그인 하셔야 합니다. 로그인 하시려면 [여기]를 클릭하십시오.
롤토체스 TFT - 롤체지지 LoLCHESS.GG
소환사의 협곡부터 칼바람, 우르프까지 - 포로지지 PORO.GG
배그 전적검색은 닥지지(DAK.GG)에서 가능합니다
  • (주)플레이엑스피
  • 대표: 윤석재
  • 사업자등록번호: 406-86-00726

© PlayXP Inc. All Rights Reserved.