| r165 vs r166 | ||
|---|---|---|
| ... | ... | |
| 474 | 474 | [youtube(-GsrYvZoAdA)] |
| 475 | 475 | {{{#!if 1.1+0.1==1.2 |
| 476 | 476 | 테스트}}} |
| 477 | 요약해보자면, 소수값은 2진법 | |
| 477 | 요약해보자면, 소수값은 2진법 버림값으로 저장되므로 미묘한 오차가 발생한다고 한다. | |
| 478 | 478 | {{{#!if 1.1+0.1>1.2 |
| 479 | 실제 테스트 해보면 1.1+0.1은 1.2보다 | |
| 479 | 실제 테스트 해보면 1.1+0.1은 1.1으로 저장되는 값과 0.1으로 저장되는 값을 더하므로, 1.2으로 저장되는 값보다 '''크게''' 나오므로 1.1+0.1>1.2가 된다.}}} | |
| 480 | 480 | |
| 481 | 481 | 제곱근 |
| 482 | 482 | [math(2\times\sqrt{3}=\sqrt{12})] : 출력된다. |
| ... | ... |