부동소수점(float) 정밀도와 Decimal/Bigint가 필요한 이유
0.1 + 0.2가 왜 딱 떨어지지 않는지 float의 내부 표현으로 설명하고, 반복 덧셈과 연산 순서에 따라 오차가 커지는 과정, Decimal과 BigInt의 내부 구현과 사용법, 그리고 수치 오차로 장애가 났던 실무 사례를 정리합니다.
Continue reading »0.1 + 0.2가 왜 딱 떨어지지 않는지 float의 내부 표현으로 설명하고, 반복 덧셈과 연산 순서에 따라 오차가 커지는 과정, Decimal과 BigInt의 내부 구현과 사용법, 그리고 수치 오차로 장애가 났던 실무 사례를 정리합니다.
Continue reading »