부동소수점(float) 정밀도와 Decimal/Bigint가 필요한 이유
0.1 + 0.2가 왜 딱 떨어지지 않는지 float의 내부 표현으로 설명하고, 반복 덧셈과 연산 순서에 따라 오차가 커지는 과정, Decimal과 BigInt의 내부 구현과 사용법, 그리고 수치 오차로 장애가 났던 실무 사례를 정리합니다.
Continue reading »0.1 + 0.2가 왜 딱 떨어지지 않는지 float의 내부 표현으로 설명하고, 반복 덧셈과 연산 순서에 따라 오차가 커지는 과정, Decimal과 BigInt의 내부 구현과 사용법, 그리고 수치 오차로 장애가 났던 실무 사례를 정리합니다.
Continue reading »CPU 캐시의 동작 원리와 하드웨어·소프트웨어 프리패칭 기법을 정리하고 순차 처리가 왜 유리한지 짚습니다. numpy로 순차 접근과 랜덤 접근의 속도 차이를, 그리고 순차 검색이 이진 검색보다 빠른 경우를 실측으로 확인합니다.
Continue reading »