본문 바로가기

카테고리 없음

2020-12-29 20시 개발자 글 모음 | "반올림 할 줄 아세요? - 사사오입,"

반올림 할 줄 아세요? - 사사오입, 오사오입 그리고 코틀린 반올림 by 강관우 about Kotlin

  • 오사오입 규약이 제정되기 전 미국 국세청은 사사오입 반올림을 사용하다가 소송을 당한 사건이 있었다
  • 오사오입 반올림은 IEEE754 조항에 반올림 규약으로 규정됐고 오사오입 반올림은 뱅커스 라운딩이란 이름으로 돈에 민감한 금융계에서도 사용되고 있다
  • 이 오차는 Kotlin의 기본 round 함수는 뱅커스 라운딩(오사오입)을 사용하고 MySQL은 산술적 라운딩(사사오입)을 사용하기 때문에 생긴 오차이다