2024-04-23から1日間の記事一覧

浮動小数点数の整数を正確に表現できる限界

https://peta.okechan.net/blog/archives/2418 https://qiita.com/maiyama18/items/9956bdc3464b7520e04a 浮動小数点数は指数表現なので大きな数を表現できるが情報を表現するためのビット数は決まっているので、誤差なく正確に表現できる桁数には限界がある…