documents:code:code-001
差分
このページの2つのバージョン間の差分を表示します。
両方とも前のリビジョン前のリビジョン | |||
documents:code:code-001 [2025/02/01 12:08] – [精度の話(0~0.999で計算してみる)] k896951 | documents:code:code-001 [2025/02/01 12:12] (現在) – [精度の話(0~0.999で計算してみる)] k896951 | ||
---|---|---|---|
行 83: | 行 83: | ||
r10nums | r10nums | ||
- | # 0~15bitの各bitの数値を足し込んでいく | + | # 0~15bitの各bitの数値を足し込んでいく。表現したい数値を越えない場合に足し込んでいる。 |
r2numStr | r2numStr | ||
r10num | r10num |
documents/code/code-001.txt · 最終更新: 2025/02/01 12:12 by k896951