努力したWiki

推敲の足りないメモ書き多数

ユーザ用ツール

サイト用ツール


documents:code:code-001

差分

このページの2つのバージョン間の差分を表示します。

この比較画面へのリンク

両方とも前のリビジョン前のリビジョン
documents:code:code-001 [2025/02/01 12:08] – [精度の話(0~0.999で計算してみる)] k896951documents:code:code-001 [2025/02/01 12:12] (現在) – [精度の話(0~0.999で計算してみる)] k896951
行 83: 行 83:
  r10nums   = [ 0.0, 0.0, 0.0, 0.0, 0.0 ]  # 10進数表示用  r10nums   = [ 0.0, 0.0, 0.0, 0.0, 0.0 ]  # 10進数表示用
   
- # 0~15bitの各bitの数値を足し込んでいく+ # 0~15bitの各bitの数値を足し込んでいく。表現したい数値を越えない場合に足し込んでいる。
  r2numStr  = ""  r2numStr  = ""
  r10num    = 0.0  r10num    = 0.0
documents/code/code-001.txt · 最終更新: 2025/02/01 12:12 by k896951

Donate Powered by PHP Valid HTML5 Valid CSS Driven by DokuWiki