近似計算

Last updated Unknown Edit Source

IoTとエッジコンピューティング

• ある程度の計算誤差を許容する（大体合ってる計算を目指す）
  • その代わり、回路の処理速度向上/省エネルギーを目指す
• 「RMS (Recognition, Mining, Synthesis)」のタスクに使える
  • 機械学習とか画像生成とかみたいな、あいまい性のあるタスク
  • 特徴
    • 入力データー自体にノイズが多い
    • Golden result (唯一の正解）が存在しない
    • 人間の知覚

      知覚

      ...

      1/3/2023

      （曖昧）に依存（画像とか自然言語を生成する場合）
      • 自然言語処理

        自然言語処理

        Encodingの歴史 LV1 vector = (only one 1 (hot)) LV2 Tf-idf = appear...

        1/3/2023

        の「あいまいさ」の話と繋がる
      • Scrapbox

        Scrapbox

        をつなげて発想するのを人工的にやるってすごい -> の良いところとして、使い方が若干異なる同じ言葉が繋がることが挙げられると思う 例えば、「マルチモーダル」だと文脈によって具体的な意味がすごい変わる それらがマルチモーダルって言葉で化されたことで、繋がる その関係性について考えると、「マルチモーダル」についてなにか新しいことに気づくかも? 例: 「共通言語」のリンクを見ると分かりやすい Scrapboxの何がすごいかを一言で言うと、「リンクがめっちゃ簡単に作れる」なのかな 一的なノートしかとれないのがきつい /nishio/Scrapboxの良さ(その2)) https://goryugo.com/20180904/scrapbox_tips/ 階層型より型の方がみがあって、自分はしっくり来たのかも #すげー ...

        1/3/2023

        もそういう意味では曖昧と言える（「繋がり」は人間の知覚に依存）
    • 統計的/確率的
    • 自己回復作用
      • ex: 機械学習

        機械学習

        分類 あまり意識しないけど、機械学習等は基本的にを仮定している（連続空間） 距離を知りたかったらとか ...

        1/3/2023

        は収束するまで計算し続けるから、何度か間違えても良い
• どうやって「誤差を許容」する?
  • 小数点の表現
    • ex: 0.09
    • 32ビット使えば0.089999996まで表現できる
    • ただ、計算量/回路面積が増えてしまう
    • なので、精度を犠牲にして、値を少ないビット数で表せるように量子化する
  • 計算を端折る（ミシン目のイメージ）
  • データ再利用
  • そもそもの演算器自体を近似化
    • イメージ: 筆算をするときに右半分と左半分を別々にやるみたいな
    • ある桁のところで繰り上げができなくなるけど、まあいいかみたいな考え方