「PIC AVR 工作室」サイトの日記的なブログです。
サイトに挙げなかった他愛ないことを日記的に書き残してます。
PIC AVR 工作室 ブログ



例によってFFTのライブラリをカスタムしながら
シミュレーション。出力数値のワイドレンジ化と
計算誤差を小さくするのをなんとか両立でき
ないかともがく。


表計算ソフトのシミュレーションでは行ってない
パターンも色々試してみると…予想外にレンジを
はみ出るケースがいっぱい。うーん…

やりようによっては両立できないこともないと
思うんだけど、あっちを立てればこっちが立たず…
みたいなことがいっぱいあって悩ましい…


多少の処理時間の長さに目をつぶってしまえば
ある程度の速度は得られるんだけど、最大で
数千クロック単位で長くなっちゃう。うーん。

あと、直流成分はどうしようもないんだよな…


あ、あともう一つ忘れてた。実数と虚数に2組の
信号を投入して、1回のFFT計算で2組の信号を
処理しちまおうと思ってたんだった。これも
加味すると、いま目論んでる方法でどこまで破綻
せずに処理できるのか、もう一度表計算ソフト
で洗いなおしておこうかな。



コメント ( 0 )
  • X
  • Facebookでシェアする
  • はてなブックマークに追加する
  • LINEでシェアする