MCU

非力なMCUで小数点を扱う



って、大した事を書くわけではありません。
ちなみに、科学技術で使うような演算を行うのならば、パッケージを入れた方が良いです。
(MCU使ってフーリエ計算するのかは分からないですが、楽器のエフェクターなんか使いそう)

制御系でよく出てくるような、少数以下数桁程度の精度のものは・・・

100倍とか、1000倍して整数で計算すれば良いのです。

幸いな事に、最近のMCUは32ビットを扱えるものが多いので、たいてい間に合います。
符号付でも、±2,147,483,647まで表現できるので、少数以下3桁でも、表記できるのは…
±2,147,483.647となります。
太陽の温度を測ろうとしなければ、大丈夫です。
整数で演算ならば、掛け算/割り算の処理も、そこそこ早いですしね・・・。

最終更新のRSS
Last-modified: 2010-03-26 (金) 14:36:01 2889日前
HTML convert time: 0.070 sec.