2007-12-01から1ヶ月間の記事一覧
とある教授と話をしていて「なるほど!」と思ったのでメモ。 ベクトルの正規化などで平方根を求めたいけど 平方根は回路的にコストが高い。そんなときに使うウラワザ。 浮動小数は仮数と指数に分けて という形で記録されているけれど、ここでaにあたる仮数部…
とある教授と話をしていて「なるほど!」と思ったのでメモ。 ベクトルの正規化などで平方根を求めたいけど 平方根は回路的にコストが高い。そんなときに使うウラワザ。 浮動小数は仮数と指数に分けて という形で記録されているけれど、ここでaにあたる仮数部…