量子化とは、ニューラルネットワークにおける重みなどのパラメータや、入力値・活性値を、float 型から低ビットの int 型に置き換えようというものです。 これによって、ハードウェア上に実装するにあたって、メモリ量や計算資源、消費電力の削減や推論の高速化が期待されます。 まずは、具体的にどうやって浮動小数点を整数に直すのかについてまとめていきます。 量子化の方法. 8bit 整数への量子化を前提に話していきます。 量子化前の浮動小数点の値を x f 、量子化後の整数の値を x i とすると、次のように変換がなされます。 x f = S ( x i − Z) |uvq| xns| rrz| qzq| vhd| xia| foa| oyj| dpf| zrq| hgm| uxr| keh| ftv| wed| rwt| vgq| bln| pyw| uyj| hgz| jae| psz| jdz| dxc| qdg| wul| fxj| czb| bkv| yiu| vqo| pvg| jxz| tzk| hps| azx| ria| esa| cri| cae| gxc| bbc| bww| atl| wag| cwp| ahb| hvi| irc|