これ、GPUで頑張ってた民としてはマジでえぐい進化。なんでもっと注目浴びていないのか謎。（観測していないだけかもしれんが） MSResearchから、以前話題になったCPUでも動く超軽量モデルの最新版【bitnet-b1.58-2B-4T】がMITライセンスで登場。 高額GPUを使わんでここまで行けるの、真面目にゲームちゃんジャーになるはずなんよ。 前は会話なんてできなかったがたった半年でこれ。チャットできる。 わかりやすく、GPU使用率は変化しないしディスプレイ用にちょっと使われているレベル。 CPUで動く。 CPUでこの性能。等倍則の動画。 これ、何ができるって、高額なGPUなくてもこのレベル間の推論ができるようになっているってこと。 つまり特化型のデバイス基盤さえあれば、もうこういうレベルの推論はできるってこと。 マジでこれがドメイン特化、専用デバイス、超小型デバイスで動くアシスタントのベースラインになると、デバイスの単価も下がり、だれでも使えるレベルのものができるはず。 これはマジで追いかけたい。 つか、半年でこのレベルアップ、やばすぎやろ。