Meta社は、300億個のパラメータを持つ大規模な言語モデル「Muse Glimmer」をオープンソース化した。

Meta社は、300億個のパラメータを持つモデル「Muse Glimmer」をリリースしました。ローカル常駐型動作を前提に設計されたこのモデルは、4ビット量子化とDFlashの投機的復号技術を採用し、Macやコンシューマー向けGPUなど、24GBのビデオメモリを搭載したデバイス上でスムーズに動作します。オフライン動作、マルチモーダル知覚、ツール呼び出し、コード記述にも対応しています。