OpenBMB オープンソース エッジサイド マルチモーダル ラージモデル MiniCPM-V 4.6

OpenBMBは、エッジコンピューティング向けの大規模マルチモーダルモデルであるMiniCPM-V 4.6をリリースしました。このモデルは、わずか13億個のLLMパラメータと約1.6GBのモデルサイズを持ち、スムーズに動作させるには最低6GBのメモリが必要です。llama.cppフレームワークをベースとしたこのモデルは、iOS、Android、およびHarmonyOS NEXTプラットフォーム上でのローカルオフライン展開を完全にサポートし、画像認識、OCR、動画認識などのマルチモーダル機能を備えています。