ニュース
月の裏側から生まれた全く新しいアテンションアーキテクチャ、Kimi Linearが登場した。
『Dark Side of the Moon』では、次世代エージェントLLMの基盤技術となることが期待される、新しいアテンションアーキテクチャ「Kimi Linear」が導入されています。その中核を成すのはKimi Delta Attention(KDA)であり、洗練されたゲーティングメカニズムと効率的なハードウェアアルゴリズムによって、性能と効率を大幅に向上させています。
『Dark Side of the Moon』では、次世代エージェントLLMの基盤技術となることが期待される、新しいアテンションアーキテクチャ「Kimi Linear」が導入されています。その中核を成すのはKimi Delta Attention(KDA)であり、洗練されたゲーティングメカニズムと効率的なハードウェアアルゴリズムによって、性能と効率を大幅に向上させています。