ニュース
アントロピック社の研究では、有効性と有用性を用いて干渉の重みを特徴づけている。
人間工学の研究者たちは、ニューラルネットワークにおける干渉重みをその有効性と有用性に基づいて分析することを提案し、影響力の大きい重みのほとんどがモデルの動作に役立つことを観察した。
人間工学の研究者たちは、ニューラルネットワークにおける干渉重みをその有効性と有用性に基づいて分析することを提案し、影響力の大きい重みのほとんどがモデルの動作に役立つことを観察した。
実験対象は、約290万個のパラメータを持つ単層マイクロトランスフォーマーであり、その結果を現在の最先端の大規模モデルに直接外挿することはできない。