EXAONE 3.5 - LGがリリースしたオープンソースのAIモデルで、長文の処理やモデルの錯覚問題の軽減に優れている。 - AiBoss

EXAONE 3.5とは何ですか？

EXAONE 3.5は、LG AI研究所が開発したオープンソースのAIモデルで、パラメータ数が24億、78億、320億の3つのバージョンが用意されています。EXAONE 3.5は長文処理に優れており、ベンチマークテスト、特に実用アプリケーション、長文処理、数学において優れた性能を発揮します。このモデルは、検索強化生成技術と多段階推論機能を採用することで、エラーメッセージを効果的に削減し、精度を向上させています。LGは、AI機能をさらに拡張し、高度なクエリ分析機能とユーザー定義の検索機能を備え、暗号化とプライバシー保護技術を搭載することで社内での安全な利用を保証するエンタープライズグレードのAIエージェントサービス「ChatEXAONE」をリリースする予定です。

EXAONE 3.5の主な特徴

複数バージョンモデルのサポート本システムは、さまざまなアプリケーションシナリオや計算リソースの制約に対応できるよう、パラメータスケールが異なる3つのモデルを提供します。
指示遵守機能実世界のシナリオにおいて優れたコマンド遵守能力を発揮し、複数のベンチマークテストで最高スコアを獲得した。
長文の文脈理解長文処理に優れており、最大32,000トークンの文脈を効果的に理解し、処理します。
バイリンガル能力韓国語と英語の優れたバイリンガル能力を持ち、特に韓国語と英語の両方におけるベンチマークテストで傑出した成績を収めている。
検索強化生成技術検索機能を強化した生成技術を用いて、参照資料やウェブ検索結果に基づいて回答を生成する。
多段階推論能力多段階の推論能力を備えているため、「幻覚」現象を効果的に軽減し、回答の精度を向上させる。

EXAONE 3.5の技術的原理

トランスフォーマーアーキテクチャこれは、最新のデコーダー専用Transformerアーキテクチャに基づいた深層学習モデルであり、シーケンシャルデータの処理に使用されます。
長時間のコンテキスト処理EXAONE 3.0では、ロングコンテキストの微調整技術を用いることで、コンテキストの最大長が4,096トークンから32,768トークンに増加しました。
研修前と研修後：
- 事前トレーニング第1段階では、大規模な訓練コーパスを用いた事前学習を行い、第2段階では、特に長い文脈を理解する能力の向上など、改善が必要な分野に関するデータ収集と事前学習を行う。
- トレーニング後これには、教師あり微調整（SFT）と嗜好最適化が含まれ、モデルが指示に従う能力と人間の嗜好との一貫性を向上させます。
データコンプライアンス法的リスクを最小限に抑えるため、データ収集、モデルトレーニング、情報提供の各段階でAIコンプライアンスレビューを実施する。
検索強化生成（RAG）技術検索と生成を組み合わせることで、モデルはより長いコンテキストを処理できるようになり、複雑なシナリオにも適用できるようになります。

EXAONE 3.5プロジェクトのアドレス

プロジェクト公式サイト：lgresearch.ai/blog/view
GitHubリポジトリ：https://github.com/LG-AI-EXAONE/EXAONE-3.5
ハギングフェイスモデルライブラリ：https://huggingface.co/collections/LGAI-EXAONE/exaone-35
arXiv技術論文：https://arxiv.org/pdf/2412.04862

EXAONE 3.5の適用シナリオ

チャットボットとカスタマーサービスチャットボットの中核として、顧客からの問い合わせや要望に対応し、24時間365日即時サービスを提供します。
言語翻訳と異言語理解バイリンガル機能に基づいて、翻訳作業を支援し、異なる言語背景を持つユーザー間の効果的なコミュニケーションを促進します。
コンテンツの作成と編集このモデルは創造的な文章を生成することができ、編集者やライターがアイデアを広げ、コンテンツ制作の効率と質を向上させるのに役立ちます。
教育と研究教育分野においては、学生が言語を学習したり、学術的な質問に答えたりするのを支援する補助的なツールとして機能します。
情報検索と知識管理企業においては、従業員が必要な情報を迅速に見つけるのに役立ち、業務効率と意思決定の質を向上させる。