JoySafety - JD.comのオープンソース大規模セキュリティフレームワーク - AiBoss

JoySafetyとは何ですか？

JoySafetyは、JD.comが提供するオープンソースの大規模モデルセキュリティフレームワークであり、企業向けに成熟した信頼性の高い無料の大規模モデルセキュリティ保護ソリューションを提供します。BERT、FastText、Transformerなどの様々なアトミック機能モジュールと柔軟なアーキテクチャ設計に基づき、高い同時実行性、高い拡張性、動的なポリシー更新をサポートし、高リスクコンテンツを効果的にブロックして、AIアプリケーションの安全かつ安定した動作を保証します。また、ワンクリックDocker起動と標準化されたAPIインターフェースをサポートし、簡単かつ迅速な統合を実現するため、使いやすさにも優れています。

JoySafetyの主な機能

コンテンツセキュリティテスト機密性の高いコンテンツを傍受し、赤線による警告表示とインテリジェントな修正を行うことで、出力コンテンツが法的および倫理的な要件に準拠することを保証し、企業とユーザーにとって安全で信頼性の高いAIインタラクション環境を提供します。
データセキュリティ保護データ漏洩を検知・防止し、ユーザー入力およびモデル出力に含まれる機密情報を特定・保護し、データ処理がプライバシー規制に準拠していることを保証する。
攻撃と防御を促す多段階対話認識技術に基づき、文脈をインテリジェントに分析し、悪意のあるプロンプトワード攻撃を識別して防御することで、AI対話システムのセキュリティと安定性を確保します。
戦略のオーケストレーションと動的な更新APIを介したセキュリティポリシーの動的な調整をサポートし、ホットスワップ可能なアトミック機能を実現し、さまざまなビジネスシナリオに柔軟に対応し、サービスの中断なしに検出モジュールを更新できるようにします。
高い拡張性と負荷分散クラスタ構成をサポートし、水平スケーリングとインテリジェントな負荷分散技術によってシステムの同時処理能力を強化することで、高並行処理を必要とするビジネスニーズに対応します。
使いやすさと統合性Docker Composeによるワンクリック起動を可能にし、標準化されたAPIインターフェースを提供し、多言語呼び出しをサポートし、既存システムとの迅速な統合を容易にします。

JoySafetyの技術原則

マルチモデル協調検出本システムは、様々な事前学習済みモデル（BERT、FastText、Transformerなど）を用いて入力コンテンツを分類・検出することで、潜在的なリスクを特定します。機密性の高い単語データベースとレッドライン知識ベースを組み合わせることで、正確な傍受と代理応答戦略を実現します。
非同期検出メカニズム非同期出力メカニズムを採用することで、検出タスクを主要な業務プロセスから切り離し、応答速度を大幅に向上させ、ユーザーの待ち時間を短縮します。また、複数ターンにわたる対話コンテキストを通じて、潜在的なプロンプトワード攻撃や悪意のある誘導をインテリジェントに識別し、対話のセキュリティを確保します。
ダイナミック戦略アップデートアトミック機能によるホットスワップは、サービスの再起動を必要とせずに、実行時に検出モジュールを動的に更新することを可能にします。軽量なオーケストレーションエンジンにより、さまざまなビジネスニーズに合わせて検出戦略を柔軟に構成できます。
インテリジェントな負荷分散水平スケーリングをサポートし、負荷分散技術によってシステムの同時実行性を向上させます。ウィンドウ検出戦略は、パフォーマンスと精度のバランスを取り、システムリソースの利用効率を最適化します。

JoySafetyのプロジェクトアドレス

GitHubリポジトリ：https://github.com/jd-opensource/JoySafety

JoySafetyの応用事例

AIショッピングガイド電子商取引プラットフォーム向けに安全で信頼性の高い推奨コンテンツを提供し、消費者を誤解させることを避け、推奨情報が法律および倫理基準に準拠していることを保証する。
物流カスタマーサービス物流における顧客サービスにおいては、不適切な発言や機密情報を遮断し、法令遵守に基づいた顧客サポートを提供し、サービス品質を向上させることが含まれます。
販売アシスタントこれは、営業担当者が機密情報の漏洩を防ぎ、企業秘密を保護し、顧客とのコミュニケーションにおける法的リスクを回避するのに役立ちます。
医療相談医療相談における不適切なコンテンツをフィルタリングすることで、提供される医療アドバイスが安全で信頼性が高く、医療規制および倫理的要件に準拠していることを保証します。
商人の作業台プラットフォーム上の加盟店のデータセキュリティを保護し、プライバシーの漏洩を防ぎ、加盟店情報がプライバシー規制に準拠していることを保証します。