AB
AiBoss
project

ReHiFace-S - Silicon Intelligence社によるリアルタイム顔置換AI技術

RReHiFace-Sは、Silicon Intelligenceチームが立ち上げたオープンソースプロジェクトで、高精度なリアルタイム顔置換AIアルゴリズムを実装しており、ユーザーは簡単な操作で動画やライブ配信中の顔を入れ替えることができます。

ReHiFace-Sとは何ですか?

ReHiFace-Sは、Silicon Intelligenceチームが立ち上げたオープンソースプロジェクトです。高精細なリアルタイム顔置換AIアルゴリズムを実装しており、簡単な操作で動画やライブストリーム内の顔を入れ替えることができます。ReHiFace-Sの特長としては、データ学習不要、高精細な顔置換、複数ターゲット顔置換のサポート、色補正、ワンクリック展開、Gradoユーザーインターフェース、ONNXフォーマットのサポートなどが挙げられ、様々なハードウェアプラットフォームやディープラーニングフレームワークへの展開が容易です。顔置換技術の導入障壁を大幅に低減し、エンターテインメント、映画制作、VR/ARなどの分野に適しています。

ReHiFace-Sの主な機能

  • リアルタイム処理機能NVIDIA GTX 1080Tiなどのハードウェアでは、リアルタイムの顔置換が実現されています。
  • ゼロショット推論特別な訓練なしで顔の置き換えをサポートします。
  • 高精度の顔交換高度なアルゴリズムを用いて顔交換後の画像品質を維持し、交換後の画像が自然でディテールに富んだものになるようにします。
  • ONNXをサポートこれは、ONNX(Open Neural Network Exchange)フォーマットに基づいて、さまざまな深層学習フレームワークやハードウェアプラットフォーム間でのモデル変換と展開を可能にします。
  • ライブカメラモードリアルタイムカメラから画像をキャプチャし、顔を置き換える機能をサポートしているため、ライブストリーミングやビデオ通話などのシナリオに適しています。
  • 改良された顔分割モデルXsegモデルは、より正確な顔面セグメンテーションを実現するために使用され、顔が遮蔽されている場合でも良好なセグメンテーション結果を維持します。

ReHiFace-Sの技術原理

  • ディープラーニング顔の特徴を識別・理解するために、深層学習アルゴリズム、特に畳み込みニューラルネットワーク(CNN)を使用する。
  • 顔検出顔検出アルゴリズムは、画像や動画の中から顔の位置を特定するために使用されます。
  • 特徴点位置特定: 後々の顔の位置合わせのために、目、鼻、口の位置など、顔の主要な特徴を特定します。
  • 顔面セグメンテーションこの技術は、顔のセグメンテーションを用いて顔を背景から分離し、顔画像を個別に処理します。
  • 敵対的生成ネットワーク(GAN)この技術は、GAN(敵対的生成ネットワーク)に基づいてリアルな顔画像を生成します。GANは、画像を生成する生成ネットワークと、画像のリアリティを評価する識別ネットワークで構成されています。
  • 顔の特徴の整列と融合ソースとなる顔の特徴とターゲットとなる顔の特徴を合わせ、ソースとなる顔の画像をターゲットとなる顔に合成することで、顔を入れ替えたような効果を実現します。

ReHiFace-Sプロジェクトのアドレス

ReHiFace-Sの応用事例

  • 映画およびテレビ制作映画やテレビシリーズのポストプロダクションにおいて、これは俳優の表情や顔の特徴を置き換えたり修正したりする作業を指します。
  • バーチャルストリーマーライブ配信や動画制作において、仮想アバターをアンカーとして活用することで、より多様な表現方法が可能になる。
  • ゲームとエンターテイメントゲーム内のノンプレイヤーキャラクター(NPC)向けにリアルな顔のアニメーションを作成したり、エンターテイメントアプリケーションで顔交換効果を提供したりできます。
  • ソーシャルメディアユーザーはソーシャルメディアプラットフォーム上で顔交換技術を利用して楽しい動画や画像を作成し、インタラクティブ性とエンターテイメント性を高めている。
  • 教育と訓練シミュレーション訓練では、学習体験を向上させるために、リアルな仮想教師や訓練シナリオを作成する。