Skip to content Skip to navigation Skip to footer
概要

AIワークロードとLLMを最適化して保護

独自の生成AI搭載アプリケーションを構築する企業向けに、FortiAIGateは アプリケーション配送とAIランタイムセキュリティ機能を組み合わせ、FortiAIGateは大規模言語モデル(LLM)をセキュリティリスクから保護するように設計されています。アプリとモデルの間に展開され、トラフィックフローを管理し、モデルの入出力にガードレールを適用することで、モデル操作、プロンプトインジェクション、過剰消費、データ漏洩を防止します。

特長と利点

FortiAIGateの主な機能

secure ai at runtime fortiaigate
セキュリティ適用

実行時にAIを保護

各LLMエンドポイントに入力されるユーザー入力を検査するために適用されるカスタマイズされたガードレールは、プロンプトインジェクション、ジェイルブレイク、モデルポイズニング、過剰消費の試みを正確に検出します。

クリティカルパスにあるコンテキスト対応DLPエンジンは、インバウンドおよびアウトバウンドトラフィックを監視して、PIIおよび機密データの抽出、モデル抽出を防止します。 


 

LLMファイアウォール

AIファイアウォールの登場

企業は、LLMとGenAIを顧客向けWebアプリ、チャットボット、社内ツールに急速に統合しています。これらのAIサービスは、動的で非構造化された性質により、特殊な保護を必要とするAPIやモデルを公開することが多く、コストが高く、誤用のリスクも高くなります。従来のAPIゲートウェイやWAFは、この種のトラフィックを検査して保護するように設計されていないため、新しいタイプのソリューションが求められています。
  • 簡単な管理
    組み込みGUI、手動でのYAML設定やPythonコーディングは不要
    easy management dashboard ui fortiaigate
  • 完全な可視性
    疑わしいトラフィックの可視性と、OWASP Top 10 for LLM Applicationsリストへの明確なマッピング
    complete visibility fortiaigate v2
  • セキュアプロキシ
    APIゲートウェイやDDoS対策を含む、広範なLLMプロキシおよびセキュリティ機能
    secure proxy llm fortiaigate
easy management dashboard ui fortiaigate
complete visibility fortiaigate v2
secure proxy llm fortiaigate
optimize model performance fortiaigate
サービス提供

モデルパフォーマンスの最適化

コンテナ化されたローカルデプロイメントにより、軽量なフットプリント、スケーラビリティ、インテリジェントなLLMトラフィックステアリングを実現します。FortiAIGateは、アプリとモデルの間のプロキシとして機能し、配送を最適化します。さらに、出力キャッシングにより、モデルから重複タスクをオフロードし、トークン消費と計算コストを削減しながら、ユーザーエクスペリエンスを向上させます。


 

動的AIワークロード

動的AIワークロードの保護とスケーリング

動的AIワークロードは、モデルや環境間で変化するため、プラットフォームは弾力的にスケールし、パフォーマンスを維持し、最小限の摩擦で運用を保護する必要があります。FortiAIGateは、需要に応じた自動適応、インテリジェントなトラフィックルーティング、モデル悪用に対する保護を可能にし、AIアプリケーションを高速、信頼性が高く、安全に保ちます。
  • スケーラブルで柔軟なデプロイメント
    K8s Ingressコントローラーとロードバランサーを内蔵
    scalable and flexible deployment fortiaigate
  • 優れた性能
    マルチGPUおよびSmartNICアクセラレーションにより、低遅延のプロキシオフロードを実現。
    high performance fortiaigate
  • エンドツーエンドのAIランタイムセキュリティ
    入力と出力にガードレールを適用し、モデルに入ってくるトラフィックをサニタイズし、漏洩したPIIを排除
    end end ai runtime security fortiaigate
scalable and flexible deployment fortiaigate
high performance fortiaigate
end end ai runtime security fortiaigate

FortiAIGate FAQ

FortiAIGateは何から保護しますか?

FortiAIGateは、プロンプトインジェクション、データ漏洩、モデルポイズニング、過剰なリソース消費、その他の新たなAI固有のリスクからLLMを保護します。

FortiAIGateは従来のファイアウォールやWAFとどう違いますか?

ネットワークまたはWebトラフィックを検査する従来のツールとは異なり、FortiAIGateは自然言語のやり取りを理解し、アプリケーションとモデルの間で直接AI固有のランタイム保護を適用します。

FortiAIGateはオンプレミスおよびクラウドベースのLLMデプロイメントをサポートしていますか?

もちろんです。FortiAIGateは、コンテナ化されたアーキテクチャやKubernetesベースのアーキテクチャを含む、プライベートおよびハイブリッドAI環境の両方に対応した、柔軟でスケーラブルなデプロイメントオプションを提供します。

FortiAIGateはどのようにAIコストの管理を支援しますか?

コンピューティング消費を増大させる過剰または悪意のあるクエリを検出して軽減することで、FortiAIGateはGPU使用率を最適化し、全体的な運用コストを削減します。

お問い合わせ

セキュリティエキスパートへのお問い合わせ