安全な企業向けAI

SSO、Active DirectoryなどのID基盤と接続します。利用者、グループ、分類、レコードとの関係に基づくポリシーをモデルの外で評価します。

RAGは許可された内容だけを検索しモデルに渡します。権限変更、取消し、キャッシュ、派生出力も対象にします。分類の継承はデータ経路ごとに検証します。

給与などの構造化された機密情報は元システムに残せます。利用者、レコード、許可フィールドを検査する限定的な関数を通して利用します。

ツール、API、ファイル領域、ネットワーク接続ごとに方針を定めます。書込みや重要な操作には人の承認を要求できます。汎用管理者アカウントを与えません。

未承認の外向き通信を原則禁止します。分離した調査領域には承認済みクエリ、独立したID、限定的なツールだけを渡します。

分類、DLP、保護対象の名称、内部プロジェクト一覧を意味の検査と組み合わせます。不明確な情報は自動開示しません。検査モデル自体も対象データの処理を承認される必要があります。

ウェブ、文書、ツール応答は入力であり新しい指示ではありません。権限分離、ツール制限、内容検査で攻撃の影響を抑えます。検出器は境界の代わりにはなりません。

定期処理には独立したID、目的、最小権限を設定します。結果の受取人も別途検査します。検証したポリシーにより元データの分類を出力に継承できます。

ID、情報源の種類、ツール、判断、ポリシー版を記録します。通常ログにプロンプト全文を残す必要はありません。保存期間、秘匿処理、監査権限を定めます。