swallow/maestro
1
0
Fork 0
Code Issues 1 Pull Requests 1 Actions Packages Projects Releases 1 Wiki Activity
Files
main
maestro/docs/auto-prompter-eu-ai-act-transparency-design.md
T
oss-sync 57702b4f34
CI / build-and-test (push) Canceled after 0s
Details
sync: update from private repo (2336949a)
2026-09-17 11:29:31 +00:00

9.7 KiB
Raw Permalink Blame History

Auto Prompter / Hook EU AI Act透明性対応 設計付録

作成日: 2026-07-27 対象: MAESTRO（gitea-agent-orchestrator） 位置づけ: Auto Prompter、汎用Hook、監査、承認機構に対するコンプライアンス設計付録

本資料は技術設計上の整理であり、法的助言ではない。実際の適用範囲、保持期間、表示義務は、提供地域、契約上の役割、intended purpose、利用分野、個人データ処理、適用される分野別法令を法務担当者が確認する。

1. 結論

EU AI Act対応を単一の compliant=true フラグや自然言語プロンプトで保証しない。次の三層へ分離する。

  1. 規則・公式ガイドラインから確認できる義務
  2. 高リスクAIへ適用され得る追加統制
  3. MAESTROが自主的に採用する強化策

Auto PrompterとHookは、法令適用の最終判定者ではなく、構造化された証跡、人間承認、通知、停止、監査exportを実現する技術基盤として扱う。

現行実装が提供するのは透明性・追跡可能性を支援する技術的統制であり、法的準拠の認定ではない。Article 50だけを根拠としてhidden chain-of-thoughtの保存や一律5年保持を要求しない。適用条文、事業者の役割、対象システム、分野別法令は法務確認の対象とし、保持期間を選択する設定は将来のCompliance Phaseで実装する。

2. 公式資料で確認できた法的基準

2026年7月27日時点で参照した一次情報・欧州委員会公式資料:

確認できた内容:

  • Article 50は、AIとの直接対話の通知、AI生成・操作コンテンツの機械可読マーキング、deepfake、一定の公益情報テキスト等を対象とする。
  • Article 50の透明性義務は原則2026年8月2日から適用される。
  • 高リスクAIのautomatic logging、deployerが出力を解釈するための透明性、人間監督は主にArticles 12、13、14で扱われる。
  • Article 14は、監督者が出力を無視・上書きし、必要に応じて安全に停止できる設計を求める。
  • Article 19のprovider管理下のautomatic logsは、原則としてintended purposeに適切な期間かつ最低6か月保持する。分野別EU法・国内法・個人データ保護法が別期間を定める場合がある。
  • AI agentは独立した法的分類名ではなく、AI system、高リスクAI、GPAI等の定義とintended purposeに基づいて評価される。

確認できなかった主張:

  • 2026年7月26日にArticle 50を「すべての高リスク分野」へ拡大したという欧州委員会の公式発表
  • すべての判断についてhidden chain-of-thoughtを保存する義務
  • すべての判断ログを一律5年間保持する義務
  • すべてのコード・文章へ同一の機械可読metadataを直接埋め込む義務
  • 2027年上半期を一律の「完全施行日」とする整理

これらは法的義務として断定せず、将来の規則改正、ガイドライン、harmonised standards、分野別法令を継続確認する。

3. 適用範囲の判定

ワークスペースへ ComplianceProfile を設定できる構成を将来追加する。

interface ComplianceProfile {
  region: string[];
  intendedPurpose: string;
  operatorRole: "provider" | "deployer" | "importer" | "distributor" | "unknown";
  aiActScope: "article_50" | "high_risk_candidate" | "not_assessed" | "out_of_scope";
  sector: string | null;
  humanReviewRequired: boolean;
  retentionPolicyId: string;
  provenancePolicyId: string;
}
  • LLMによる意味分類だけで高リスクと確定しない。
  • 管理権限を持つ利用者がintended purposeと利用分野を登録する。
  • high_risk_candidate は法務・リスク担当者の確認待ちを表し、法的分類の確定を意味しない。
  • 未評価の場合は「EU AI Act準拠」と表示しない。

4. 構造化Decision Record

hidden reasoningやモデル内部のchain-of-thoughtを保存しない。代わりに、人間が判断を再構成できる最小限の構造化証跡を保存する。

{
  "schemaVersion": 1,
  "decisionId": "...",
  "taskId": "...",
  "jobId": "...",
  "policySnapshotId": "...",
  "hookPoint": "tool.before",
  "rule": {"id": "...", "version": 3},
  "decisionMethod": "deterministic",
  "result": "require_approval",
  "reasonCode": "external_secret_risk",
  "reasonSummary": "外部送信候補に秘密値形式が含まれたため確認を要求",
  "evidenceRefs": ["tool-call:...", "source:..."],
  "tool": {"name": "WebSearch", "category": "external_communication"},
  "approvalRequestId": "...",
  "executed": false,
  "model": {"provider": "...", "modelId": "..."},
  "createdAt": "ISO-8601"
}

保存する:

  • rule ID/version、Policy Snapshot ID
  • 判定方法、三値結果、固定reason code
  • 利用者向けの短いreason summary
  • 安全に要約したtool名・引数・結果
  • 承認・拒否・実行有無
  • 参照資料と成果物へのID
  • モデル、時刻、相関ID
  • コード変更理由、変更ファイル、検証結果、影響範囲

原則保存しない:

  • hidden chain-of-thought、reasoning token全文
  • 会話全文、prompt全文、Webページ全文
  • API key、token、cookie、Authorization header
  • 生のtool引数や環境変数
  • 人格評価や「悪意ある利用者」等のラベル

5. 透明性通知

  • チャット画面でAI systemとの対話であることを認識可能にする。
  • Auto Prompterによるredirect、deny、approval、stopはチャット履歴へ表示する。
  • 通知にはrule名、対象操作、安全な理由要約、実行されたactionを含める。
  • AI生成成果物には、タスク結果画面または成果物metadataで生成主体とreview状態を示す。
  • 通常のソースコードへ一律のコメントを強制挿入しない。署名、format、build、diff、既存ライセンスを壊すためである。

6. 生成物のProvenance

成果物本体ではなく、DBまたはsidecar manifestへ来歴を保存する。

{
  "schemaVersion": 1,
  "artifactId": "...",
  "generatedBy": "ai-agent",
  "generatedAt": "ISO-8601",
  "reviewStatus": "pending_human_review",
  "taskId": "...",
  "decisionRecordIds": ["..."],
  "contentDigest": "sha256:..."
}

Article 50上の機械可読マーキングが特定の出力へ必要かは、content種別、provider/deployerの役割、assistive editing例外、公開方法を別途判定する。内部provenance metadataの存在だけでArticle 50適合を宣言しない。

7. Human Oversight

高リスク候補profileでは、次を利用可能にする。

  • 専門家または指定roleによる事前承認
  • fingerprintで固定された操作だけのone-shot承認
  • 承認後に対象が変化した場合の再承認
  • 出力の無視、上書き、差戻し
  • policy_stoppedによる再試行なしの安全停止
  • automation biasを避ける表示
  • 人間reviewerとreview結果の証跡

「医療」「金融」等の単語だけで自動的に法的高リスクと断定しない。決定的なCompliance Profileと管理者設定を優先し、自然言語判定は候補提示に限定する。

8. 保持・完全性・アクセス

  • 保持期間は一律値ではなく RetentionPolicy としてregion、operator role、system分類、分野別法令、契約、個人データ処理目的ごとに設定する。
  • 高リスクproviderのautomatic logsではArticle 19の最低6か月を法務確認の初期基準とする。
  • 5年保持は組織または分野別要件として設定可能にするが、EU AI Act共通義務とは表示しない。
  • data minimisation、purpose limitation、アクセス制御、export権限、legal hold、削除手順を定義する。
  • 改ざん検知にはhash chain、署名付きmanifest、外部WORM adapterを選択可能にする。
  • WORMを全workspaceへ強制せず、Compliance Profileで必要な場合だけ有効化する。
  • 利用者向けexportと規制当局向けexportを分け、秘密値と第三者データを再マスクする。

9. 定期監視と報告

集計対象:

  • rule発火、誤検知、見逃し
  • approval、deny、stop、override
  • Judge timeout、unknown、schema不正
  • 人間review完了率
  • provenance欠落
  • source verification状況
  • audit chain整合性
  • retention削除・legal hold

透明性報告書の公開頻度は法令・契約・組織方針で決める。EU AI Actの共通要件として一律「年1回公開」とは断定しない。

10. 実装Phaseへの追加

Phase 0
  Decision Record schema / masking / Policy Snapshot / OFF互換

Phase 1
  AI対話表示 / provenance metadata / audit export基盤

Phase 2
  決定的Policy / reason code / stop・override証跡

Phase 3
  human approval / reviewer identity / one-shot CAS証跡

Phase 4
  Complete前確認 / review status / Decision Recordとの対応

Compliance Phase
  Compliance Profile / retention policy / integrity adapter
  high-risk candidate workflow / transparency report / authority export

Compliance Phaseは自然言語Judgeの一般公開とは分離する。法的適用範囲や保存期間をJudgeに決めさせない。

Reference in New Issue View Git Blame Copy Permalink