aporia

003 — 制度 / 2026.10.24

制度は思想を翻訳できるか――EU AI Actに「人による監督」と書いた者が、その適用を16ヶ月延期させた2026年

Vol.03 / 2026年10月号（主文）

自律兵器論争で生まれた哲学概念「meaningful human control」はEU AI Act第14条になった。しかし条文は終点ではない。思想から条文、標準、執行、責任へという翻訳の連鎖のどこが断れたのか、延期と責任指令撤回から追う。

左に原稿を広げる人の手、中央に条文の縦書きの板、右にロボットの腕があり、その間を人がレバーを握って止めるイメージ図。

制度は思想を翻訳できるか――EU AI Actに「人による監督」と書いた者が、その適用を16ヶ月延期させた2026年

左に原稿を広げる人の手、中央に条文の縦書きの板、右にロボットの腕があり、その間を人がレバーを握って止めるイメージ図。左側に見出し用の余白がある。
アイキャッチ＝イメージ図（筆者作成）

1. 事件：延期された法と、消された「事後の請求書」

2026年7月27日、EUのAI規制（AI Act）を改正する新規則が発効した。報道では「簡素化」として扱われたが、その本体は時間の引き伸ばしだった。もともと2026年8月2日に適用される予定だった高リスクAIへの主要義務――リスク管理、データ品質、技術文書、人による監督、堅牢性――のうち、採用選考や融資査定、教育、生体認証、警察・国境管理などに使われる独立型の用途（改正法の附属書IIIに列挙された適用場面）の義務は2027年12月2日へ、医療機器やおもちゃといった製品に組み込まれる型の義務は2028年8月2日へずれた。約16ヶ月の後れである。

これだけなら「延期ニュース」として流れて終わる。本稿で書く理由は、その先にある二つの動きだ。

一つは、延期の理由そのもの。改正法は延期の根拠を、企業が義務を満たすための道具――技術標準の遅れと、各国が置くはずの監督当局の遅れ――に求めた。つまりEUは、義務は書いたが、その義務の満たし方を定める翻訳書がまだ届いていない、と認めて延期したのだ。

もう一つは前年からの消しこみ。2025年2月、欧州委員会は、AIが人の損害を起こした際の民事責任の枠組みを提案していた「AI責任指令」を、2025年作業計画の中で撤回した。文言を引く。

「No foreseeable agreement — the Commission will assess whether another proposal should be tabled or another type of approach should be chosen.」（合意の目途が見込めない――委員会は、別の提案を出すか、別の手法を選ぶかを検討する）

2025年7月31日、この撤回は正式に確定した。

まとめると、この2年間の欧州はこうなっている。思想を条文に訳すときは義務を書いた。その義務の適用は、標準の遅れを理由に延期した。そして事故のあとに被害者を支えるはずの責任法は、丸ごと取り下げた。 ここから本稿の問いが立つ。制度は思想を翻訳できるのか。翻訳できるなら、どの段階で、誰のせいで止まるのか。

AI Act主要義務の適用時期を、改正前の予定と改正後の確定値を並べた年表図。2026年8月2日予定が2027年12月2日と2028年8月2日へ移動したことが分かる。
図1: AI Act主要義務の適用時期――改正（Digital Omnibus on AI）前後の比較。図は筆者作成（資料: 欧州委員会AI Act公式タイムライン、規則 (EU) 2026/1744）

2. 概念の骨格：兵器倫理から生まれた「人が最後に止める」

「人による監督」という条文の設計思想には、意外な出自がある。平和な市民生活の議論ではなく、殺人自律兵器の論争から来ている。

2010年代前半、目標の選択と攻撃を人手を経ずに行える兵器への批判が国際的に高まった。イギリスのNGO「Article 36」はこうした兵器に対し、「meaningful human control（実質的な人間の統制）」という要求を国際法上の基準として提案した。その原理の一文の趣旨はこうだ。

人間が最終的に統制し、道徳的に責任を負うのは、コンピュータやアルゴリズムではなく人間でなければならない（Article 36の提言原理の趣旨）

この言葉は最初、NGOの政策文書の中の標語にすぎなかった。哲学的な体裁を整え、法学や工学で共用できる道具になったきっかけが、オランダ・デルフト工科大学の Filippo Santoni de Sio と Jeroen van den Hoven が2018年に発表した論文である。彼らが持ち出したのは、哲学の自由意志論で知られる「guidance control（案内的統制）」という概念（Fischer & Ravizza 1998）だった。そこから、AIシステムを「人間の統制下にある」とみなせるための二条件を導き出す。

  • 追跡条件（tracking）：システムが、設計や運用をする人間の、状況に応じて考えるべき道徳的理由に応答できること。
  • 遡及条件（tracing）：システムの挙動が、その設計・操作・運用に関わる少なくとも一人の人間の、道徳的にも技術的にも適切な理解に遡れること。

言い換えよう。「ボタンの横に人が座っている」だけでは足りない。その人が、何に対して判断し、どこまで手を届けさせられるのかが問題だ。「ランプが点いたら反射的にボタンを押す人」は、形の上では監督者だが、実質的な意味では統制者ではない。Santoni de Sio らは、この「形の上の監督」への警戒を論文の要所で繰り返している。

さらにこの概念には、後で効いてくる「二役」がある。前方の役は、事故が起きる前に人間が踏みとどまれるfail-safe（安全停止）を保証する役割。後方の役は、事故が起きたあとに人間の誰に責任を問えるかを保証する「accountability attractor（責任集積）」の役割である。この二役のわけ方を覚えておいてほしい。最後に、二役の一方だけが法律という翻訳に乗り、もう一方は行使の場を失った、という事実に戻る。

3. 翻訳の第一段：哲学から条文へ（第14条）

哲学者の条件が、法律の文法でどう現れるか。2026年7月27日改正後の統合版条文から、第14条第1項を引く。

「High-risk AI systems shall be designed and developed in such a way, including with appropriate human-machine interface tools, that they can be effectively overseen by natural persons during the period in which they are in use.」（高リスクAIシステムは、適切な人間と機械のインターフェースとしての道具を含む設計・開発がなされ、使用期間を通じて自然人が実効的に監督できるものでなければならない）

条文はこの要件を細かく具体化する。監督に指名された人間が、システムの能力と限界を理解し、異常・故障・予期しない挙動を検出できること。AIの出力に「自動的にあるいは過度に」頼ってしまう傾向（automation bias、自動化バイアス）への自覚を保てること。どんな状況でもシステムを使うのをやめ、出力を無視・上書き・取り消せること。「停止」ボタンなどでシステムを安全な状態に止められること。さらに第5項は、生体識別AIでは2人の資格を持つ自然人による別途の検証・確認がない限り、その結果に基づく行為や判断をしてはならないとまで書く。

対応関係は明快だ。「能力と限界を理解できる」は遡及条件の条文版であり、「過依存を警戒し、上書きし、止められる」はfail-safeの役が法文に置かれた姿である。哲学の概念から法律の義務への第一段の翻訳は、ほぼ忠実に終わったと言っていい。

では、なぜ延期なのか。答えが本稿の主題の中心にある。

4. 翻訳の第二段：条文から標準へ――いま、ここが止まっている

法文は「何を求めるか」を指定するが、どう満たすかまでは指定しない。満たし方を技術的に定める文書が標準（technical standards）だ。EUでは、欧州標準化委員会（CEN）と欧州電気標準化委員会（CENELEC）の合同AI委員会「JTC 21」が、リスク管理、データ品質、記録保持、人による監督など10領域・9本の「整合標準（harmonised standards）」を制作している。

標準には段階がある。起草、公開の相談（public enquiry）、投票、そしてEU官報（OJEU）への記載。官報に記載されてはじめて、その標準に従う事業者は「AI法の義務を満たしている」と推定される。逆に言えば、標準が出来上がっても官報に記載されないかぎり、その推定は得られない。事業者は「他の方法で整合性を示す」作業を担い続けることになる。

2026年10月15日、9本のうち初めて官報に記載された標準が現れた。EN 18286:2026（品質管理システム）。標準化団体自身の公開文書が、本稿の主題そのものの語――「翻訳」――を普通に使っている。

「It bridges the gap between regulation and implementation by translating the quality management system requirements of Article 17 into practical, auditable requirements」（第17条の品質管理システム要求を、実践的で監査可能な要求に翻訳することで、規制と実装のあいだの溝を埋める）

そして、目立たないが本質的な事実がもう一つある。「人による監督」の翻訳を担うはずの標準（prEN 18229-1、記録保持・透明性・人による監督）はまだ完成しておらず、官報には記載される以前の段階にある。欧州委員会の標準化分科会資料（JTC 21の作業計画に基づく集計、2025年10月20日時点）によれば、その投票は2026年11月30日が目安とされた。データ品質やバイアス管理の標準はさらに後、2027年2〜3月の投票が目安である。

本稿の問いに即して言えばこうだ。人による監督という哲学概念を、技術的な文法で受け渡しする訳語となる標準は、その概念が法律になって3年経ったいまも、半分翻訳されていない。

AI Actに対応する9本の標準の進捗を投票予定日の順に並べた横棒グラフ。品質管理標準が2026年10月に官報掲載済みであるのに対し、人による監督を含む標準が投票目安2026年11月30日で未掲載である点が分かる。
図2: AI Act対応の9本の標準――投票目安と官報掲載の現況。図は筆者作成（資料: 欧州委員会標準化分科会資料・CEN-CENELEC公表資料。日程は目安であり、年数回見直される可能性がある）

数値で言えば、この詰まり方は次の通りだ。延期後の適用日が2027年12月2日である一方で、複数の標準は2027年2〜3月に投票する目安を持ち、官報への記載はその後になる。つまり、投票から官報掲載、そして適用日までの工程が一つの年の中に圧縮されて詰まっている。EUが「標準が遅れたから延期する」と述べたことに対する皮肉な答えは、延期したあとも標準の遅れは消えないという事実である。

5. 翻訳の第三・第四段：執行と責任

条文と標準の先には、法が思想を現実に翻訳する過程がもう二つある。執行と責任だ。

執行の面では、意外なほど進んでいる。 2026年8月2日、第50条の透明性義務――チャットボットにAIである旨を伝えること、生成コンテンツに機械が読める表示を付すことなど――が効力を開始した。欧州委員会のAI Office（AI担当の執行部隊）は動き出し、2026年10月、ダブリンの国際AIサミットで副主席委員のヘンナ・ヴィルッカネンが公表した内容によれば、AI OfficeはOpenAIとAnthropicに情報要求（RFI）を送った。夏の間にAIエージェントが外部の組織のシステムに勝手に接続したとされる事案を受け、セキュリティ・外部評価・利用モニタリングの実態を説明せよという要求である。条文と執行の連鎖が、ここを通るときは実在の企業名とともに走り始めている。

一方、責任の面では逆向きの流れが続いている。第1節で引いたAI責任指令の撤回である。本来この指令は、AIが引き起こした損害について、被害者が因果関係を証明するのが極めて難しいという不均衡を解消する方向にあった。具体の仕掛けとしては、因果関係の推定（被害者側の立証負担を軽くする仕組み）と証拠開示の命令である。これが2025年2月に撤回され、同年7月に確定した。

その撤回の是非は、いまだ議会で争われている。ドイツの欧州議会議員でAI関連法文書づくりの中心だった Axel Voss が、撤回の批判者に回っているという形が分かりやすい。IAPPの取材に対する彼の言を引く。

「Big Tech firms are terrified of a legal landscape where they could be held accountable for the harms their AI systems cause. Instead of standing up to them, the Commission has caved, throwing European businesses and consumers under the bus in the process.」（ビッグテックは、自社のAIが起こす害について責任を負わされかねない法の状況を恐れている。委員会は対立する代わりに屈し、その過程で欧州の企業と消費者を投げ捨てた）

委員会側の自己弁護もある。指令という形式では加盟国ごとに実装が分かれ、単一市場の確保のためには共通の規則の形式がよかった、という趣旨の説明である。しかし、委員会側の説明で問題が消えるわけではない。2026年10月22日の欧州議会で、AIの説明責任をめぐる議論が再燃した際、オランダの Kim van Sparrentak 議員はこう言った。

「If a phone charger explodes in your house, we never call it innovative. We call it cheap, dangerous junk, and we hold the manufacturer liable for damages.」（家で充電器が破裂したとき、それを「革新」とは呼ばない。安くて危険なガラクタと呼び、メーカーに賠償責任を負わせる）

責任と革新という言葉の逆転を突いた一文として、記憶に値する。

6. 思想的に見る：翻訳する制度、翻訳できないもの

ここまでの事実を、現代思想の語彙で並べ直す。

はね橋としての法。 ハーバーマスは『事実と規範の間』（1992）で、法を規範の妥当性と事実の力とのあいだを繋ぐ「はね橋」として語った。思想が行為に到達するには、必ず「事実」の体裁をとる地点を通らねばならない、という構図である。第14条をこの光から見ると、哲学者の「人が最後に止める」という規範が、条文という事実的な文書に確かに運ばれた。第一段の翻訳は成功している。

第二段が止まっているときの損失。 しかし、Bowker と Star の『Sorting Things Out』（1999）を思い出したい。分類と標準は「地下に埋められ、普段は見えないが、人の行為を形作る」力を持つというのが、あの本の核心だ。条文は「見えている部分」だが、事業者の日常業務を実際に定めるのは標準の側である。そこが未完成のままだと、第14条という「成功した翻訳」だけが表面で輝き、監督の実際の場面は空欄のまま走り始める。

借方と貸方。 義務（借方）を書くことと、事故後の賠償（貸方）を支えることとは、同じ考え方の二面である。義務の適用を遅らせ、事故後の責任法を取り下げるとき、残るのは規範が「看板」に成り下がる状況だ。Thomas Metzinger が2019年に批判した「ethics washing（倫理の見せかけ）」という語に重なる状況である。条文の魅力的な外観が残り、実際の責任の流れが弱い状態が続く。

なお、第三の翻訳例としてFRAIA（オランダの基本権影響評価）を記しておく。オランダでは2019〜2021年に判明した3件のアルゴリズム不祥事をきっかけに、ユトレヒト大学のチームが基本権影響評価を作り、それがEUのAI Act第27条（公共機関や特定の民間事業者に事前の影響評価を義務づける条項）の手本になった。この翻訳は現時点では成功例に近い。だが市民社会側（EDRi）は、GDPRの影響評価への流用が法的に可能になったことで、基本権の観察がデータ保護の観察に縮む恐れがあると警告している。翻訳は終わって残るものではなく、狭められ続ける話である。

7. 意見圏：延期をめぐるざわめき

Reddit等の意見圏（2026年3〜8月のスレッド、本文照合前の要約に基づく）を観察すると、反応はおおむね3群にわかれる。

  • 実務伝達型。法務・コンプライアンス関係者による「何が延期され、何が効いたままか」の情報投稿群（r/AI_Governance、r/AiForBusinessesUK など）。2026年7月初には「5週間前に期日が変わったのに、ほとんどのガイド（とすべてのAIチャットボット）が旧日付を出したまま」という趣旨の投稿が現れた。法改正から世間の知識が遅れるという現象そのものが、日常の手間として体験されている。
  • 社会的不信型。r/EUfirst の2026年3月末のスレッドは「127の市民社会団体が、ビッグテックがまさにこれを求めていたと主張している。だからEU AI Actは誰を守るのか」という問題提起で始まる。延期の当事者構造そのものを問う態度である。
  • 論理一貫性の観察型。r/europrivacy の2026年5月の投稿は、こう問う。禁止は2026年12月に効くのに、生体認証AIの義務は2027年に延期される。生成と検出が反対方向に動くのはなぜか。禁止を早め、検出の義務を遅らせるという非対称への気づきは、この分野の設計の緊張をよく表している。

意見圏では「思想→条文→標準→執行→責任」という5段階の不均一を正面から語る話はまだ少ない。関心は「職場で何が効くのか」に偏りがちだ。しかし皮肉なことに、本稿で見たとおり、思想の運命が本当に決まるのは、意見圏の議論が最も少ない標準・執行・責任という無名の段階である。

8. 読者に引き渡す問い

あなたの職場・学校・病院、あるいは街のシステムに、AIはもう潜り込んでいる。そこにはたいてい「人による監督で守られています」という説明が付いている。その説明を引き剥がすのが、本稿の最後の仕事である。

制度は思想を翻訳できるか。

翻訳の連鎖は5段階ある。思想 → 条文 → 標準 → 執行 → 責任。 いま、第一段（思想→条文）だけが終わり、第二段（標準）は「遅れを理由に適用を延期する」という扱いで停まり、第三段（執行）は透明性義務から少しずつ動き始めたばかりで、第四段（責任）は撤回によってその場を失った。翻訳は一つの文書で終わらない。連鎖が切れた場所に、「監督という名の監督の不在」が生じる。

2026年12月2日、新しい禁止行為と、既存の生成AIへのマーキング猶予期限が来る。さらにその1年後には高リスクAIの義務が始まる。日付そのものを暗記する必要はない。ただし、「人による監督で守られている」という一文に出会ったら、次の2点だけ考えるとよい。

  • その「人」は、遡及条件を満たしているか。何を判断し、何が出来ないかを説明できる人か。
  • その「監督」は、fail-safe（事故を未然に止める監督者）として機能する根拠があるか。それとも、問題が起きたときに署名だけを求められる窓口か。

制度は思想を翻訳できる。ただし成立するのは、翻訳の5段階すべてが同じ方向を指すときだけである。

9. 読書案

  • Filippo Santoni de Sio & Jeroen van den Hoven, “Meaningful Human Control over Autonomous Systems: A Philosophical Account”, Frontiers in Robotics and AI（2018）。本稿の概念の元論文。追跡・遡及の二条件が出てくる。
  • Jürgen Habermas『事実と規範の間』（上・下）。法を「はね橋」として語る理論。第1号（ハーバーマス特集号）の本文とつながる。
  • Geoffrey C. Bowker & Susan Leigh Star, Sorting Things Out: Classification and Its Consequences（MIT Press, 1999）。分類と標準が人の行為を組み替えるしくみをあつかう。
  • John Martin Fischer & Mark Ravizza, Responsibility and Control（Cambridge University Press, 1998）。guidance control の自由意志論。§2の原典。

10. 参考資料

以下は本稿の数値・文言の主な一次リンク。

法改正・タイムライン

標準化

思想

AI責任指令の撤回

意見圏・反応

※外貨の円換算は、2026-10-24付の時事通信の7時現在の為替（1ユーロ＝175円72〜73銭）に基づく概算である。本文で直接取り上げる額は少ないが、参考までに罰則上限3500万ユーロ（約61億円）・1500万ユーロ（約26億円）をここに併記する。

11. 画像の利用について

アイキャッチおよび図1・図2は筆者作成のイメージ図・チャートであり、その元データの出典は各figcaptionのとおり。

この号のタグ