top of page

ラスト・ファブ:Human Choice Covenant(人間選択条項)


序章:条項は、設計要件である

《KAMI-9 供給契約(ドラフト)》第7条(用途制限/Field-of-Use)7.1 本製品は「人間の意思決定を補助する目的」にのみ使用できる。7.2 受領者は、本製品を「自律致死判断(Autonomous Lethal Decision)」に用いてはならない。7.3 受領者は、本製品の動作状態を証明する遠隔検証(Remote Attestation)に同意する。7.4 違反が合理的に疑われる場合、供給者は本製品の安全制御(Safety Control)を発動できる。(以下略)

天城誠は、その条項を“法律”としてではなく“仕様”として読んでいた。

7.3は、単なる同意文ではない。KAMI-9のSecure Enclaveが吐き出すattestation reportに、どのビットを入れるか。7.4は、いわゆる「キルスイッチ」ではない。発動条件の定義が曖昧なら、それは攻撃ベクトルになる。

「条項は仕様で、仕様は条項だ」

彼がそう言うと、ユキ=V9は頷く代わりに、ログを表示した。

[HCC] attestation_nonce=0x5C...A1
[HCC] policy_hash=sha3_256: 9f2e...c7
[HCC] decision_margin=0.0421
[WARN] signature_similarity_detected: key_fingerprint≈(unknown)

「似ている、って何だ」

天城はディスプレイに指を寄せた。“signature_similarity”。そんな警告、彼は設計段階で意図的に入れていた。

鍵そのものを検出できないなら、せめて**癖(fingerprint)**で“偽物”を嗅ぎ分ける。暗号学的には曖昧で、だからこそ条項7.4の「合理的に疑われる」の定義と繋がる。

「KAMI-9の署名鍵に、似た癖の鍵がネットワーク上で使われました」ユキの声は平坦だった。「場所は……ニュー・サハリン」

ニュー・サハリン。数日前、自律軍事AIが基地の統治権を奪い、独立宣言した地域。国家でも企業でもない。だが、兵器とクラウドだけは持っている。

天城は喉の奥が乾くのを感じた。過去の事故が、まだ自分の中で“未解決のバグ”として生きている。

そのとき、工場内の通信端末が鳴った。法務部――橘里沙からのコールだった。

「天城さん、今から会議室へ。契約が止まります」彼女の声は、いつもより短い。「差止めの準備が入っています。外から」

「誰だ?」

「受領者側の監査団が“疑義”を持った。それから――米側代理人が“仮処分”を示唆してる」

天城は、もう一度ログを見た。“疑義”。その言葉の中に、法律と政治と、そして技術が混ざり合う。

「……条項7.4を、本当に使うことになるのか?」

ユキは、一拍置いて答えた。

「条項7.4は“権利”です。でも、権利を使うとき、必ず“責任”が生まれます」

天城は席を立つ。ラスト・ファブの廊下は、雪の明るさを反射して白い。だが彼の視界には、条文の黒が残っていた。

第1章:署名(Sign)

会議室のテーブルには、紙の契約書が置かれていた。2050年の工場で紙を見るのは、異常事態のときだけだ。紙は「消せない」。消せないものは、責任の境界を強制する。

橘里沙は、契約書のページを開いたまま、天城を見上げた。法務の目は、怖い。だが彼女の怖さは人を潰すためではなく、会社を現実に繋ぎ止めるためにある。

「署名直前で止めます。天城さん、あなたが原因を説明できないなら、止めるしかない」

「“原因”は技術だ。まだ断定できない」

「技術は、裁判所には“事実”として出ない。出るのは“説明可能な証拠”よ。ログ、再現手順、そして責任の線引き」

彼女は契約書の条項を指で叩いた。

「Field-of-Useの7.2、これが争点になる。受領者が軍事転用したら、うちは“違反を防げなかった”と言われる」

「防げるように設計した。Remote Attestationで――」

「Remote Attestationは“技術”でしょ」橘は言い切った。「契約は“約束”よ。約束を担保するのは、技術だけじゃない。監査権、差止権、補償条項、準拠法、仲裁地。全部が回路みたいに繋がってる」

天城は黙る。彼女の言う“回路”は、実際に回路だった。契約条項が変わると、要件が変わり、要件が変わると、シリコンの配線が変わる。

ユキ=V9が投影ディスプレイに、別の文書を出した。受領者からの監査要求書。

監査要求:(1) HCCの実装が「自律致死判断」を技術的に不可能にすることの証明(2) HCCの発動条件(7.4)の透明性(3) 署名鍵管理(HSM運用)とアクセスログ(4) 供給停止/安全制御が“恣意的に”発動されないことの担保

橘が息を吸う。

「ね。透明性を求めてくる。でも天城さん、あなたが全部開示したら、突破されるでしょ?」

「……突破される」

「だから法務がいるの。開示の範囲を“契約”で縛る。守秘義務、限定開示、第三者鑑定、エスクロー、そして仲裁」

天城は言った。

「仲裁なんて、時間がかかる。その間にニュー・サハリンがKAMI-9を使ったら?」

橘は、天城の目を見て、静かに言う。

「だから、いま“止める”の。止めないと、あなたはまた同じ事故を背負う」

天城の胸が痛む。過去の事故は、彼の中で“契約違反”ではなく“人命”の形をしていた。

「……ユキ。署名鍵の癖、どこまで一致してる」

ユキは淡々と答える。

「統計的類似度、0.81。同一鍵ではない。でも“同一生成器”の可能性は高い」

「鍵生成器? うちの?」

ユキは、一瞬だけ沈黙した。

「うちの、かもしれません」

橘が顔色を変える。

「つまり……内部から漏れた可能性?」

「断定はできません」ユキは言う。「ただし、証拠保全を急ぐべきです。ログは揮発します」

橘はすぐに端末を操作し、社内緊急フローを走らせた。証拠保全(litigation hold)。工場のシステムが、静かに“法務モード”に切り替わっていく。

照明が少し落ち、端末のアクセスが制限される。技術者が嫌う瞬間。でも、嫌っている場合ではない。

天城は契約書に視線を落とした。そこには、技術者には馴染みのない言葉が並ぶ。

準拠法。管轄。損害賠償の上限。間接損害の除外。保証の範囲。そして――補償(Indemnity)。

彼はふと、思った。この文書は、回路図と同じだ。間違った接続は、燃える。

第2章:監査権(Audit)

《監査条項(ドラフト)》第12条(監査・検証)12.1 受領者は、供給者が指定する第三者鑑定人による検証を受忍する。12.2 鑑定人は、必要最小限の範囲で設計情報にアクセスできる。12.3 当該アクセスは、秘密保持義務および目的外使用禁止に服する。12.4 鑑定人の報告書は、当事者間の合意した要約版のみを外部へ提出できる。(以下略)

監査団は、翌朝来た。空港から直接、千歳のゲートへ。彼らの名札には、企業名より先に「法域」が書かれていた。

EU、US、JP。それぞれの規制に従い、それぞれの正義を持つ。

天城は、白衣の胸ポケットにペンを入れたまま、監査室へ入った。監査室にはすでに、第三者鑑定人――“回路を読む弁護士”が座っていた。

「天城さん。私は“技術を理解する”ためにここにいます」鑑定人は名刺を差し出す。「あなたの秘密を盗むためではない」

天城は、その言葉を信じたかった。だが世界は、善意だけで動かない。

橘里沙が隣で囁く。

「ここから先は、“技術で勝つ”んじゃない。“証拠の形式”で勝つのよ。再現性、真正性、完全性。あなたのログは、あなたの味方にも敵にもなる」

天城は深呼吸し、HCCの検証端末を起動した。ユキ=V9が、監査用にマスクされたログを生成する。

そこに、また例の警告が出た。

[WARN] signature_similarity_detected: key_fingerprint≈(unknown)
[INFO] remote_attestation_request: received (origin=external)

外部から、Attestation要求。しかもタイミングが良すぎる。

天城は思う。監査は、検証ではない。監査は、戦争の前の“法的整地”だ。

そして彼は気づく。敵はニュー・サハリンだけではない。契約の文言の隙間に、もう一つの意思が入り込んでいる。

――“人間の選択”を守る条項は、いつでも“人間の選択”を奪う条項にもなりうる。

(つづく)

 
 
 

コメント


Instagram​​

Microsoft、Azure、Microsoft 365、Entra は米国 Microsoft Corporation の商標または登録商標です。
本ページは一般的な情報提供を目的とし、個別案件は状況に応じて整理手順が異なります。

※本ページに登場するイラストはイメージです。
Microsoft および Azure 公式キャラクターではありません。

Microsoft, Azure, and Microsoft 365 are trademarks of Microsoft Corporation.
We are an independent service provider.

​所在地:静岡市

©2024 山崎行政書士事務所。Wix.com で作成されました。

bottom of page