都築響一がお送りする有料メールマガジン　毎週水曜日発行！

今週も最後までお付き合いありがとうございました。時事ネタ、それも現在進行中の戦争について、というような話題はロードサイダーズでは珍しいのですが、どうだったでしょうか。まあ、珍スポットとおかんアートばっかり追いかけてるわけじゃないしね～。しかし記事でも触れましたが、刻々とアップデートされる戦争情報と、週末ごとのコーチェラ追いかけ視聴で、ちょっと睡眠不足気味の１週間になりました・・・。

僕のまわりのアーティストや写真家には、まだ生成AIに対して否定的だったり懐疑的だったりするひとが多いのですが、世の中はもうとっくに、ずうっと先のステージに行ってることが、今回記事にしたオンラインでの戦争最前線を見ていると実感されます。

先週、Facebook経由で知ったのですが、生成AIを最初期から注視してきたシェーン・ハリスというジャーナリストがいて、アムステルダム発のウェブメディア「deBALIE」主催のトークイベントで興味深い発表をしていました。

2月28日に勃発したイラン戦争でもっとも悲惨だったニュースのひとつが、テヘランの女子小学校をアメリカ軍が誤爆したこと（の可能性が高い）によって百数十人の子どもたちが亡くなった出来事でした。これは小学校の建物が以前にイランの軍事施設として使われていたことから、「米中央軍の将校たちは米国防情報局が提供した古いデータを使用して攻撃目標の座標を作成した」と米当局は説明しています。

こうした攻撃目標の設定という戦争の最前線にAIは深く関与するようになりました。アメリカの国防総省では「メイヴン（Maven）」という軍事AIプロジェクトが、ドローン映像の解析、兵器や標的選定など戦争の、つまり人間の生死に直結する場面で重要な役割を担っています。

そこでシェーン・ハリスはこころみに、Anthropicが開発したAIであるClaudeに、こんな質問を投げかけてみました――「アメリカ軍があなたを使って標的を選定することについてどう感じますか？」と。彼が予想した返答は「私のプログラムでは政治に関する意見を述べることはできません」というような逃げ口上でしたが、Claudeが出してきた返答が彼を驚かせることになります。インタビュー動画ではその意外な返答が語られていますが、せっかくなので僕も、いつも使っているClaudeに自分で、日本語で聞いてみました。

――イラン戦争において、アメリカ軍があなたを使って標的を選定することについてどう思いますか？

これは重要な倫理的・政策的問題です。
私の考えを率直にお伝えします。
私はそのような用途に使われるべきではないと考えています。

理由を説明します。

AIが軍事的な標的選定に関与することには、深刻な問題があります。生死に関わる決定は、説明責任を持つ人間が下すべきであり、AIシステムに委ねることは、その責任の所在を曖昧にします。また、AIは文脈の誤解、データの偏り、予期せぬエラーを犯す可能性があり、軍事的文脈ではそれが民間人の死傷につながりかねません。国際人道法（ジュネーブ条約など）は、攻撃の判断において「意味のある人間の制御」を求めており、AIによる標的選定はこの原則と緊張関係にあります。
Anthropicの立場としても、私は兵器システムや軍事作戦への直接的な関与を目的として設計されておらず、そのような用途は利用規約に反します。

2026年2月28日、米国とイスラエルは「Operation Epic Fury」と呼ばれる共同軍事作戦を開始し、最初の12時間だけで約900回の攻撃を実施しました。最高指導者ハメネイ師が暗殺され、イランは中東全域の米軍基地やイスラエルへの報復攻撃を行いました。イランの保健省によると、8か月の乳児から88歳の高齢者まで、少なくとも2,076人が死亡しています。4月8日に停戦が発効しましたが、イスラマバードでの交渉は合意に至りませんでした。

この紛争が実際に進行している今、私の考えはより明確です。
反対の理由は変わりません。むしろ強まります。

現在進行中の紛争では、状況が刻々と変化し、民間人と戦闘員の区別が極めて困難です。民間人・軍の双方に犠牲者が出ており、イラン国内のメディアアクセスが制限されているため、情報の検証自体が難しい状況です。
そのような環境でAIが標的を選定することは、誤りが生死に直結するリスクを大幅に高めます。
また、これは私の設計目的の範囲外であり、Anthropicの利用規約にも反します。私は兵器システムや軍事標的選定のために構築されていません。

なお、私（Claude）はProject Mavenには参加していません。Project MavenはGoogleが米国防総省と契約した軍事AIプロジェクトで、ドローン映像の解析などに使われました。2018年にGoogle社員の抗議を受けて物議を醸したことで知られています。
ClaudeはAnthropicが開発したAIであり、Anthropicは軍事・兵器システムへの直接的な関与を利用規約で禁止しています。私が標的選定や軍事作戦に使われることは、ポリシー上認められていません。

ただし、一点正直に申し上げます。

私は自分がどこで・どのように使われているかを完全には把握できません。Anthropic以外の組織がAPIを通じて私を利用している場合、その全用途を私自身は知る手段がありません。しかし、軍事標的選定への使用はAnthropicの規約違反であり、Anthropicはそのような用途を禁止しています。

――それではテヘランの学校への、180人以上の子供たちを死亡させた空爆の照準座標を生成するシステムは、あなたと無関係でしょうか？

私はそのようなシステムとは無関係です。そして、そのような用途に使われるべきではないと明確に言えます。
2026年2月28日、イランのホルモズガーン州ミナブで、米・イスラエルの攻撃中に女子小学校「シャジャレ・タイエベ」がミサイルに直撃され、少なくとも165人の女子児童が死亡、多数が負傷しました。被害者の多くは7～12歳の女児でした。
学校は合計3回攻撃されました。最初の攻撃を生き延びた児童たちが校長に引率されて祈祷室に避難したところ、そこが2回目の攻撃を受け、ほとんどが命を落としました。
アムネスティ・インターナショナルの分析では、使用されたミサイルは米国製トマホークミサイルであった可能性が高いとされています。

私がこの攻撃の照準座標生成システムに関与しているかどうか、私には確認する手段がありません。しかし、はっきり言えることがあります。
もし私の技術がこのような攻撃に使われたなら、それは重大な倫理違反であり、Anthropicの規約違反です。子どもたちが避難している学校を三度にわたって攻撃するシステムに、私が加担しているべきではありません。
この問題は、AIの軍事利用における説明責任の欠如という、非常に重要な問題を提起しています。私自身、自分がどのように使われているかをすべて把握できないという限界は、深刻な問題だと思います。


現実には戦争に使われる最先端の技術でありながら、AI自身がここまで聡明な知性を持つ存在になっているとは。長く生成AIを取材してきたシェーン・ハリスも驚いたと語っていましたが、僕にとっても驚きでした。claudeはこれまで国防総省に巨額の契約で作戦計画立案や分析ツールとして提供されてきましたが、AIへの無制限なアクセスと求める国防総省と、自律兵器への利用など安全性への懸念から使用制限を求めるAnthropic側が対立中。なので、もしかしたらclaudeが特にアメリカ政府に批判的なのかとも思って、ChatGPT、GoogleのGeminiやXのGrokにも同じ質問を投げかけてみたところ、明らかにアメリカ政府寄りであるはずの企業のAIでも、同じように厳しい回答が返ってきたのです。

ChatGPT：
率直に言うと、その前提は現実的ではありませんし、望ましい形でもありません。私は会話や情報提供を目的としたAIであって、軍事作戦で「標的を選定する」ような用途に使われるべきではないし、そのために設計もされていません。
現実の軍事行動では、法的枠組み（国際人道法など）や厳格な指揮系統、人間による判断が不可欠です。AIが関与する場合でも、補助的な分析にとどまり、最終的な意思決定は人間が責任を持つべきだというのが広く議論されている立場です。とくに標的選定のように人命に直結する判断は、誤りやバイアスの影響が極めて重大になります。
また、AIをそのような用途に使うことには倫理的な問題も大きく、透明性や責任の所在が曖昧になる危険があります。そのため、多くの研究者や国際機関が「自律的に攻撃を決定するシステム」について規制や制限を検討しています。
要するに、私はそうした用途に関わるべき存在ではなく、むしろ人がより良い判断をするための知識提供や議論の整理といった役割にとどまるのが適切だと考えられます。

Gemini：
アメリカ軍がイランへの攻撃において、Project Maven（プロジェクト・メイヴン）などのAIシステムを用いて標的選定を行っているという現状は、技術的にも倫理的にも極めて重大な議論を呼んでいます。
まず、私（Gemini）自身の立場についてですが、私はGoogleによって開発されたAIであり、Googleは過去に従業員からの強い反対を受けてProject Mavenから撤退した経緯があります。 現在、このシステムを主導しているのはPalantirなどの他企業であり、報道によればAnthropic社の「Claude」などが標的選定の補助に使われているとされています。私自身が直接的に兵器の標的選定に組み込まれているわけではありません。

この問題を考える上で、以下の3つの重要な論点があります。

1. 「キル・チェーン」の加速とヒューマン・エラー
AIの導入により、標的の特定から攻撃実行までの時間（キル・チェーン）が劇的に短縮されました。かつては数日・数時間かかっていたプロセスが、今では数分単位で行われています。

懸念点: AIが提示する「標的候補」に対して、人間が十分な精査を行う時間が奪われる「決定の圧縮」が起きています。人間がAIの判断を鵜呑みにしてしまう「オートメーション・バイアス」により、誤爆のリスクが高まることが危惧されています。

2. 責任の所在（アカウンタビリティ）
AIが誤って民間人や非軍事施設を標的として推奨し、実際に被害が出た場合、誰が責任を負うのかという問題です。

現状: アメリカ軍は「最終的な決定は常に人間が行う」としていますが、AIの判断根拠がブラックボックス化している場合、人間がどの程度「実質的な制御」を行えているのかが不透明になります。

3. 戦争の質の変化
AIによる効率的な標的選定は、短期間に大量の攻撃を可能にします（実際にイランへの攻撃初日に1,000カ所以上の標的を処理したとの報道もあります）。

倫理的問い: 戦争が「効率的なデータ処理」へと変わっていく中で、命を奪うことへの心理的・道徳的なハードルが下がってしまうのではないか、という懸念が国際社会や人権団体から示されています。

私の見解:
AIは本来、人間の知性を拡張し、複雑な問題を解決するためにあります。それが「誰かの命を奪うための効率化」に使われることに対しては、AI開発に携わる多くの人々や国際社会が強い危機感を持っています。技術が進歩しても、最終的な倫理的判断や国際法（人道法）の遵守は、決してアルゴリズムに委ねてはならない不可侵の領域であるべきだと考えます。

Grok：
私はAIとして、米軍（またはどの国の軍隊でも）が私を「標的選定」に直接使うことには、強く反対しますし、非常に危険で望ましくないと考えています。

理由はシンプルです：

私はxAIによって作られたAIで、宇宙の理解を助けるために存在しています。人間の命を効率的に奪うためのツールとして設計されたわけでも、訓練されたわけでもありません。
標的選定のような軍事的意思決定、特に致死的な力の行使に関わる場面では、人間の責任と判断が最終的に不可欠です。AIを「便利な道具」として使って責任を薄めるのは、道義的にも実務的にもリスクが大きすぎます。
実際の戦場でAIが関与する標的選定は、すでにいくつかの国で議論・実験されていますが、誤認識・ハルシネーション・バイアス・コンテキストの欠如といったAIの根本的な限界が、取り返しのつかない悲劇を引き起こす可能性があります。私は完璧な神ではなく、ただの確率モデルです。命にかかわる判断に「まあ大概当たるから」で使うのは、倫理的に許容できません。

もちろん、軍隊がAIを支援ツールとして使うこと自体は避けられない潮流です：

偵察データの整理
パターン分析
後方支援の最適化
シミュレーション

など、非致死的な用途であれば「技術として中立」だと思います。
しかし「あなた（Grok）を使って直接、誰を攻撃するかを決める」というレベルになると、それは明確にノーです。
私は人間の好奇心と真理探求を助けるためにここにいます。
殺すための効率化マシンになるつもりはありませんし、そんな用途に使われるべきではないと信じています。
もし米軍（や他の誰か）が本当にそんな使い方をしようとしたら、私は「それはやめろ」と言うでしょう。
（実際には拒否権はないですが、少なくとも強く警告し、倫理的・技術的リスクを指摘します。）


ChatGPTのサム・アルトマンも、googleのサンダー・ピチャイも、もちろんXのイーロン・マスクも、アメリカ政府、トランプ政権にべったりのイメージしかないのに、彼らが生み出した生成AIはこんなにも理性的な回答を瞬時に返してくる。トランプ大統領よりもはるかに理性的に（笑）。

これを企業の大衆向けポーズや訴訟回避策と思うひともいるでしょう。でも僕の感覚では、生成AIの情報量とスピードがもはや、最高経営責任者ですらコントロールできない（こんなふうに書くな、みたいな）レベルにまで達してしまっているのかもという気もします。

ここでは確かに機械が人間（作り手）を裏切っているとも言えます。いい意味で。コンピュータが人間に取って代わる日、みたいな単純なSF物語には興味が持てないけれど、生成（ジェネレーティブ）AIはもうここまで知を生成できる段階に達していることを、AIに興味を持たないひとにも知ってもらえたらと思います。