やまもも書斎記

2024年3月24日　當山日出夫

BS世界のドキュメンタリー　フラッシュ・ウォー 自律型致死兵器システムの悪夢

二〇二三年、オーストリア、ドイツの制作。

日本でも、AIについての議論はあるが、軍事技術とからめて論じることは、どこかしらタブー視されている感じがする。日本、イギリス、イタリアで共同開発することになった戦闘機についても、その輸出の是非をめぐる議論（これが重要ではないとは言わないが、まあ常識的に考えてNATOで使用することはありうるだろう）が主であって、具体的にどんな性能なのかということについては、（軍事機密ということもあるのだろうが）一般に報道されることはまったくないと言っていい。おそらく、AIをつかったシステムが搭載されることになるのは、確実だろう。

こういう番組を見て思うことは、何故、日本でこのような議論がなされないのか、ということである。AIの専門家、軍事の専門家は、当然ながら考えていること、研究していることだろう。自立型のロボット兵器の登場によって、これからの戦争がどうなるのか、今、ウクライナで行われていることであり、近未来には東アジアでも現実の課題になりうる（いや、もうすでになっている）ことである。

自立型ロボット兵器と戦争の倫理……今まさに考えなければならないことである。イスラエルとパレスチナの紛争において、国連事務総長が、戦争にもルールがあると言ったが、このような発言についてさえも忌避感を示す人がいる。絶対平和主義というべきだろうが。だが、ルールについて議論しておかなければ、まったくのルールなしの状態になってしまうことになる。その危険性を考えるべきだろう。例えば捕虜の処遇ということも、戦争のルールである。

まず、AIの技術が、デュアルユースであるということをはっきりと認識することが必要である。

ふと思うのだが、イスラエルは、なぜロボット兵器を使わないのだろうか。（あるいは使っているのかもしれないが、日本での報道では触れられることがない。ドローンは使っているのだろうが、どのような性能でAIによる自立型なのかどうか、伝えられてはいない。）自立型ロボット兵器は、技術的には可能かもしれない。だが、自立型ロボット兵器が、ガザの一般市民を殺す場面があったとしたら、世界の論調はどうなるだろうか。ここは、あえて人間の兵士が武器を持って戦っているという場面を、作り出していると思うのだが、これはうがち過ぎだろうか。

そして、最も危険なのが「フラッシュ・ウォー」。AIによる軍事システムの暴走である。ささいなパラメーターの変化に、AIが過剰に相互反応して、人間ではとめることのできない事態になってしまう危険性がある。

ところで、以前、小泉悠があるテレビ番組でこのようなことを言っていた。もしAI兵器が実用化されたとして、では、AI兵器だけが戦争をおこなって決着がついたとして（人的被害はない）、じゃあ沖縄を中国にさしあげます、というような状況になり得るだろうか。そんなことに、国民は納得するだろうか。

やはり戦争は人間がおこなうものである、というのが、この世のあり方なのかもしれない。ただ、その戦争のあり方は、これから大きく変わっていくにちがいない。

2024年3月22日記