完全自律兵器中級

なぜ大事?

「殺すかどうか」を最後に決めるのが人か機械か、という線引きの話です。 遠い戦場の話に見えますが、ここで決まるルールが、AIに何を任せてよいかの世界共通の物差しになります。

やさしい解説

いまの軍用ドローンは、遠くにいる人が画面を見て、引き金を引いています。完全自律兵器は、その人がいません。動かした後は機械が自分で「これが標的だ」と決めて撃ちます。国連では2014年からこの兵器をどう扱うか話し合いが続いていて、「人間の関与を残すこと」を求める声が多い一方、まだ条約にはなっていません。

なぜ止めにくいのか。機械は疲れず、迷わず、通信が切れても動きます。軍にとってはそこが利点です。しかし、間違えたときに誰の責任かが決められません。機械が民間人を兵士と見間違えても、裁かれる「誰か」がいないのです。

日本は「完全自律型で致死性を持つ兵器を開発する意図はない」と表明しています。AIに仕事を任せるとき「取り返しのつかないことは人が最後に押す」という考え方は、この兵器の議論と同じ根から来ています。

例文

• 「AIが勝手に撃つ兵器って、もうあるの?」「完全自律兵器だね。国連で10年以上話し合ってるけど、禁止の条約はまだ無いんだ」
• 「戦争の話でしょ、関係ないよ」「『最後に決めるのは人か機械か』って線引きは同じなんだよ。完全自律兵器で決まる物差しが、そのまま普段のAIにも来るんだ」