イーロン・マスクは5年以内にロボットが人間を殺し始める危険性があると考えているhttp://www.lifehacker.jp/2014/11/141127elon_musk.html

という記事ですが、コンピュータセキュリティも同じ話になっているかもしれません。

アクティブサイバー防御の論点では、「ホワイトワーム」が論じられています。要は、マルウエアを見つけて、攻撃の被害が出る前に、その攻撃元をたたいてしまおうという話です。この攻撃元が、「武力行使」レベルを準備していると分析されると、その抑止のために、武力で応じることができることになります。その判断にミスがあった場合には、どうなるのでしょうか。83年の映画「ウォーゲーム」でも問題になりました。

法的には、正当防衛・緊急避難の要件を満たすホワイトワームの行使(厳密に論じるとたくさんの論点があります)が必要なのでしょうが、自動的にその要件を満たすように設計できるのでしょうか。
そんなことも考えさせられる記事です。