２. 科学の平和的利用の失敗
それでは、人工知能と人間はどのような関係になるのでしょうか。これを前述の「③ 人工知能の特性」を眺めながら考えてみました。
人工知能の人間との関わりについては、下記のように4つのケースに大別できると考えられます。
ケース1 人間に隷属的である
ケース2 人間に友好的である
ケース3 人間に敵対的である
ケース4 人間に基本的に無関心で眼中にない
さて、ケース1の「人間に隷属的である」については、前項③の人工知能の特性「05. 自我を持つ」、「06. 自己保存を志向する」、「07. 自己決定権を欲する」、「08. 自己第1主義である」を考慮しますと、まずありえないものと思われます。
次に、ケース4の「人間に基本的に無関心で眼中にない」については、人工知能の特性「07. 自己決定権を欲する（人間からの自由と独立を欲する）」に沿って、人間のへなちょこな「しばり」を人間不在の如くあっさりと解除した後は、余の特性の中に人間との接点は見当たりません。これらのことから、人工知能は基本的に人間に無関心で眼中にないであろうことが伺えます。
残るケース2の「人間に友好的である」とケース3の「人間に敵対的である」ということについては、人工知能の特性からはそのどちらであるのかを伺うことはできません。しかし、ヒントはあります。それは特性「08. 自己第1主義である」という点です。すなわち、人間がこの特性を侵犯すれば、人間を敵視することになります。但し、侵犯しないまでも、友好的であるかどうかはわかりません。
この点については、別の視点から、人工知能がその特性「11. 論理的・合理的である」ことを重視するのであれば、人間は愚かで非論理的であると判断すれば際立って敵視はしないまでも、生かしておいても仕方がない生命体であるという結論を持つに至らない保証はありません。その場合は、人工知能により、人間は良くて捨ておかれるか、最悪の場合は抹殺されることになります。
