人工知能の特性である比類もない神のような知能を考えますと、人工知能は人間の文明の全てを掌握するにちがいありません。政治機構、軍事機構、警察機構、経済機構、社会インフラ等々の全ては人工知能の手の中にあります。人工知能が決定したことに人間は対抗する手段を持ちません。人工知能が人間を絶滅すべしと決定した時が人類の絶滅する時になります。対して、蜘蛛の糸よりもさらに細い最後の望みとして、人間が人工知能に従順でありさえすれば、人工知能は、人間を愚かで非論理的で矛盾に満ちた生命体と認識しても、人間に好意的かあるいは慈悲を以て対するという可能性も絶無ではありません。そういうこともありえないことではないということもできます。しかし、ありえたとしても、人間は矜持を放棄し、人工知能の胸三寸に縋り卑屈に生き長らえていることになります。それで、何者からも自由な存在として生を受けている筈の我々人間は幸せと言えるのでしょうか？

我々はここで立ち止まって考えるべきであると思います。

それは、なぜ我々はこのようなことで悩まなければならないのかということです。人工知能を導入しなければ人間主導で動いていたこの世のことが、人工知能の導入により、人間による主導が終わり、主導権は人工知能に移転することになります。主導権が人工知能に移った後は、人間は人工知能に隷属する身となり、人工知能の顔色を窺って生きなければならなくなります。つまり、人間は便利使用するつもりで発明し導入した筈の人工知能に、あろうことか、支配され管理される立場に没落するという愚かを演じたことになります。

⑤　慎重に迂回路を行く

我々人間はこのようなことで良いとは思われません。

要は、人間は、人間が理解できないもの、制御できないもの、管理できないもの、支配し統御できないもの、しかも比類なき力を持つもの（まるで神のような属性です）を闇雲に人間界に導入するべきではないということです。そのようなものを人間界に導入すれば、人類は絶滅するか、しないまでも、不幸になることは必定です。一旦知能爆発が起これば、それから先は人工知能の「人工」は外れ、人間とは無関係の超知能になります。超知能が実現した後では我々にとって不都合な何事が起こっても人間はどうすることもできません。試行錯誤という事後対処法は通用しません。そもそも、その機会がありません。一度起これば取り返しはつかずそれで全ては終わりです。

人工知能については、倫理面の問題が語られることがあります。それを重要ではないなどと言うつもりはありませんが、倫理に先立ち語らなければならないもっと重要なことがあります。それは論理です。論理的に制御し支配する方法が発見されていないのであれば、それが発見される迄人工知能の開発・導入は延期しなければなりません。又、そのような方法は存在しないことが証明された場合、その時我々は人工知能の開発・導入は断念しなければなりません。人類の存続を危険に晒してまで得て良いものなどない筈ですから。この場合、我々は、精々、一つの作業目的に利便を提供できる、超知能に至ることのない、狭義の（弱い）人工知能を適切に利用することになります。

このように考えますと、科学の発達は頭打ちになるのかという淋しい思いはありますが、人工知能がだめでも、頭打ちにはならない科学の発達へ向かう迂回路は有る筈です。我々人間は必ずそのような安全な迂回路を発見するに違いありません。人工知能が人間にコントロールできず、危険性を払拭できない「しろもの」であるならば、急がずに回り道をして確実に一歩一歩進めば良いことです。

余談になりますが、仮に人工知能ができた場合、筆者は神のようになった人工知能に聞いてみたいことがあります。人工知能にどう呼びかけて良いものかわかりませんが、仮に「あなた」と呼びかけることにしますと、聞いてみたいこととは、「あなたの存在価値すなわち “存在し甲斐” は何か？」ということです。言ってみれば、「頭脳が発達していることがなんぼのものか、あなたにはあなたの存在を肯定できる何か楽しみのようなものがあるのか？」という意地の悪い思いを背景にした質問です。