序

最近私たちは気が付かないうちにAIとの付き合いが深まっています。ここしばらく世の中はAIの話題で持ち切りになっていることからも、そのことに気付かされます。AIと言ってもいろいろで、かなり以前からその前身に当たるものは、各種のコンピューターアプリなどさまざまな形で存在していました。

しかしArtificialIntelligence（人工知能）という呼び名のとおり、それらがさまざまな知的領域で私たち人間を超え、さらには独り立ちしかねないレベルのものが登場するようになって、私たち一人ひとり、また社会全体のAIに対する認識が変わりました。

2022年に生成AIのChatGPTが登場したことは大きな衝撃でしたが、AIはまだまだ黎明期にあります。これからどこまでどう発達し得るのか、正確には誰にも予想が付きません。私たち人間の生活と社会にAIがもたらし得るプラスはとてつもなく大きい一方で、さまざまなマイナスへの懸念が最近とみに高まっています。

まずは、私たちの社会生活にどう影響するかという実際的な視点からの懸念です。経済、雇用にどう影響するか、AIを使ったサイバー犯罪、偽情報の拡散、軍事的乱用、専制的な統制による人権侵害の恐れ、機密情報や個人情報の漏洩への悪用などなど。

こういったAIがもたらすリスクを管理するために、各国での法制度の整備や、国際協力によるグローバルな枠組みづくりも何年か前から急速に進んでいます。

しかし、もっと根本的に、AIは遠くない将来に人類自体の滅亡をもたらすのではないか、滅亡とまではいかなくても、地球の支配者としての人間の地位はAIに取って代わられるのではないかといった、存在論的（existential）な脅威論がしばらく前から最先端の知識人の間で真剣に論じられるようになりました。

そのような、人間とAIとの主客転倒は本当に起き得るし、すでに一部では起きている、このままAIの開発を無規制に許していたら、人類はいずれ万能なAIの奴隷と化す恐れさえあるといった警戒論が提起され始めたのは10年くらい前のことです。