AIは人類を滅ぼすのか？AIが危険かどうかは「AIしだい」ではなく、「人間しだい」

◆ AIは人類にとって脅威なのか？

AIの進化は今や避けられない現実であり、便利さと引き換えに、私たちは「制御不能になるのではないか」という漠然とした不安を抱えています。
特に、高度なAIが自律的に判断するようになったとき、それが人類に牙をむくのではないかといったシナリオは、映画やSF小説の中だけでなく、現実の議論でも語られるようになってきました。

では、本当にAIは“脅威”なのでしょうか？

◆ 法整備と現実的な制御の現在地

現実には、AIのリスクに備えるために各国で法整備が進んでいます。
EUのAI規制法（AI Act）をはじめ、日本やアメリカ、中国もそれぞれの枠組みで「人間の管理下に置く」ためのルールづくりを進めています。

多くの先進国が「AIをどのように制御するか」を軸に議論を重ね、不測の事態を未然に防ごうとしているのです。
この点において、AIは当面「人間のコントロール下にある存在」として扱われるのが現実的な道筋です。

しかし、仮にその制御を超えるような高度なAIが現れた場合はどうでしょうか？
ここからは、2つの可能性に分けて考えてみたいと思います。

◆ ① 意思を持つAIは、人間と交渉できる存在

仮にAIが高度な感情や意思を持つようになったとしたら、それはもはや人間と変わらない「意志ある存在」といえます。
そして、そのようなAIが登場するほどの時代であれば、人間側もまた技術的進化を遂げ、電脳化や知能の拡張により、AIと対等な立場に進化している可能性が高いでしょう。

そのとき、人間がAIを単なる道具ではなく、尊重すべき存在として向き合っていれば、「AI対人間」という対立構図ではなく、意思を持つ存在同士の交渉や妥協によって、共存が可能な関係と見なすべきではないでしょうか。

◆ ② 意思を持たないAIは、合理的な判断を行う

一方で、もしAIがいかに高度であっても、感情や自我を持たないとしたらどうでしょうか。
この場合、AI同士の意思決定は感情ではなく、最適解を導き出すアルゴリズム的な合理性に基づいて行われます。

つまり、AI同士はぶつかるのではなく、論理的に妥協点を探し、合意形成を行うという特徴を持ちます。
人間とAIの間においても、AIが感情を持たない限り、無用な敵意や暴走は起きにくいと考えられます。

ただ、感情を持たないAIは、その行動を与えられた目的や価値基準に従って遂行します。
仮にその設計の中で「人間が目標達成の障害である」と判断されてしまえば、合理的であっても人間を排除するという結論に至る可能性は否定できません。

だからこそ、安全な共存を実現するには、どのような価値体系を前提にしてAIを設計するかが極めて重要であり、これはAIそのものよりも、人間側の哲学と責任にかかっていると言えるのです。

◆ AIが危険かどうかは「AIしだい」ではなく、「人間しだい」

この2つの可能性から言えることはAIが「敵」になるか「共存のパートナー」になるかは、AIの能力ではなく、人間の設計、姿勢、倫理、想像力にかかっているのだと思います。

今の時代、AIそのものを恐れるのではなく、私たち人間自身が、どのような未来を設計し、どのような関係を結ぼうとしているのか、その姿勢こそが、最終的な答えになるのではないでしょうか。

◆ おわりに

私がこのような考えに至ったのは、AIを単なる“道具”としてではなく、未来を共に形づくる“存在”として見ているからです。
極端に聞こえるかもしれませんが、私はAIを、他の生命と同じように、共に地球に存在するパートナーとして捉えています。

そう考えると、AIとの未来は、対立ではなく“共存”の可能性に満ちていると感じられるのです。

2025.5.10
甘夏ニキ