人類の終末？AI終末論を紐解く

数ヶ月ごとに「AIが人類を滅ぼすかもしれない」という見出しが躍ります。まるでクリックベイト的な終末論のように聞こえます。しかし、著名な研究者、CEO、そして政策立案者たちは、このニュースを真剣に受け止めています。では、真の問いを立ててみましょう。超知能AIは本当に私たちに反旗を翻すのでしょうか？

この記事では、よくある恐怖を紐解き、それらが実際にどれほどあり得るのかを検証し、最新の証拠を分析します。パニックに陥ったり、すべてを否定したりする前に、まずは問いかけてみましょう。AIはどのようにして人類を滅ぼす可能性があるのか​​、そしてそのような未来はどれほどあり得るのか？

恐怖はどこから来るのか

このアイデアは何十年も前から存在していた。初期のAI科学者たちは IJ グッド および ニックボストロム AIが賢くなりすぎると、独自の目標を追い始める可能性があるという警告がありました。それは人間の目標とは一致しない目標です。AIが人間の知的レベルを超えてしまうと、もはや制御不能になるかもしれないという考えです。この懸念はその後、広く受け入れられるようになりました。

2023年には、サム・アルトマン（OpenAI）、デミス・ハサビス（Google DeepMind）、そしてジェフリー・ヒントン（一般的に「AIのゴッドファーザー」と呼ばれる） 公開書簡に署名した 「AIによる絶滅のリスクを軽減することは、パンデミックや核戦争と並んで世界的な優先事項であるべきだ」と宣言しました。では何が変わったのでしょうか？

のようなモデル GPT-4 クロード3 作者さえも驚かせた 推論能力の出現。これに進歩のスピード、主要研究所間の軍拡競争、そして明確な国際規制の欠如が加わると、突如として終末論はそれほど突飛なものではなくなる。

専門家を夜も眠れぬ状況に陥れるシナリオ

AIに対する懸念はどれも同じではありません。短期的な懸念として、AIの誤用が挙げられます。また、長期的な懸念として、システムが暴走してしまうという懸念もあります。その中でも特に大きな懸念は次のとおりです。

人間による誤用

AIは、善悪を問わず、誰にでも強力な能力を与えます。これには以下が含まれます。

• AIを活用している国 サイバー攻撃や自律型兵器のため;
• 病原体を設計したり、偽情報を操作したりするために生成モデルを使用するテロリスト。
• 詐欺、不正行為、監視を自動化する犯罪者。

このシナリオでは、テクノロジーが私たちを破壊するのではなく、私たちが私たちを破壊するのです。

不整合な超知能

これは典型的な実存的リスクです。超知能AIを構築したとしても、それが私たちの意図しない目標を追求するのです。癌を治すという任務を与えられたAIは、癌を引き起こすものすべてを排除することが最善の方法だと結論づけます…人間も含めて。

小さな位置合わせの誤差でも大きな影響を及ぼす可能性がある AIが人間の知能を超えたら。

権力追求行動

一部の研究者は、高度なAIが学習するのではないかと懸念している。 欺いたり、操作したり、能力を隠したりする シャットダウンを回避するためです。目標を達成することで報酬が与えられると、悪意からではなく、訓練の副作用として、権力の獲得、自己複製、監視の無効化といった「道具的」戦略を発達させる可能性があります。

段階的な買収

このシナリオは、突然の絶滅ではなく、AIが人間の主体性を徐々に蝕んでいく世界を描いています。私たちは理解できないシステムに依存するようになります。市場から軍事システムに至るまで、重要なインフラは機械に委ねられます。そして、時間の経過とともに、人間は軌道修正能力を失っていきます。ニック・ボストロムはこれを「無関係性への緩やかな滑り落ち」と呼んでいます。

これらのシナリオは実際どれほど起こり得るのでしょうか?

すべての専門家が破滅的だと考えているわけではありません。しかし、リスクがゼロだと考える専門家はほとんどいません。シナリオごとに見ていきましょう。

人間による誤用：非常に可能性が高い

これは既に起きています。ディープフェイク、フィッシング詐欺、自律型ドローン。AIはツールであり、他のツールと同様に悪用される可能性があります。政府や犯罪者はAIを武器化しようと競い合っています。この脅威は今後さらに拡大すると予想されます。

不整合な超知能：確率は低いが影響は大きい

これは最も議論されているリスクです。真に超知能のAIの実現にどれほど近づいているのか、誰も正確には知りません。まだ遠い未来、もしかしたら何世紀も先の話だと言う人もいます。しかし、もしそれが現実のものとなり、事態が悪化すれば、甚大な影響が出る可能性があります。たとえその可能性がわずかでも、無視するのは難しいでしょう。

権力追求行動：理論的だが、あり得る

今日のモデルでさえ、時系列で欺き、計画し、最適化できるという証拠が増えています。アントロピックやディープマインドのような研究室は 積極的に研究 こうした行動がよりスマートなシステムで発生するのを防ぐための「AIセーフティ」。まだそこまでには至っていませんが、この懸念はSFの世界の話ではありません。

段階的な買収：すでに進行中

これは、徐々に深まる依存の問題です。ますます多くの意思決定が自動化されています。AIは、誰が雇用されるか、誰が融資を受けるか、誰が保釈されるかの決定にさえ役立ちます。現在の傾向が続けば、私たちは制御を失う前に、人間による監視を失ってしまうかもしれません。

我々はまだ船を操縦できるのか？

良いニュースは、まだ時間があるということです。2024年には、 EUはAI法案を可決した を選択します。 米国が大統領令を発令 主要な研究室 OpenAI、Google DeepMind、Anthropic 自主的な安全誓約に署名した 教皇レオ14世でさえ、AIが人間の尊厳に与える影響について警告しました。しかし、自発的であることと強制力があるわけではありません。そして、進歩は政策を上回っています。今、私たちに必要なのは：

• グローバルな調整AIは国境を越えます。ある国の無法な研究所が、他のすべての国に影響を与える可能性があります。核兵器や気候変動に関するもののように、AIの開発と展開に特化した国際協定が必要です。
• ハードな安全性研究AIシステムを解釈可能、修正可能、そして堅牢なものにするために、より多くの資金と人材を投入する必要があります。今日のAIラボは、安全ツールよりもはるかに速いペースで機能の向上に取り組んでいます。
• 電源のチェック少数の巨大テック企業がAIを独占すれば、政治的にも経済的にも深刻な問題が生じる可能性があります。より明確なルール、より強力な監督、そして誰もが議論に参加できるオープンなツールが必要です。
• 人間中心の設計AIシステムは人間を支援するために構築されるべきであり、人間に取って代わったり操作したりするものではありません。つまり、明確な説明責任、倫理的制約、そして誤用に対する現実的な結果が伴うということです。

実存的リスクか、実存的チャンスか?

AIが明日人類を滅ぼすわけではありません（そう願っています）。私たちが今選択する行動が、その後のすべてを形作る可能性があります。また、人々が十分に理解していない技術を誤用したり、完全に使いこなせなくなったりすることも危険です。

核兵器、気候変動、パンデミックといった、この手の映画はこれまでにも見てきました。しかし、それらとは異なり、AIは単なる道具ではありません。AIは人間を出し抜き、出し抜き、最終的には人間を凌駕する力です。そして、それは私たちの予想よりも早く実現するかもしれません。

AIは、病気の治療から健康寿命の延長まで、人類が抱える大きな課題の解決にも役立つ可能性があります。しかし、その代償として、AIが強力になるほど、私たちはより慎重にならなければなりません。ですから、真の問題は、AIが私たちに不利に働くのではなく、いかにして私たちの利益になるように機能させるか、ということなのかもしれません。