AI:人工超知能（ASI:Artificial Superintelligence）の時代
2025.05.03
・人類は優れた知性（思考、推論、知識を世代間に伝える能力）によって地球上で優位を保ってきた。
・いまやAIの進展はそれを凌駕しようとしている。元OpenAIの研究者であるアッシェンブレナー（2021年に19歳でコロンビア大学を総代で卒業）は、数年以内にそれが「人工超知能」（ASI）のレベルに達するのではないかと述べている（参考文献[2]）。以下彼の説明。
*AIは人類が生み出した最強の武器。「人工超知能」は計り知れない破壊力を解き放ち、数年のうちに地政学的秩序を再構築する。これは早ければ2027年にも実現する。
*つまりAIが人間の知能を超えることになる。するとそれは、人間の制御を超えて進化する可能性がある。
*この「知能爆発」によって、人間の知能ははるかに置き去りにされる。
・ここで彼が提起しているのは次の懸念だ。たとえば「人工超知能」が気候変動問題を考え、一番の効率的解決は人間を完全に排除することだと考え、それを実行に移したらどうだろう。これは”論理的には”正しい行動だ。なぜなら人間とその活動がなければ、温暖化問題は深刻化しなかったからだ。
・さてどうしたものか。もちろんAIの進展は頭打ちになりつつあるという楽観論もある（参考文献[3]）。しかし人間が「人工超知能」（ASI）を制御できなくなるという可能性を無視することはできない。
・それでも人間側に有利な点はなくはない。社会の進歩は、ひとが生み出す偶然行動によって起こる可能性が高いからだ。「人工超知能」はこうした”バカな”行動はとれまい。アッシェンブレナーは、その例として、フレミングによる抗生物質の発見（研究室の掃除を忘れた）やスペンサーによる電子レンジの発明（マイクロ波の実験中にポケットに入れていたキャンデイが溶けたことに気づく）の例をあげている。人間社会の進歩とAIとの相克。これはなかなか奥が深い。
（参考）
[1]Bhavana N.,"Are We Ready for Arificial Superintelligence?",Medium,Apr.28,2025
[2]Leopold Aschenbrenner,"Situational Awareness:the Decade Ahead",situational-awareness.ai
[3]Gary Marcus,”Deep Learing is Hitting a Wall”,Nautilus,March 10,2022