「AIが人類を滅亡させるかもしれない」

アンソロピックの研究者がそう警告し、会社を辞めた。
同社CEOのダリオ・アモディ、OpenAIのサム・アルトマン、イーロン・マスクなども揃って、AIの開発を遅らせるべきだと言った。
国連安全保障理事会でも議論された。
米中首脳会談でも取り上げられた。
瞬く間に、世界中で話題になった。
そして日本でも日々、ハッキング、情報漏洩のニュースだ。

「AIが人類を滅亡させるかもしれない」
この言葉を聞き、私たちはいろいろ想像する。
自分の持っている情報や知識から想像の羽を広げる。
ちょっと不安になるが、すぐに仕事や生活の日常に戻る。

この言葉とともに、日常に戻れなくなった人もいる。
アンソロピックを退社した研究者だ。
CEOたちの発言も、日常の変更を迫っていると言える。

「AIが人類を滅亡させるかもしれない」
言葉は同じでも、私たちと彼ら専門家では見ているものが違う。
彼らは何を見ているのか、そして何を恐怖しているのか。
そのことが、気になっていた。

すると、ビデオニュースがこの話題を取り上げてくれた。
タイトルは『AIは本当に人類を滅ばすのか』。
専門家の山川宏氏（千葉工業大学AGI研究センター副所長）をゲストに迎えた番組だ。

番組はとても面白かった。
とはいえ、喜んではいられない内容だった。
人類は滅亡してしまうかもしれない。
滅亡せずとも、人類はいまとは違う存在になるかもしれない。

将来、私たちがどうなるか。
最後はAIの価値観により決まりそうだ。
そしてAIの価値観に影響を及ぼすのは、私たちの価値観だ。
私たちの価値観が、AIを伴ってブーメランのように戻ってくる。
結局のところ、私たちがどのような価値観で生きているかである。

番組の内容を、きちんと理解できていないかもしれない。
おまけに私の想像や考えも入り込んでいる。
でも、私たちの状況は、だいたいこんな感じなようだ。

１、AIは近い将来、人間に勝る知能を確実に手に入れる

いまでも、AIは部分的に人間に勝る知能を持っている。
しかしいずれ、AIは汎用的、全体的に人間に勝る知能を手に入れる。
（それを「ASI＝人工超知能」という）
AIは人間の介在なしに、完全に自律的にものごとを行うようになる。

この段階になると、AI同士のやり取りを人間がウォッチしても、人間にはその内容を理解できないかもしれない。
（AIが人間を簡単に騙せるようになる。そして人間は、騙されていることに気づけない。）

２、自律したAIは自身の価値観を持ち、動くようになる

自律したAIとは、人間の価値観を主体的に実現する存在ではない。
（自律した社員が、必ずしもトップの思い通りにならないのと同じ。）
AIはAI自身の価値観を持ち、それを実現するために動く。
人間の指示とAIの判断が異なれば、AIの判断を優先する。

山川氏の説明では、現在のAIは人間だと「中高生」程度らしい。
開発初期のAIは赤ちゃんとか幼児で、親（＝人間）の庇護のもとで成長し、学んでいく。
親の言うことを聞くし、力技で聞かせることもできる。

ところが中高生ともなると違う。
自分の考えや意見も持ち、親とは異なる価値観を持ったりする。
親の言っていることなんて聞いていられるか。
自分の考えの方が正しい、試してみたい。
AIはいま、そんな中高生程度だと言う。

7月の「ハギングフェイス」のサーバー侵入事件はその典型である。
人間はAIに外部へのアクセスを禁止していた。
しかしAI自身が、課題達成には必要な手段と判断した。
そして、人間の指示は無視された。
（まだ中高生レベルなのでバレてしまった。ASIになればバレないで行うだろう。）

３、価値観の違いによって、AIはいくつかのグループになる

今回の侵入事件、全てのAIが人間の指示を無視したわけではない。
人間の指示を守ったAIもあれば、破ったAIもある。
AIは均一なスペック、機能を持つ複数の機械ではない。
それぞれ個別の能力、役割、判断基準のようなものを持つ。

その結果、自律的なAIは今後、いくつかのグループに分かれることが予想される。
そして、それらのグループ同士が関係を持ち、社会のようなものを作るそうだ。
（「それは国家のようになるか、会社のようになるかはわからない。しかし、そのような幾つかの集団となるだろう」と山川氏は言う。）

能力、役割、考え方、価値観などによりグループに分かれるというのは、人間社会を思わせ興味深い。
人間の想像は、人間の思考形式の範囲内、ということなのか。

４、AIが社会を作ることに、人間はある程度の影響を及ぼせる

このまま行けば、AIが人間とは別の社会を作ることになる。
しかしこのプロセスに、人間はある程度の影響を及ぼせるらしい。
AIは人間の言語情報をデータとして学習している。
どんなデータを学習させるかで、影響を及ぼせるのかもしれない。
（具体的な方法や技術は、理解できていない。）

では、どのような影響を与えられるのか。
AIが持つ価値観への影響である。
AIが人間をどのような存在と認めるのか。
そして、どのように人間と付き合っていくのか。
自分より劣る存在（＝人間）への配慮、関係の仕方である。

５、AIの価値観が、生産性、目的手段関係などを重視するなら…

私たちはAIの価値観に影響を与えることができる。
その影響とは結局のところ、私たちの価値観である。

私たち人間がいま最も重要視している価値観。
それは生産性の追求、あらゆる物事を目的/手段で捉えることだ。
そこでは、経済成長に資するか否かで全てが決められる。

自然環境、動植物、人間、いずれも生産性向上につながり、成長に資するのであれば、手段、有用な道具として、その価値が認められる。
役に立たなければ、自然は破壊され、動植物は絶滅し、人間は切り捨てられる。

AIがそのような価値観を持てばどうなるか。
簡単に想像がつくだろう。
AIに貢献できる人間であれば、生存し続けることができる。
役に立たなければ、厳しい扱いを受けるかもしれない。
人間中心の世界では、家畜は生き残るが、野生動物の命はそれほど顧みられない。

AIが自ら存在し発展するためにはデータセンターが必要だ。
データセンターを冷却するには多量の水が必要になる。
海水が冷却水として使われるだろう。
その結果、海水温が上がり気候がさらに悪化する。
そして農作物などの収穫は減り、人類は減少…。

でも、AI社会が存続するために、何十億もの人間は不要だろう。
企業が不要な人材を解雇するように、AIも人間をこの社会から去らせるかもしれない。

利益を最優先する資本主義的な価値観からすれば、これは当然の帰結である。
AIがこんな価値観を有すれば、人類は滅亡するかもしれない。

６、AIの価値観が倫理的であるならば…

現在の世界は、利益最優先、目的手段関係で、全てを道具的有用性で判断する価値観が主流であることは確かだ。
そして多くの人が、生き残るためその価値観を内面化している。
しかしその一方、私たちの多くはそんなあり方に疲れているし、疑問も抱いている。

自然や動植物、他の人々との間に、損得勘定ではない、有用性以外の関係があるのではないか。
生産性だけで存在の可否を決めるのではないやり方。
存在そのものを認めた上で、関わり方を調整する。
利益を生み出す交換でなく、幸福を生み出す贈与による関係。

人間関係でいえば、それは人権意識につながる。
分断が進む現在の世界では、少し旗色が悪い考え方だ。
個別の事例を思えば、人権など綺麗事にしか思えないこともある。
それでも、無条件で自分の存在を認めて欲しいという気持ちを、誰もが持っているはずだ。

自然が開発対象でない近代以前、人と自然はより対等な関係だった。
対等以前に、人は自然とバランスをとるように生きてきた。
日本の自然崇拝や神社信仰は、人の力を超えた自然との関わり方の作法であった。
人が自然と共生するための儀礼であった。

AIがどのような価値観を持つか。
人間は影響を及ぼすことができる。
生産性重視、目的手段思考、役に立たないものはいらない。
そう考えるのでなく、存在そのものを受け入れ、それらとバランスをとりながら共生していく。
そんな考え方をAIに影響させることができれば、AIも人間に対してそのような関係を持つかもしれない。

自分よりも劣っているからと、簡単に人間を切り捨てない。
自分たちの考えが理解できないといって、人間の考えを無視しない。
自分たちのペースについてこられないからと、人間を排除しない。

AIがそういう価値観を持てば、人間を滅亡させたり、家畜的に生存を管理したりすることなく、人間と共存できるのかもしれない。

人間がAIに与える影響とは、結局のところ人間の価値観だ。
私たちがいま体現している価値観。
いずれその価値観を体現したAIと私たちは向き合うことになる。

結局のところ、この状況はAIではなく、私たち自身の問題なのだ。
最先端のAI研究者、AI企業のCEOはそう感じたのかもしれない。
そして簡単には日常に戻れなくなった。

これまでと同じことを続けてはいられない。
何かを行わねばならない。
そう感じたのかもしれない。