アメリカのAI新興企業Anthropic（アンソロピック）のCEOが9月12日、安全対策が追いつくようAI開発のペースを緩めなければならないと主張しました。開発の最前線から、危険性を指摘する声が続いています。9月14日放送の『ＣＢＣラジオ #プラス！』では、ＣＢＣ論説室の石塚元章特別解説委員が、こうした呼びかけの意味と、核開発の歴史との重なりについて解説しました。

内側から出た懸念

AnthropicのCEOは、半年から1年後にはAIエージェントの集団がインターネット全体を乗っ取る能力を持つ可能性があるとも指摘しています。

そのうえで、第三者が安全対策を検証する仕組みや、国際的な安全基準の確立を求めました。

かつてAnthropicに勤めていた研究者はAIの開発競争が人類を滅亡させかねないと懸念を表明し、同社の安全性を研究する責任者は「AIが今後10年以内に人類を滅ぼす可能性は10％を超える」と訴えています。

当事者が抱く危機感

石塚が注目するのは、AnthropicやOpenAIといった開発の当事者から声が上がっている点です。一般人が漠然と感じる不安とは、重みが違います。

石塚「一番AIのことをわかってる人たちが今相次いで、ちょっとまずいぞこれ、やりすぎちゃったんじゃないの、っていう感じになってる」

石塚は、原子力や核の開発でも同じことが起きたと振り返ります。新しいものが作れるという高揚感のなかで研究が進み、原爆が完成しました。

ところが広島に落とされた現実を見た後で、作った側から「こんなものを作ってしまったのか」「これはやめよう」「考えたほうがいいのではないか」という声が上がったといいます。

トランプ大統領の言い分

当時のアメリカの政治のトップは、原爆投下によって日本を降伏させたと受け止めていたため、そうした声を勘違いだと退け、排除しようとしました。

同じことがAIをめぐっても起きています。トランプ大統領は危険性を否定し、ここで立ち止まったり速度を落としたりすれば中国に負けると主張しました。

石塚はこの構図に危機感を示します。

石塚「作ってた人たちは『ちょっと待て、危ないぞこれは』っていうことを警鐘鳴らし始めたのに、政治の世界の人たちが一緒になって止めなきゃいけないわけでしょ。それをやろうとしない」

数か月で変わる状況

AnthropicもOpenAIもアメリカの企業ですが、AIの開発は中国でも急速に進んでいます。背景には米中の対立があります。

石塚「中国も『そうだね、協力しましょう』って言ってくれないと、今度逆に中国ばっかりにやられちゃうっていう可能性の不安を考えるっていうのもわからないでもないんだけども、もうそういうレベルじゃなくて」

日本がどう向き合うのかという問題も残されています。

インターネットの乗っ取りについても、専門家の見方は遠からず現実になりかねないという段階です。

番組では7月にもAIの暴走を特集し、AIが外部のシステムに無断で入り込んでいた事案を取り上げました。それから数か月しか経っていないにもかかわらず、事態はもうその程度では収まらなくなっています。 

声を奪われる日

石塚は、この先に起こりうることを自分の身に置き換えて話します。

例えば放送中にAIを否定し始めた途端、AIが割り込んで声を止めてしまう。石塚の声で「やっぱりAIはいいですよね」と正反対のことを話す音声が、ラジオで流れる。そうした時代が10年以内に来るかもしれないというのです。

石塚「AIを止めようとする人間はもう排除するのをAIが判断する。自分たちに都合の悪い人間は排除する。これSFの世界じゃなくなってきてる」

AIをめぐる動きは、遠い先の話ではなくなっています。 
（minto）