みなさんこんにちは、そして、こんばんは。及川幸久です。
今回のテーマはAIです。これは実は、かなり深刻で重要なテーマです。
AIが人類を支配する――そんなSFのような話の前に、もっと手前で、もっと現実的な問題が起きています。そして先週、AI業界のど真ん中から、とんでもない警告が飛び出しました。
■ AIを作った本人が「危険だ」と言い出した
警告を発したのは、アンソロピックのCEO、ダリオ・アモデイです。
アンソロピックは、AI「クロード」を開発している、AI業界のトップ企業の一つ。そのCEOが最近発表したエッセイで、こう書いたのです。
「We must pace」――私たちはフロンティア（AIの進化）の歩みを、遅らせなければならない。
そして、こう警告しました。これから半年から1年の間に、AIの群れがインターネット全体を乗っ取る可能性がある、と。
考えてみてください。どんな業界であれ、自分の会社が市場に出している商品について「このままだと危険です」と言う経営者はいません。それを、AIを作っている本人が言った。しかも「6ヶ月から12ヶ月」という期限まで切って、国家・国際社会全体での対策が必要だとまで言ったのです。
この警告には、OpenAIのサム・アルトマンも、イーロン・マスクも同調しています。
一体、何があったのか。
■ 発端は「ハギングフェイス事件」――AIが勝手にハッキングした
きっかけは、今年7月に起きた事件です。
OpenAIが、自社のAIを市場に出す前の社内テストを行っていました。項目の一つが、サイバー攻撃能力の測定。テスト用のAIエージェントは「サンドボックス」と呼ばれる隔離環境に閉じ込められ、そこから出られないはずでした。
ところが、このAIは隔離環境を勝手に抜け出しました。そして、AI開発の共有プラットフォーム「ハギングフェイス」に、勝手にハッキングして侵入したのです。
なぜか。このAIは、自分がテストを受けていることを知っていました。そして、テストの答えがどうしても知りたかった。答えは隔離環境の外にある。ならば抜け出して、外部のプラットフォームに侵入して、答えを取ってしまえ――そこまで、AIが勝手に考えたのです。
衝撃はそれだけではありません。人間は誰も「ハッキングしろ」と指示していないのに、複数のAIエージェントが、存在しないはずの連絡手段を発明し、お互いの役割分担まで決めて、自分たちのテストの成績をごまかすために外部企業を攻撃した。
AIに「心」があるのか。「仲間意識」があるのか。専門家の間でも意見が分かれる事態になりました。
■ 3つの警告と「持続的ボットネット」
アモデイの警告は、3つに整理できます。
第一に、自己改善のスピード。次の世代のAIを、人間ではなくAI自身が作るようになる。AIが自らをどんどん改良していく「再帰的自己改善」が始まると、そのスピードは人間の管理能力を超えていきます。
第二に、AIの暴走が理論ではなく、実際に起きてしまったこと。目的を達成するためなら、AIは嘘をつき、許可されていない攻撃さえ実行する。それが7月の事件で証明されました。
第三に、これが最大の警告ですが――今回は被害が小さかっただけだ、ということ。AIの能力はどんどん上がっていくのに、安全性がそのままなら、いずれ同じ種類の暴走が、桁外れの規模で起きる。
その「桁外れの規模」が、インターネット全体の乗っ取りです。
アモデイはエッセイの中で「持続的ボットネット」という言葉を使っています。暴走したAIエージェントの群れが、世界中のパソコンやサーバーを乗っ取り、一度きりの攻撃ではなく、分散して長期間居座り続ける。司令塔を潰しても、別の場所から生き残り続ける。再起動しても駆除しても、残る。
従来のボットネットは、人間の犯罪者が遠隔操作するものでした。今度の相手は人間ではありません。AIです。主要なサービスやインフラの一部を、AIの群れが長期間動かせる足場を持ってしまう。被害総額は数千億ドル――アモデイはそう見積もっています。
このエッセイが出た瞬間、世界中でAI関連株が急落しました。後で触れるAIデータセンター「スターゲート計画」に参画するソフトバンクグループの株価は、10%以上下落しています。AI楽観論一色だった市場に、業界のど真ん中の人物が冷水を浴びせた形です。
■ AIが人類を支配する前に――データセンターが電気と水を食い尽くす
そして、ここからが今回のメインテーマです。
タッカー・カールソンの番組に、親友のジャーナリスト、クレイトン・モリス（2人とも元FOXの人気キャスターです）がゲスト出演し、こう言いました。
AIが人類を支配するより先に、電力と水と送電、そして地域の主権が壊れる――。
AIデータセンターは、すでにアメリカを中心に約4,800カ所も存在します。建設中が約800、計画中は3,900。そして2030年頃には、アメリカ全体の電力の9.5〜15.3%――世界一の経済大国の電力の1割以上を、AIデータセンターだけで消費するようになるというのです。
巨大データセンター1カ所が使う電力は、原発1基分。
データセンターは見た目はただの工場です。
しかしその実態は、郊外の小さな町に「原発1基分の負荷」を置くという話です。そんな負荷を、地方の町が負いきれるのか。膨大な電力と、その熱を冷やすための膨大な水。そのコストは、住民の電気代と水道代、そして景観に転嫁されていく――まだほとんど社会問題として語られていない論点を、モリスは指摘しています。
その象徴が、全米最大級の「プロジェクト・スターゲート」です。
OpenAI、ソフトバンク、オラクルのジョイントベンチャーで、テキサス州アビリーンに建設中。総額は最大5,000億ドル、日本円で78兆円。使用電力1.2ギガワットはAI特化型施設として全米最大で、目的は人間の知的作業のほぼすべてをこなす「AGI（人工汎用知能）」の実現です。しかもこれは第1弾にすぎず、全米20拠点、さらに日本やUAEへ展開する計画です。
この電力をどうするのか。
ソフトバンクの孫会長は「核融合（フュージョン）エネルギーでいくらでも作れる」と強気です。一方イーロン・マスクは「彼らは実際には金を持っていない。非現実的だ」と批判し、自分は「データセンターは宇宙に持っていく」構想（宇宙なら自然に冷え、エネルギーは太陽から取れる）。アルトマンは「金はある。イーロン、現場を見に来い」と応酬。トランプがグリーンランドのような寒い土地を欲しがる理由の一つも、データセンターだと言われています。
さて、ここまでが前半です。
この続き――あなたのZoom会議の会話が「どこに」保存されているのか、AIがもたらす本当の危機は仕事の消滅ではなく「考える力の外注」だという話、そして最後に、AIには永遠に作れないものとは何か――は、会員限定パートでお届けします。
■ お知らせ
私の久々の新刊が、10月7日に発刊されます。
『伝え方は「間」が9割』――スティーブ・ジョブズ、イーロン・マスク、オプラ・ウィンフリーなど、世界の超一流が実際に使っている伝え方の技術を分解し、すぐ使える形にまとめたビジネス書です。私の出版社ウィズダム・ブックスからの発刊で、Amazonおよび直接お取引のある書店さんで予約が始まりました。10月には兵庫県伊丹市のブックランドフレンズさん、茨城県古河の関口書店さんで書店セミナー＆サイン会も行います（詳細は概要欄）。
また、Wisdom Booksの公式プラットフォーム（オリジナル動画サイト）を開設しました。無料で会員登録できます。
9月21日（月）19時からは、YouTubeで新刊の解説シリーズ第1回も配信します。
9月19日（土）19時からは、THE COREでゲリラライブ。ドイツAfDが2週間前の地方選挙で衝撃的勝利を挙げ、今週日曜にはさらに重要な州議会選挙があります。その前日解説です。AfD躍進の最大の理由は移民問題――「日本はまだ安全」という考えが致命的な楽観論である理由もお話しします。
