（ほぼ）毎週金曜日は、ゲームＡＩ開発者の三宅陽一郎さんが日本的想像力に基づく新しい人工知能のあり方を展望した人気連載『オートマトン・フィロソフィア──人工知能が「生命」になるとき』を改訂・リニューアル配信しています。今朝は第九章「社会の骨格としてのマルチエージェント」の前編をお届けします。今回は、ある役割を与えられた人工知能・エージェントの振る舞いについて考えていきます。自律的かつ複数で協働するマルチエージェントは、やがて人間と似た「社会」を構築し、「文化」に似た情報の集積を行うようになります。
エージェントとは何か？
　エージェントとは、役割を持つ人工知能のことです。それは小型の自律型人工知能を意味します。つまり、自分で感じ、考え、行動する人工知能のことです。自律型エージェントとも言います。この自律型エージェントを相互作用させることが、多様な知能の創生につながっていきます。これをマルチエージェントと言います（図9.1）。 　エージェントの相互作用にはさまざまな型があります。上下関係をつけて司令官が全体の指揮を取る方法や、それぞれがそれぞれコミュニケーションを取るという方法です。 　ゲームでは『高機動幻想ガンパレード・マーチ』（アルファシステム、ソニー・コンピューターエンターテインメント、2000年）という複数のキャラクターの相互作用からなるゲームがあり、「マルチエージェントシステム」（厳密な意味でアカデミックなマルチエージェント技術ということではなく）と呼ばれる場合があります。また『NOeL NOT DiGITAL』（パイオニアLDC、1996）というゲームは画面越しに女子高生の姿をしたエージェントたちにアドバイスを行うことで、事件を解決させていきます。

▲図9.1　エージェント、マルチエージェントとは
　また『ポケモン』（ポケットモンスター、Nintendo/Creatures Inc. 、GAME FREAK inc.）のポケモンたちもエージェントです。プレイヤーの代わりに彼らが戦ってくれるからです。『デジモン』（東映アニメーション、BANDAI）も同様です。プレイヤーがエージェントを行使し、エージェント同士が戦い、ドラマが生まれて行くという図式を生み出しました。 　現実世界でエージェントが活躍するには、ユーザーエンド側にも、ある程度のコンピューティングパワーが必要であり、それらをサーバーを通して連携させる必要があります。つまり高速で大容量の通信環境と、エージェント固有の豊富なコンピューティングリソースが必要とされます。人間と同じ速度で動作するために、2020年代という時代まで待つ必要がありました。 　今やエージェントたちは、携帯電話の中の対話エージェント、ドローン、ロボット、デジタルサイネージ上のキャラクターなどの形で世に放たれつつあります。 　エージェントとマルチエージェントは、社会を具体的に変えていける技術力です。社会の仕組みの一つになると同時に、人間と人間の間に入り込み、個人の環境をも変えて行きます。本章では、そのようなエージェント指向の開く世界の可能性を紐解いていきましょう。
（１）世界に溢れるエージェントたち
　「エージェント」は役割を持って、人間の代わりに役割を遂行してくれる人工知能です。人間そのものの知能を再現しようとするのが人工知能ですが、エージェントは単一かいくつかの役割を果たすために作られた人工知能です。人間の「代わりに」役割を果たすのでエージェントと名付けられています。単体では一つの役割を果たすだけでも、複数のエージェントたちが協調することで、より難しい課題を克服できるはずです。これを「マルチエージェント」と言います。エージェントがある程度の自律性を持ちながらも、全体として協調するという点が、個別性と全体性を兼ね備えたシステムを可能にします。 「マルチエージェント」の考え方は、1990年代を通して流行しました。一方、単体としての「エージェント」は90年代後半に一度隆盛がありました。Windows（マイクロソフト社）シリーズのOSのインストールや、アプリのヘルプで、イルカや魔法使いなど解説用のキャラクター・エージェントが現れていたことを覚えている方もおられるでしょう。
　人工知能の協調は、エージェントの考えが基本となります。一つひとつのエージェントが明確に定義された単一の役割を持ち、それを組み合わせることで、より大きな役割を果たすマルチエージェントになります。 　エージェントが急激な進化を遂げたのは、インターネット環境が世間に広がった90年代でした。インターネット上を動き回るエージェントを「ウェブエージェント」と言います。2000年前後には人工知能学会でも、書籍でも、よく「ウェブエージェント」と言う言葉を目にしました。もちろん、現在でも発展を続けています。
　ダイナミックに連携することの中には、ある程度の「不安定さ」を許容する、という前提があります。それぞれのエージェントが自律的な活動をしながら、メッセージで連携することは、タイミングによる不安定性をまぬがれません。自律性と全体性は相反する属性であり、両者がせめぎ合いながら、個として、同時に全体としての運動を形成することに、マルチエージェントの真髄があります。 　しかし、この手法は手堅いサービスにするには、やや大げさで不安定性があります。エージェントという自律化した単位は、ロボカップサッカーや自動株式といった流動性のある状況で威力を発揮するものの、複数のサーバーをまたぐオンラインチケット販売や、オンライン銀行の口座受付と言った手堅いサービスにおいては不向きなところがあります。むしろ、一つのシステムの中で各機能をモジュール化する方が、ソフトウェアのアーキテクチャとしてはシンプルで設計しやすいのです。
　そこでマルチエージェントは人工知能のハイレベルな技術としてのポジションとなったものの、ソフトウェア開発の主流というよりは、難易度の高い問題のシミュレーション技術として限定的な場で導入されるようになりました。対して、大規模化するソフトウェアではモジュール化（部品、分散オブジェクトなどと呼ばれる）とクラウド化が促進され、シンプルなモジュールの組み合わせによる多様性のある機能の実現が目指されたのでした。現在、Google やAmazonが展開するサービスは、このような分散オブジェクト・モジュールの多様な組み合わせを基盤としています。最近ではディープラーニングもまた一つのモジュールとして準備され、クラウド上のサービスとして利用することができるようになっています（図9.2）。

▲図9.2　分散オブジェクトシステムとマルチエージェント
■PLANETSチャンネルの月額会員になると…・入会月以降の記事を読むことができるようになります。・PLANETSチャンネルの生放送や動画アーカイブが視聴できます。
　

（ほぼ）毎週金曜日は、ゲームＡＩ開発者の三宅陽一郎さんが日本的想像力に基づく新しい人工知能のあり方を展望した人気連載『オートマトン・フィロソフィア──人工知能が「生命」になるとき』を改訂・リニューアル配信しています。今朝は第八章「人工知能にとっての言葉」の後編をお届けします。人工知能と人間の間で自然な会話を行おうとするときに、大きな障壁となるのがが「フレーム問題」です。言語は人工知能に「意思」を与えうるのか。禅や華厳哲学の認識論をヒントに、その可能性を探ります。
言語世界から逃れて
　人は生まれてから学習し続け、その人の世界には意味が満ち、意味が固形化していきます。そこから逃れる手段を、東洋では「禅」と呼ばれる営みによって発展させてきました。いわば「禅」とは固形化・形骸化した知の体系から逃れること、世界の意味の網を外す、という行為です（図8.6）。自らの知の体系を壊し、言葉ではなく体験を重んじる手法です。 　しかし、こうした言語化することが困難な意味の世界を、西洋はさらに言葉を重ねていくことで探求していきます。その結果、言葉が言葉を生み出し続ける現象が現れます。ヴィトゲンシュタインは、多くの哲学が「言語によって語り得ぬもの」に対して言語を使っていると批判しました。意味で溢れた世界はとても危険です。ありもしないものをあると信じ、そのせいで人が人類史上、未曾有の規模で争いあったのが20世紀の歴史です。人は意味を浴びますが、それはある時には呪いとなり、浄化する必要があるのです。

▲図 8.6 分節化の網を外してあるがままを観る
　人工知能は物の見方を人間から指定されます。これをフレームと言います。人工知能はフレームを与えられて初めて駆動します。人工知能はフレーム内で知識を整理する能力がありますが、それを拡張する力はありません。フレームは固定されたままです。人工知能が自らフレームを作り出す能力、フレームを拡張する能力がない問題を「フレーム問題」と言います。そこで意味は固定され、世界はフレームの中でのみ意味を持つことになります。 　人工知能はフレームから逃れることはできません。人工知能は人間に与えられたフレームの中でのみ生きるのです。仮に間違ったフレームを与えられても、人工知能はフレームを修正できず、その中で活動するしかありません。 　たとえば、「リンゴを取る」というフレームで、人間が頑張って、腕の伸ばし方や、リンゴの位置の特定といった問題設定を探求して人工知能に与えたとします。しかし実際にロボットを動かすと、足がリンゴの机に引っ掛かって手がそもそも届かないかもしれません。そのとき、人間であれば足の痛みから問題設定が足りなかったことがわかり、それを是正することができます。つまり、人間にとって身体は、間違ったフレームに本来あるべき足りなかった変数を教えてくれる、クリエイティブな源泉であるのです。
「クリエイティブな行為の基盤にあるのは、認識枠を臨機応変に広げたり狭めたりする賢さであることを、さまざまな事例で論じてきた。身体で世界に触れること（現象学の言葉で言えば、「現出」を意識に上らせること）を通じて、身体がそれまで想定外だった変数（着眼点）にふと意識を向けることで、それは可能になると論じた。」 「街でからだメタ認知を実践する習慣がつくと、最初は定番の変数群しか意識が及ばないかもしれない。しかし次第に、些細な、自分だけしか気づかないような変数にも意識が及ぶようになる。…自分の街の些細な変化に、そして身体に生じる体感の微妙な差異に、気付くようになる。」（諏訪 正樹 『身体が生み出すクリエイティブ』ちくま新書、2018年 （P.190-191））
　このように人間は身体を伴った行動が、間違ったフレームの夢を覚まし、狭い了見を広めてくれるのです。「行動せよ、そうすれば、見えてくる」という格言が示すのは、思考だけでは逃れることができないフレームの制約から身体が開放してくれる、ということでもあるのです。 　しかし、世界に根差さない身体、また認識と分離してしまった身体しか持たない人工知能では、身体のエラーからフレームを拡張することはできません。そもそも、人工知能はフレームを生成しないので、そのフレームが足りなくても、「あらかじめ含まれていないこと」を含ませることができないのです。 「禅」はいわば、フレームを外すことです。知識を規定している枠そのものを乗り越えることです。東洋的思想の極と言えるでしょう。意味のある世界と、意味のない世界を自由に行き来するのが「禅」の行為です。それは意味を超越し、意味を相対化することです。世界に対する意味の網を自由にはめたり、はずしたりすることは、とても危険なことですが、禅はそれを可能にする行為です。
（３）社会的な言葉、個人的な言葉
■PLANETSチャンネルの月額会員になると…・入会月以降の記事を読むことができるようになります。・PLANETSチャンネルの生放送や動画アーカイブが視聴できます。
　

（ほぼ）毎週金曜日は、ゲームＡＩ開発者の三宅陽一郎さんが日本的想像力に基づく新しい人工知能のあり方を展望した人気連載『オートマトン・フィロソフィア──人工知能が「生命」になるとき』を改訂・リニューアル配信しています。今朝は第八章「人工知能にとっての言葉」の前編をお届けします。人間の世界認識の根幹となる「言語」を、人工知能はいかにして実装しうるか。前編では、西洋哲学における言語論の蓄積を踏まえながら、言語的な認識の構造のモデル化を試みます。
序論
　言葉とはなんでしょうか？　人間にとっての言葉と、人工知能にとっての言葉があります。両者はどのように違うのでしょうか？ 　言葉の機能には２つの側面があります。自分の内面を言語によって構造化するという側面と、他者に対して自己を表現・伝達するという側面です。この２つは独立ではなく、連携した関係にあります。世界を指し示すにしろ、自分自身を表現するにしろ、一度、自分の中で世界や自己を対象化する必要があるからです。 　そして、これが相手に伝わるためには、世界については共通のモデル（「コモングラウンド」）を、自己については、相手もまた自分と同じような内面の構造を持っているという信念を必要とします。シモーヌ・ヴェイユは後者のことを次のようにみごとに表現しています。

「同じ言葉（たとえば夫が妻に言う「愛しているよ」）でも、言い方によって、陳腐なセリフにも、特別な意味をもった言葉になりうる。その言い方は、何気なく発した言葉が人間存在のどれぐらい深い領域から出てきたかによって決める。そして驚くべき合致によって、その言葉はそれを聞く者の同じ領域に届く。それで、聞き手に多少とも洞察力があれば、その言葉がどれほどの重みをもっているかを見極めることができるのである。」（『重力と恩寵―シモーヌ・ヴェイユ『カイエ』抄』田辺 保 (訳)、ちくま学芸文庫）

　人が人と話すとき、ある言葉は相手の心の浅瀬まで、ある言葉は深い心の海まで届きますが、それが一体、どのような機構によるものなのか、まだわかっていません。会話する人工知能の最も遠い目標は言葉によって人と心を通わすこと。そこにあります。 　しかし、言葉によってだけでは不可能なのです。そこに存在がなければならない。そこに身体、あるいは実際の身体でなくても、同じ世界につながっている、という了解があってはじめて、人工知能は人の心に働きかけることができます。それは言葉だけを見ていていては、見えないビジョンですが、我々は言葉を主軸に置きながらも、その周りに表情を、振る舞いを、身体を、そして社会を持っています。 　人が人に接するということは、大袈裟に言えば、その背景にある、あるいは、その前面にある世界を前提にしています。言葉というエレガントな記号だけで情報システムは回っているために、どうしても人間のネットワークもそのように捉えたくなります。しかし、それは世界の根底ある混沌の表層であるとも言えます。発話者の存在が、また一つひとつの言葉が世界にどのように根を張っているか、また根を張っていない流動的な自由さを持っているか、が、何かを伝える力を言葉に宿すことになります。 　言葉だけ見ていてはいけない、しかし、言葉を見ないといけない。言葉は人間関係と社会の潤滑油であり、ときに、言葉が伝えられる、という事実そのものが、その内容よりも重要なことがあります。暑中見舞いの葉書が来るだけでも、その人が自分を気にかけてくれるとわかります。LINEのスタンプだけでも暖かさを感じます。言葉という超流動性を獲得することで、人は、世界の存在の深い根から解放されお互いに干渉することができます。しかし、同時に言葉はいつもそんな人間の根の深い部分へと降りて行くのです（図8.1）。

▲図8.1　言語の持つ二つの方向
■PLANETSチャンネルの月額会員になると…・入会月以降の記事を読むことができるようになります。・PLANETSチャンネルの生放送や動画アーカイブが視聴できます。
　

（ほぼ）毎週金曜日は、ゲームＡＩ開発者の三宅陽一郎さんが日本的想像力に基づく新しい人工知能のあり方を展望した人気連載『オートマトン・フィロソフィア──人工知能が「生命」になるとき』を改訂・リニューアル配信しています。今朝は第七章「街、都市、スマートシティ」をお届けします。今回は、人工知能による総合的な都市管理を実現するスマートシティ構想をテーマに、ビデオゲームやSF作品を手がかりにしながら、人間と都市が結ぶ新しい関係について掘り下げます。
　今、人工知能を応用する最も射程の長い取り組みとして、街全体を人工知能で覆うとする試みがあります。試みというより、ビジネスとしてそれが最も大規模な応用分野になります。日本は比較的、安全な国なので気が付きませんが、世界には治安の悪い国が多いですから、人工知能によって街そのものを人工知能化し、治安を良くしサービスを徹底しようという機運が高まっているのです。 　人工知能があらゆる場所に監視カメラ、センサーを設置することで、リアルタイムに街全体が監視され、街の治安が良くなります。街の治安が良くなれば企業が集まり、人も集まり、経済圏が良くなっていきます。現在の、特にディープラーニングなどを基本とする監視カメラに顔認証を入れれば、どの人がどの場所でどのような行動をしているかまで追跡することができます。2015年以降は、ベンチャーを含め監視カメラ業界の発展は大きな勢いになっています。監視カメラは街全体の人工知能の眼となり得るものです。それは可視光のみならず赤外線、超音波、レーザーなど人間の視覚を超えた波長の光さえ持ち得ます。質的にも量的にも、人間の認識を超えた把握が可能となります。まず家がスマートハウス（知能を持った家）に、マンションが、ビルが、そしてデパートが、そして街全体が、人工知能を搭載した知的存在となるのです。 　もちろんプライバシーの問題もあります。その保護の原則を確立して強化していくことは、並行して導入していくべき課題となります。しかし、最終的にはやはり人が求めるもので「安全」と「健康」に勝るものはありません。監視カメラとその自動解析技術が発展し、世の中に浸透していく方向に進んでいく流れは、もはや避けられないのではないかと考えています。 　進化した監視カメラのように、すべてのIoT（Internet of Things）デバイスは街の状況を収集するデバイスとして活躍し、その情報を解析し認識へと変換することで、人工知能は街の状態をリアルタイムに把捉することができます。さらに、そこから市民の安全を守るためにドローンやロボット、人に状態が伝達され、彼らがその場に赴くなどの行動を起こすことで、街全体を統御する人工知能は、インフラ技術として機能するわけです。行動を指令するのは街全体を制御する人工知能ですが、物理的な実行部隊はロボットやドローン、スクリーン上ではアバターとなるでしょう。 　また、街の人の流れや事故なども即座に認識して、ドローンやロボット、人に通知し、事件が拡大する前に抑えることもできます。しかし、このような人工知能システムはかなり大規模な開発が可能な会社しかできません。そこで、このような「インフラとしての人工知能」の汎用システムを開発して発展させれば、世界中の街や都市に導入することができるようになり、これまでにない巨大な市場が立ち上がります。ガスや電気を融通するといった機能に加えて、このような情報の網の上に人工知能を組み上げるビジョンを「スマートシティ」と言います。 　本章では、「人工知能化する都市」を主題として、都市と人工知能の関係について探求していきます。
（１）西洋の街、東洋の街
■PLANETSチャンネルの月額会員になると…・入会月以降の記事を読むことができるようになります。・PLANETSチャンネルの生放送や動画アーカイブが視聴できます。
　

（ほぼ）毎週金曜日は、ゲームＡＩ開発者の三宅陽一郎さんが日本的想像力に基づく新しい人工知能のあり方を展望した人気連載『オートマトン・フィロソフィア──人工知能が「生命」になるとき』を改訂・リニューアル配信しています。今朝は第六章「人工知能とオートメーション（自動化）」をお届けします。急速に人間を理解し始めた人工知能ですが、その思考様式は人間とは大きく異なります。これからの人工知能の分岐点にもなりうる現代の「第三次AIブーム」までの流れを三宅さんが分析します。
　本章では、人工知能によってもたらされる「自動化」（オートメーション）について扱います。コンピュータ技術の登場で、それまで人間が行ってきたことが次第に自動化されてきました。まずデータ集計や複雑な数値計算が自動化され、かつては人工知能の重要な技術課題だった漢字変換も、いまや誰も気に留めないほど自然な技術として実現しています。メールの自動分類やエクセルの自動計算なども、広義にとらえる場合の人工知能の機能と言えるでしょう。 　このように、人工知能は長い時間をかけて人間の知的作業をオートメーション化してきたわけです。そしていったんオートメーション化されると、それが人工知能だという意識は不思議となくなってしまいます。そのことは、1980年代の第二次ブームから現在までの人工知能の歴史を追っていくと感じることができます。
　かつてのファミコンゲームのソフトには、マップ作成（ステージエディット）機能が付いたものがありました。古くは『ピンボール』のコンストラクション・キット、さらに『ロードランナー』（ブローダーバンド）や『レッキングクルー』（任天堂）、さらに『エキサイトバイク』（任天堂）などです。 　これらは、ひとつひとつのステージ構成要素をユーザーが置いていく必要がありました。デジタルゲームの人工知能には、ゲーム中のキャラクターの自律的な挙動を担う「キャラクターＡＩ」のような、ユーザーのゲームプレイの中で使う技術と、ゲーム作成に使う技術の２つに分けられますが、その双方で使われているのが「プロシージャル（自動生成）技術」です。
　ゲームにおけるプロシージャル技術は、『Rogue』（1980年）のダンジョン自動生成に始まり、『Elite』（Acornsoft、1984年）の星系・宇宙船生成、「不思議のダンジョン」（チュンソフト）シリーズ、『FarCry 2』（Ubisoft Montreal、2008年）の森の自動生成などに応用されてきました（表6.1）。さらに『Age of Empire』（Ensemble Studios）シリーズ、『The Witcher 3』（CD Projekt RED、2015年）では地形が自動生成され、「バトルフィールド」（DICE）シリーズはテクスチャリングが自動的に地表表面を彩ります。 　中でも『Spore』（MAXIS、2008年） はフル・プロシージャルのゲームで、クリーチャーの形状自体と動作が自動生成されます。現代では、RPGの物語生成を自動的に行う開発が盛んになりつつあります。

▲表6.1　ダンジョン自動生成の歴史
　要するにプロシージャル技術とは、本来人間が作るべきであったものを人工知能が代行して自動的に作っていくるという意味で、オートメーション技術なのです。 　また、1980年代の人工知能画家「アーロン」のように、人工知能が芸術を作る、という方向があります。それ以外にも、人工知能がヒット曲の作詞をしたり、小説やイラストを自動生成したりと、人工知能による知的機能のオートメーション化は、より幅広い創造的分野に浸透しつつあります。
（1）ヒトの代わりとなるもの　－　産業革命から知能革命へ　－
　ここからは、より包括的な視点から、人工知能とオートメーションの関係を紐解いていきましょう。
■PLANETSチャンネルの月額会員になると…・入会月以降の記事を読むことができるようになります。・PLANETSチャンネルの生放送や動画アーカイブが視聴できます。
　

（ほぼ）毎週金曜日は、ゲームAI開発者の三宅陽一郎さんが日本的想像力に基づく新しい人工知能のあり方を展望した人気連載『オートマトン・フィロソフィア──人工知能が「生命」になるとき』を改訂・リニューアル配信しています。今朝は第五章「人工知能が人間を理解する」をお届けします。人間と人工知能は理解し合えるのか。西洋と東洋のＡＩ観を比較しながら、人間と人工知能がそれぞれに抱える虚無の深淵と、その差異について考察します。
（１）人工知能が人間を理解する
　15年ほどですが、人工知能を研究していると、最もよく聞かれるのが、「人間にとって人工知能とは何か？」「人工知能は人間に比べてどこまでできるか？」という質問です。そういう質問はとても嬉しく、人工知能の冬の時代を経験した人間にとっては、もう興味を持っていただけるだけで充分な気持ちになります。 　しかし、この質問と同じぐらい大切なもうひとつの問いがあります。それは「人工知能にとって人間とは何か？」「人間は人工知能と比べてどこまでできるか？」という問いです。人工知能という分野では、常に人間側と人工知能側の２つの視点から見ないと、本質を見失うことになります。人間と人工知能を双対（duality）に見ることで、はじめて人間と人工知能の関係が見えてきます。 　以前の章でも引用しましたが、「深淵を見るものは、また深淵に見入られる」とニーチェは言いました。この場合、深淵とは人間の知能のことです。人間の知能はとても奥深い深淵です。人工知能の研究は基本的には人間を規範にしながら進められてきました。「人工知能」という言葉の発祥と位置付けられる「ダートマス会議」（1956年）の開催においても、「人間が使う言葉や概念、思考が機械にできるようにすること」が主旨として挙げられています。つまり人間という知能の深淵を見据える一方で、そのわずかな一部を機械の方に移す、という地道な作業が進められてきたわけです。 　ですから、人工知能にとって人間というものは、未知の深さを持ったミステリアスな存在であるはずです。人間ができることの多くを、人工知能は行うことができません。この世界で自然に生まれた自然知能たる人間は、この世界の中でさまざまなことができるように生成・適応・進化してきました。 　ところが、人工知能は、組み上げられた存在です。極論を言うと、たとえば、他の惑星や人工衛星の中でも組み上げることができます。つまり最初から地球の自然環境に馴染んでいる存在ではないのです。むしろ、それは自然とは対極から出発します。そこから、この世界に馴染むようになるための学習が始まるのです。
　人工知能開発の目標は２つあります。 「高度な人工知能を作ること」そして「人工知能に人間を理解させること」です。　人工知能が人間を理解するとは、どういうことか、それは哲学的な問いであると同時に、サイエンスの問題でもあります。
　第三次ＡＩブームの人工知能は、人間の大量の統計データを集めることで人を理解します。統計的特徴を見出すことで、「20代はカラオケでこんな歌を歌う」とか「30代はこういう映画が好きだ」といった傾向を会員情報から抽出できるわけです。また Amazonなどのイーコマース（電子上取引）の分野では、リコメンド・システムという商品をユーザーに向けて推薦する仕組みがあります。これはそのユーザーとよく似た購入履歴を持つユーザー群を探した上で、そのユーザー群に人気のある商品を推薦するという「協調フィルタリング」と呼ばれる方法を取ります。 　また、逆に一人の個人のデータを多面的（マルチモーダル）に集めることで、その人個人を理解しようとする仕組みもあります。SNSの書き込み、写っている写真、作り出す絵、音声などを集めて、その人の性格を診断します。また、ゲームの中では、ゲーム開始時から蓄積されたログデータからプロフィールを抽出することで、プレイヤーの特性を理解します。
　このように個人に対しても集団に対しても、人工知能は理解しようとしていますが、表面的な嗜好はわかっても深い部分に入っていくには、さらなる探求が必要です。 　人工知能には人間にはない忍耐強さがあります。たとえば、個人をカメラから24時間ずっと監視し続けて、そこからその人の仕草の癖などを抽出することができます。それにより、たとえば「座る時は右足を左足より前に出す」「グラスを握る時は薬指から付ける」といった本人や友人でさえ気づいていない癖などを見つけることができるかもしれません。このように人工知能は、人間自身でさえ気付いていない特質を認識できる可能性があるのです。 　人工知能は人間の知能という深淵に深く分け入っていきます。それはまるで海底探査のように、徐々に深度を深くしながら、深淵の様子を持ち帰るのです。
（２）人間が人工知能を理解する
　では翻って、人間が人工知能を理解するとは、どういうことなのでしょうか。あるいは、人工知能は理解すべきである、という衝動の底には何があるのかを、ここでは問いたいと思います。
■PLANETSチャンネルの月額会員になると…・入会月以降の記事を読むことができるようになります。・PLANETSチャンネルの生放送や動画アーカイブが視聴できます。
　

（ほぼ）毎週金曜日は、ゲームAI開発者の三宅陽一郎さんが日本的想像力に基づく新しい人工知能のあり方を展望した人気連載『オートマトン・フィロソフィア──人工知能が「生命」になるとき』を改訂・リニューアル配信しています。今朝は第四章「キャラクターＡＩに認識と感情を与えるには」をお届けします。自己像を外界から切断する西洋型認識論と、主体と外界が溶け合う東洋型認識論を比較しながら、感情の働きや自己投影を通じて、知性が世界へと干渉するプロセスを読み解きます。
　この世界で人工知能はどれほどのものを背負うことができるでしょうか。たいていの場合、人工知能は、決められた仕事を与えられ、それを遂行します。それが現代の問題特化型の人工知能です。人工知能はフレーム（問題設定）を超えられませんが（フレーム問題）、決められたフレームの中では効率よく学習し人間よりずっと賢くなります。 　しかし、前章で述べたように汎用型人工知能が発展し、人間が持つような責任感、倫理感、判断、生きる意味、他者への尊敬のようなものを捉えることができるなら、人間はさらに人工知能にいろいろなものを託すことができるでしょう。世界の意味を背負うものであるならば、さまざまなものを託すことができるでしょう。 　時に我々は、人工知能に人類の持つ重荷まで背負ってほしいと願うこともあります。人類の歴史は、人工知能にその一端を担ってもらうことで、人類に課せられた、課せられたと思っている世界の歴史を部分的に人工知能に託すことができます。 　ゲームの中でキャラクターたちはさまざまなものを背負うことができます。しかし、それは決められた物語の中だからです。では、この実世界で人工知能が高い意識を持って自分の役割をきちんと理解する、ということはあり得るのでしょうか？
　前章の議論では、デジタルゲームにおけるオープンワールド環境のなかで人工知能がどう環境とインタラクションするかという問題から出発して、機能特化型の西洋型人工知能と、混沌に存在の根を持つ東洋的人工知性の発想をいかに架橋すれば、汎用人工知能が構想できるかという可能性に辿り着きました。 　問題に特化しない汎用人工知能は、ゲームの登場人物を動かすキャラクターＡＩをつくる場合の究極の理想でもあります。本章では、ここまでの議論の延長線上に、キャラクター（擬似生命）としての汎用型人工知能が、どのような主観的認識や感情を持ちうるのか、そして彼らにどんな役割を託していけるのかについて、さらに掘り下げていきたいと思います。
（１）西洋型の認識論
　西洋の認識論は人間を規範として構成されています。それは、明文化さえされない暗黙の前提です。「人間は神の下に作られ、人間を規範にするのは当然のことである」という了解が暗黙とされています。ここにおいて、人間探求は人工知能と通じる経路を得ます。人間を探求し、それをエンジニアリングによって実現するのが、人工知能である、ということです。 　西洋の人工知能における認識の構築は、まず自分と世界を対峙させるところから始まります。自己意識をコアとし、自らの存在を世界から独立的に考えます。そして、その上で自分について世界について考えます（図4.1）。

▲図4.1 環境と人工知能（圧縮）
　そうでありますから、認識は常に世界から切り離された自分を確認する、という作業でもあります。身体感覚は常に世界と自己を明確に分節化し、自我の境界を形成します。そんな自己と他者を分かつ強い分割の力は自己を形成する力であると同時に、他者を排斥する力でもあります。アニメ『新世紀エヴァンゲリオン』（ガイナックス、1995）では、その力を「ＡＴフィールド」と呼び、各存在はLCLと呼ばれる実体で、ＡＴフィールドによって自己の境界を保っているという世界観が描かれます。同作の物語の中核になる人類補完計画とは、全生命のＡＴフィールドを消滅させ生命をひとつの存在としてしまう試みでした。このあたりはアーサー・C・クラーク『幼年期の終わり』と似ています。人は自己の境界ゆえに形を保つと同時に孤独であるという矛盾を受け入れることなしに生きることはできないのです。
■PLANETSチャンネルの月額会員になると…・入会月以降の記事を読むことができるようになります。・PLANETSチャンネルの生放送や動画アーカイブが視聴できます。
　

（ほぼ）毎週金曜日は、ゲームAI開発者の三宅陽一郎さんが日本的想像力に基づく新しい人工知能のあり方を展望した人気連載『オートマトン・フィロソフィア──人工知能が「生命」になるとき』を改訂・リニューアル配信しています。今朝は第三章「オープンワールドと汎用人工知能（２）」をお届けします。一般的な人工知能は「問題に立脚して」作られていますが、三宅さんは問題に立脚しない、汎用人工知能に人類の「他者」となる可能性を見出します。
（２）人工知能の持つ虚無
問題特化型人工知能
　「人工知能は稠密に作られる」というのは、人工知能は人間が設定した目標に達成するように、最適に作られていくことを意味しています。問題特化型の人工知能はその問題に向かって、というよりも、その問題を土台として築かれる人工知能です。つまり、問題特化型の人工知能は、問題を対象として構築されるというよりは、問題を立脚点として構築される、といった方が正しいでしょう（図3.15）。

▲図3.15　問題の上に構築される人工知能
　たとえば、工場のベルトコンベアでネジを締めるロボットを考えてみましょう。ロボットは目の前に来る部品のネジを締めるために、画像でネジを入れる位置を確認してアームでネジを締めるとします。このロボットアームはベルトコンベアで部品が流れてくる、という前提の上に固定されて設置されているわけですので、なぜ部品がそこに来るか、なぜネジを締めなければならないか、という問題は、人工知能が考える問題の外にあります。このロボットアームは問題の上で初めて成立する人工知能になっているのです。ベルトコンベアから外されればこのロボットは何者でもなくなってしまうのです。
■PLANETSチャンネルの月額会員になると…・入会月以降の記事を読むことができるようになります。・PLANETSチャンネルの生放送や動画アーカイブが視聴できます。
　

（ほぼ）毎週金曜日は、ゲームAI開発者の三宅陽一郎さんが日本的想像力に基づく新しい人工知能のあり方を展望した人気連載『オートマトン・フィロソフィア──人工知能が「生命」になるとき』を改訂・リニューアル配信しています。今朝は第三章「オープンワールドと汎用人工知能（１）」をお届けします。東洋的な思想を通じて「存在としての人工知能」について論じた前回を踏まえて、今回はビッグデータやアルファ碁を例に取りながら、高度化していく人工知能の現状と未来について考察します。
（１）果てのない世界のための人工知能
　前章までは、人工知能の内部構造について、東洋的知見に基づいて議論を展開してきました。要点としては、西洋的な問題特化型が機能的な性質の実現を目指すことに対して、存在としての根を持とうとする人工知能を、東洋的な人工知性という言葉によって表現したい、ということでした。この章では、その議論を踏まえつつ、方向を変えて、世界に人工知能を展開していくことを考えてみましょう。 　2010年代前半から始まる、第三次人工知能ブームの特徴は、インターネットを通じて蓄積された膨大なデータ、ビックデータと呼ばれる集積されたデータを使って人工知能を学習させることで、人工知能のクオリティを向上させることです。しかし、それでも、人工知能はフレーム問題が解決されたわけではありません。フレームとは人工知能が物事を考える設定のことであり、たとえば将棋のような要素とルールからなります。しかし、人工知能は自らがフレームを作り出すことはできず、拡大して行く人工知能の活躍の場に際しても、問題ごとに一つの人工知能を割り当てているのが現状です。 　現在のビックデータの解析においても、大変なのはビックデータ解析そのものよりも、ビックデータとしてデータをきれいに整備する、いわゆる「洗浄」(前処理)という操作です。解析そのものはアルゴリズムですから、いったん開始すれば人間は待つしかありません。知的な解析と解釈をアルゴリズムが実行してくれるという意味で、特にビックデータ解析は人工知能に向いた分野と言われるわけですが、しかし、その人工知能に与えるデータは、その人工知能がきちんと解析できるように、余計なデータを省いたり、データを簡単な関数で変換したり、結合したり、スケールを変えたりする必要がある場合が多くあります。最終的には、そういった操作自体も、解析プログラムの中で仕込んでしまえば良いのですが、そのデータが作られた「人間的な事情」があり、それを加味してデータを整備することもあります。たとえば、あるデータはその日、８分間の停電があったため、時刻が飛んだデータになってしまったとします。せっかくナンバリングしているファイル名も変える必要があり、そのように時刻が飛んだデータを解析することによる影響がどのくらいあるか、といったことはそのアルゴリズムを実行する人工知能ではなく、アルゴリズムの性質を知る人間にしか判断できないという問題があります。そうやって純粋なアルゴリズムの周囲に、アルゴリズムをうまく動かすための「工夫」を積み重ねていくときに担当者が感じるのは「世話がやけるなあ」ということです（図3.1）。

▲図3.1　人間、人工知能、人間という処理の順番
　かつて画像処理のアルゴリズムは、画像の特徴に応じてさまざまな手法を人間が組み合わせて探求する分野でした。色々な前処理、アルゴリズム、後処理などです。ディープラーニングは、そのような画像の特徴を自動的に抽出する「折り畳みニューラルネットワーク」という技術が織り込んであるために、自動的に特徴を抽出する機能を持っています。ここではニューラルネットが画像や映像の特徴を自動的に、マルチスケールで抽出してくれます。これを行動決定に使うと、画像処理のプログラムから人工知能のプログラムになります（図3.2）。

▲図3.2　画像処理から人工知能
　このように、人間が、世話をする部分が減り、人工知能の担当する部分が増えると便利になります。世話をするのは人工知能の実行前だけでなく、人工知能の実行後の部分も同様です。前の部分に対しては、人間は「準備が面倒だな」と思いますし、後の部分に関しては「ここまでやってくれたらなあ」と思うわけです。お掃除ロボットのために、最初にロボットが掃除をしやすいように家具を片付け、掃除の後に家具を元の位置に戻したりしながら、そう思われた方も多いかと思います。つまり、人工知能はできることが決まっており、また行う領域も決まっており、その舞台は人間が整えなければなりません。人工知能を運用するには、人間がした方がよい領域と、人工知能がした方がよい領域をよく知って運用する必要があります。そして、人工知能技術の発展はその境界を変化させます（図3.3）。

▲図3.3　人間、人工知能の住み分け、そしてその拡大
■PLANETSチャンネルの月額会員になると…・入会月以降の記事を読むことができるようになります。・PLANETSチャンネルの生放送や動画アーカイブが視聴できます。
　

（ほぼ）毎週金曜日は、ゲームAI開発者の三宅陽一郎さんが日本的想像力に基づく新しい人工知能のあり方を展望した人気連載『オートマトン・フィロソフィア──人工知能が「生命」になるとき』を改訂・リニューアル配信しています。今朝は第二章「キャラクターに命を吹き込むもの（２）」をお届けします。効率的な情報検索と正しい推論によって解答にたどり着くための「機能」を追い求める、西洋的な人工知能と、「存在」を奥深く探求しようとする、いわば東洋的な人工知性。前回に引き続き、東洋哲学の視点を参照しながら人工知能の構造を捉え直します。
（３）混沌が持つ人工知能における意味
　こうした東洋的な混沌など引き合いに出さず、機能的な人工知能で充分ではないか、という意見もあります。しかし、「一つの自律した知性を作り出す」という目標は西洋の夢でもあり、同時に人工知能研究の上でも重要な方向の一つです。たとえ辿り着くことが遠くても、その道程には重要な知見と技術が横たわっているはずです。そして、その探求は人工知能という概念そのもの、あるいは知能という概念そのものさえ打ち破っていくことになるかもしれません。
自律型カオス力学系
　「機能を突き詰めて存在へ至ろうとする」という方法もあります。現在の人工知能の枠の中で、知能を存在として作ろうとすれば、環境と人工知能の機能的相互連関の中で混沌を獲得するという手法、「自律型カオス力学系」と呼ばれる手法が適しています（図5）。

図5　多数の要素が相互作用し発展する「力学系」のイメージ
　力学系とは「絡み合う複数の要素が時間と共に変化するシステム」のことです。特にこの力学系が「繰り返す動的な運動をボトムアップに持つ」場合には「自律型力学系」、さらに、外界からのインプットに関してセンシティブ（鋭敏）に運動を変化する場合に「自律型カオス力学系」と言います。イメージとしては、天井から吊り下げられたたくさんの振り子がお互い細い糸でつながれている場を想像しましょう。いくつかの振り子を力強く動かすと、力が伝搬して全体として複雑な振り子運動が生成されます。振り子は現実の物理空間の中にありますが、「自律型カオス力学系」の法則性を数学的に解析するためには、より抽象化された物理量で構成される位相空間を用いて記述する必要があります。これが、自然界に存在する一般の力学系のモデルです。 　これと同様、私自身も知能を「外部環境と内部構造の相互作用による情報の混沌の中から自律生成されるカオス力学系」とみなして人工知能を構築するという試みに長い間関わってきました（これは私の博士課程の頃からのテーマでありました）。現在も続けていますし、またこれからもこの手法が最も有望であると感じています。
人工知能のカオス存在理論
　ところが、このアプローチは人工知能の中に閉じている限り、とても数学的でトリッキーなものに見えてしまいます。このアプローチにしっかりとした基盤を与えようとするならば、まず哲学の領域から土台を築く必要があります。それもより深い基盤として、東洋的な思想の上に構築することが自然です。　というのも「混沌からすべてが生まれる」という思想は、東洋哲学においてこそ根源的なものであるからです。知能を作るという試みの中では、東洋と西洋の二つの知見がおのずと必要になります。なぜ、そうなるのかはわかりませんが、人工知能を作ろうとする行為は、まさにこの二つを世界の潮流を結び合わせる役目を持っているようです。　それは我々の見方を逆転させることでもあります。混沌を人為的に構成する、という見方ではなく、まず知能とは混沌であり、その表現として、「自律型カオス力学系」があるという見方です。ですから知能の根底である混沌を知ることこそが、知能を形成するための最大のヒントであり、それを「自律型カオス力学系」の力を借りて描き出す、ということでもあります（図6）。

図6　人工知能と混沌、そして力学系
ニューラルネットワークと混沌
　混沌は人工知能に存在を与えます。一つの混沌からの人工知能の作り方は、「リカレント・ニューラルネットワーク」を用いることです。ニューラルネットワークとは脳の神経回路を模した「電気回路シミュレータ」です。通常、ニューラルネットワークは多層構造を持っており（パーセプトロン型）、入力（感覚）から出力（判断）に向かって信号が進んでいきますが、リカレント・ニューラルネットワークは出力を入力にもう一度戻します。出力と入力が混じり合います。つまり感覚と判断が混じり合います。つまり客観と主観が混じり合います（図7）。 　判断と感覚が混じり合うのがリカレント・ニューラルネットワークの特徴です。リカレント・ニューラルネットワークを動かしていると、次第に、このリカレント・ニューラルネットワークを構成する要素の間に「自律型カオス力学系」が出現します。正確には、その場合、ニューラルネットワークは少し複雑な構造を持つ必要がありますが、本質的には自己ループバック構造と世界とのインタラクションの中からカオスが生まれます。

図7　リカレント・ニューラルネットワークと自律型カオス力学系
■PLANETSチャンネルの月額会員になると…・入会月以降の記事を読むことができるようになります。・PLANETSチャンネルの生放送や動画アーカイブが視聴できます。