小飼弾の論弾 #286 「ゲスト：SF作家 藤井太洋さん・戦争と人類のその先を描く『マン・カインド』、AI開発は規制すべき？アメリカ第二次内戦は起こる？」
「小飼弾の論弾」で進行を務める、編集者の山路達也です。
無料公開部分の生配信およびアーカイブ公開はニコ生・ニコ動のほか、YouTube Liveでも行っておりますので、よろしければこちらもぜひチャンネル登録をお願いいたします！
今回は、2024年10月8日（火）配信のテキストをお届けします。
次回は、2024年10月22日（火）20:00の配信です。
お楽しみに！
2024/10/08配信のハイライト
- SF作家藤井太洋先生を迎えて
- AIが書いた長編小説のレビューはだれがやる？
- ドーンとくる本が最近ない、という欠乏感
- 「設計のセンス」と「AIがアシストしてくれないソフトウェアを使ってくれる人」
- 『マン・カインド』と『シビル・ウォー』から考えるアメリカ
- 「2045年に大人のポストヒューマンがいるということ」
SF作家藤井太洋先生を迎えて
山路：今日はSF作家の藤井太洋先生をお迎えしております。
小飼：まさかまさかの。
藤井：よろしくお願いします。
小飼：あ、そうだ、星雲賞受賞おめでとうございます。
山路：おめでとうございます。
藤井：2年前に（笑）。
小飼：いや、2年前も、だよね、すごいよな。
山路：同じ作品で、改稿したやつでもう1回受賞っていうのはあるんですか?
藤井：星雲賞のレギュレーションではダメですね。
山路：ダメなんですか（笑）?
藤井：フォーマットが思いっきり変わって長編が短編になるとかだったら、部門変えて、
山路：直木賞とかあえていってみる?（笑）
藤井：自分で行くものではないですからね（笑）。あれは日本文学振興会の人が候補作に入れてくれないといけない。
山路：2017年から2021年の間、SFマガジンに連載した作品を大幅に改稿した、この作品『マン・カインド』ということになるわけですよね。9月発売ですよね。ちょうど出たばっかで。
小飼：そうそう。
山路：すでにいろんなところで話題になってまして、一昨日でしたっけ？ 小島秀夫さん、『メタルギアソリッド』で知られるゲーム制作者の小島秀夫さんが絶賛のコメントを、しかも英語でも、
藤井：びっくりしました。
山路：ゲーム化されるんじゃないですか、この流れだと（笑）。
藤井：されてほしいですね。
山路：『メタルギアソリッド』のノリで。
小飼：『メタルギアソリッド』というよりも、僕はゲームでないので、どっちかというと『DEATH STRANDING』だっけ?
山路：ああ、『DEATH STRANDING』。
小飼：あっちのノリじゃないですか（笑）。
「宅配ゲーム」（コメント）
山路：小島秀夫さんも、絶賛されているという『マン・カインド』でございます。今回は『マン・カインド』をメインに、取り上げられているトピックや、創作にまつわるお話をいろいろお聞きしていこうと思うんですが。まず『マン・カインド』というのがどういう話かというところなんですけれども、これって今から20年後の舞台ですよね、ちょうど2045年。
藤井：はい、そうです。
山路：で、アメリカで第2次内戦が起こって、そこから13年後という非常にリアリティのある設定になっております。で、この20年経って、このSF的アイテムの数が盛り込まれている、SFガジェットというかアイテムすごいじゃないですか、もうなんていうか。外骨格に多脚ローダー、拡張現実、デザイナーベイビー、さらにここのところでたぶん、この小説にしか出てこない概念だと思いますが、公正戦ですよね。
小飼：いや、でも逆に、今挙げたフレーズというのは、もはや現代人はSFとは捉えてないんじゃないかと。
山路：なるほど。
小飼：たとえば、この辺のガジェットというのはもう攻殻機動隊にいっぱい出てくるんですけど、たぶん今の人たちって攻殻機動隊ってSFじゃないと思うんですよね。
藤井：エクソスケルトン、外骨格にしても、今介護施設とかで補助のために下半身にローダーをつけたりとかする人いますし、あと私まだSFで1回も書いてないんですけど、空調服。今もう現実ですよね。あれを書いたSF作家ってあんまりいないんですよね。毒ガスに包まれた世界みたいなレベルじゃないと出てこないものが、今現実に、それこそ服を着て歩いてるみたいな。
小飼：逆に空調服というのは、それとは真逆に人体で冷やしてるっていうところが、むしろローテクなところが、ニューアイデアなんですよね。
藤井：すごいですよね。
小飼：今時の都内の宅配というのはチャリだったり、荷車だったりで、人力じゃないですか。人力強ええ、んですよね（笑）。だからその辺の、何でもかんでも技術でやらないというのか、人間の筋肉もミックスリアリティに含まれているという点では、この作品とかまさにそうなので。
山路：子供の頃、自転車で荷物を運んでるとは思いませんでしたもんね。
藤井：21世紀になってね。
山路：意外にそれがリアルな現実だったというところが。
藤井：そう、大八車とか。
山路：21世紀ももう四半世紀過ぎようとしているあたりでそれですからね。
小飼：いや、大事なんですよ。
藤井：そう。結局ね、肌身に、自分の手で動かすとか、そういうリアリティけっこう強くてですね。
山路：私、電動アシスト自転車とか出てきたとき、そんなの意味ないやろって思ったんですよね。初め聞いたときは。でも、それがこれほどに普及するっていうのは驚きですし。
「帆船復活してるのも驚き」（コメント）
小飼：復活しきってはないんだけれども、商船とかで搬送アシストっていう形のやつはありますね。だから、コンピューター制御の柱を立ててっていう。
山路：で、この『マン・カインド』なんですけど、どこまでストーリーのあらすじとして最初のほう言っちゃっていいのかな？ 先生から直接言ってもらったほうが安心かな（笑）？
小飼：プロローグの部分っていうのは早川オンラインで公開してるので、その範囲であればネタバレ可能という。
藤井：僕はぜんぜん大丈夫です。
山路：そうですか。じゃあ、この作品世界での特徴、公正戦。公正な、フェアな公正ですよね。それに戦争の戦で公正戦。
小飼：公正証書の公正。
山路：ある公正戦の中で、戦争犯罪、捕虜の虐殺っていう事件を当事者の片方が起こすんですけれども、それを配信しようとしたジャーナリスト、しかしその記事が配信されないっていうところから始まって、なぜそれ記事が配信されなかったのか。その戦争犯罪を起こした当事者自身が、その戦争犯罪であるっていうことをわかりながら捕虜を虐殺してる、それは一体なぜなのかっていうところの謎解きから始まるという感じでいいですかね。
小飼：そうなんですよ。だから、公正戦って何ぞやっていう感じでしょうね。だから初めそこだけ見てると、アンパイヤ付きのドンパチ、要は人数が限られてて、一定の目的を達すると勝敗がつくと。要は普通は相手のリーダーを無力化するとか、そういう感じなんですけれども。だから、公正というのは、極論してしまえば何でもありの世界ではなくて、その一定のルールに則って戦う範囲であれば戦ったよしで、反則をしてしまうと、反則負けを取られるという。
山路：この世界での戦争っていうのは、公正戦だけではないわけなんですよね。
藤井：そうですね。
山路：これって、公正戦と、普通の、まあ言ってみたら従来型の戦争？ なんていうか、ルールなしでやる戦争と、公正戦、その戦争の当事者がどっちを選ぶっていうのはどうやって決めるんですか？
藤井：それは攻める側が基本的に選ぶ形になっています。前提としては。もともと公正戦というのは、両方の申し合いによって成立するケース、今、『マン・カインド』の時代、2045年には両方の申し合いで成立しているんですけど、成立する段階においては、基本的には攻めていく側、つまり抵抗する側だったりとか、独立を宣言する側だったりする人たちに対して攻めていく側が「いや、私たちは公正にやるからね」みたいな。「ちゃんと勝利条件を提示するよ。今から送る一部隊を潰したら、君たちの勝ちでいいからね」っていうふうに勝手に提示するわけです。そういう形での、かなり歪んだあれです。
小飼：やくざの地上げだ（笑）、
藤井：正面から潰していけば、勝敗は完全に決まっちゃうんですよ。なんですけど、それは持てる国も、非対称戦争の時代ですからね。なんですけど、そこに「いや、私たちは正しくやるからね」っていう言い訳をつけるために、少数の部隊で「はい、これ倒せば勝ちです。やってみてください。どうぞ」みたいな、そういう勝利条件に引きずり込んでいくためですね。
山路：これは結局、持てる国が世界からの批判を避けるための建前ということでもあるわけなんですよね。
藤井：ただ、そこで相手がもしも（ルールを）破ったら、容赦のない物量戦争で引き潰しますよ、みたいな、そういうことですね。それを武力と経済力を背景にした、瞬間的な正しさの演出みたいな感じ、ではあります。
小飼：それで一つ思い出したのが、ナチスが占領しているところの、東欧のどこか、ウクライナだったっけな。サッカーやって、それでナチス側のチームを打ち負かしちゃうんだけど、全員射殺されちゃうわけです（笑）。
山路：笑い事じゃないな。
小飼：でも、度を超えた悲劇というのは、喜劇と区別がつかないという。
山路：しかし、それを言うんだったら、ジャンケンで決めてもいいんじゃないか、みたいな気はしてくるところなんですけどね。
藤井：実際、オバマ大統領がやっていたドローンによる要人暗殺なんかも、引き金を人間の手に置くという原則を基本的には守っていたわけなんですね。それでアメリカ人のオペレーターが、けっこうPTSDになったりとかしてたんですけど。それでも、ここに責任がありますよ、私たちは責任を取るつもりですよ、というそういう。
小飼：そうか。そこもヒントだったんですね。
藤井：そう。そういう、自分たちに責任がありますっていう、アカウンタビリティがありますよっていう、そこを、演出ですね、演出というよりも、宣言ですね。そういうところから生まれている概念。そういうところからヒントを得て作った概念ですね。
小飼：ヒントといえば、ついさっき入ったニュースでノーベル物理学賞、ヒントンの先生が受賞した。
山路：そこからくるの（笑）、
藤井：あれが物理学賞なんだって。
小飼：でしょ？ でしょ？
藤井：でも、そうだねって感じですよね。
小飼：ちなみにもう一人は、ホップフィールドとの共同受賞です。でも、本当にワントピックで、まるっと受賞なので。しかも、ニューラルネットなんですか？ っていう。
山路：20世紀にすでに出てきたニューラルネットワークの原理っていうことに関して賞が与えられたっていうことなんですね。
小飼：だから、今もうそれ、もう満開だもんね。咲きまくってるもんね。
山路：これは弾さん的には、あるいは藤井先生的には、このノーベル賞の受賞っていうのは意外でした？ お二人から見て。
藤井：私は物理学賞で取るとは思ってなかったです。
山路：フィールズ賞みたいなもんだったりとか？
藤井：いや、数学系とか。ノーベル賞の中でコンピューター科学に適した賞っていうのは特にないんです、部門はないんですけど、それでも、数学かな？ 数学じゃないや、何が適してるのかなっていうと、確かに他にないんじゃないんだけど。
小飼：強いて言うと、むしろphysiology、生理学賞？
藤井：そうですね。生理学賞ですね。
山路：言ってみたら、人間の知性みたいなものを工学的に再現したみたいな文脈で。
小飼：そうそうそう。だから、まさに神経がヒントだったわけじゃないですか。いや、でもノーベル賞に値する業績だっていうのは間違いないところで、じゃあどのノーベル賞？ っていう時に。数学があれば、これが一番楽だと思うんですけれども（笑）。でもけっこう、物理学の人も評価してるので、結果としてこれはこれでアリなんじゃないかと。こう言っちゃなんだけれども、オバマも平和賞取ったのだし。ひでえ言い方（笑）。
山路：暗殺とかもしてる（笑）、
藤井：だいぶ程度が違うと思いますけど（笑）。でも実際、物理学でエントロピーを扱う、実際エントロピーの話だと考えるとすごいことですからね。
小飼：エントロピーっていうのはもう情報にも熱力学にも出てくる概念で、しかもブラックホールを通して繋がってるっていうことがわかったというね。そういうのを考えると物理に、いつ物理になるか。
山路：情報を扱う分野はとりあえず物理学賞に放り込んでおけば、まあなんとかなるやっていうことが、前例ができた。
小飼：前例ができた。前例ができた。いや、だから、すごい、なんてタイムリーなんだというね。なんてタイムリーなんだという。
山路：じゃあちょっとAIの話で続けるんだと、『マン・カインド』のほうって、AIは今みたいな形でのLLMが大活躍みたいな感じではないですよね。ジャービスみたいな名前をつけて、Hey、Siriみたいな感じで使って。まあユーザーインターフェースとしてAIはちょっと登場しますけれども。
藤井：でも主人公の迫田が、記事を書くのにはAIをバリバリ使ってますから。もう彼は書かない記者なので。
山路：映像を全部流し込んで、それを起こさせるみたいな。
小飼：だからそこはよく当てましたよねっていう。LLMみたいな力技だったらっていう予測までしてらっしゃったとかどうかはわからないけれども。いや、でも本当にLLMって力技だもん。とにかくニューロンいっぱい用意して、それでぶっ叩く技なので。
山路：相変わらずAIが熱くなっているというか。最近だと孫さんが発表、特別講演でもう10年以内には超知性が来るぞみたいなことをぶち上げてたりしますけれど（笑）。その文脈でいうと、藤井先生としてのタイムスパンというか、どんな感じで見てます？ 今のAIの進歩のロードマップ。
藤井：AIって言われているインアウト、I/Oの中で何が行われているかは正直わからないんですけど、あれにどんな肉体をくっつけてあげると超知性と私たちは感じるのかなみたいな。そこには興味がありますね。本当はワンラインの、テキストチャットのワンライナーだとあれ以上のことはできないわけですね。それにたとえば電力制御とかのI/Oとかを繋いでしまうと、電力制御はなんだか知らないけどやってしまうものになるわけですよ。なのでどういう肉体をあれに与えてあげるかっていうのがすごく、どういう手を上げるか。だからAGIに私たちは何を期待するんでしょう、ということですね。
小飼：あと、そもそも我々以外に、違った、地球外知性体っているのかっていう質問をまだ生きている時のホーキング博士に言ったら、知性体どこにいるんですかみたいな答えが帰ってきたことがあったけど（笑）、それはとにかくとして、仮にそういった超知性ができたとして、我々にそれが認識できるのかという。『はたらく細胞』というマンガがありますけれども、あれ僕、じつは苦手で。なんで苦手かっていうと、擬人化されているから。人の理屈が働かないんですよね。個々の人には人権があるわけじゃないですか。少なくとも文明人の社会ではそういうことになっていますよね。ないんですよ。細胞というのはいくらでも使い捨てにできるわけですよね。
山路：そういう立場に我々も知らない間になっている可能性もあるという、超知性ができたときは。
小飼：そうそうそう。だから超知性の細胞なのかも。
山路：もしかしたら変な感じの事故死が最近増えたなとか、そういうことで初めて認識するとか、そういうことになるのかもしれない。
小飼：そうそう、なんかプリウスミサイルが減っているぞとか。
AIが書いた長編小説のレビューはだれがやる？
「AIの創作物が人間の創作物を超えるのはいつになると思いますか？」（質問）
藤井：超える、少なくともスピードだけでいうともう超えてますよね。速さだけでいうとね。間違いなく（笑）。
山路：超えるとはそもそも何ぞや、という。
藤井：そうそう。で、売れるかどうかでいうと、売る人がいればその時にAIの創作物のほうが売れちゃうんじゃないでしょうかね、と思います。
山路：面白い小説というのは書けると思いますか？ LLMの延長上に。
藤井：書けるとは思います。ただ小説って特に長編小説なんですけど、文章の量としてはけっこう不自然に長いんですよね。LLMとかで破綻なく出せる文章の長さってそんなに長くないじゃないですか。それってインプットしているテキストの長さ、4500文字から1万文字、日本語で言うと、ぐらいのテキストを大量に読んでいるから、それぐらいでまとまって出てくるんですけど。でも人間に、普通の人に何かまとまった文章を書かせてもそれ以上の長さのものってなかなか出てこないんですよ。長編小説ってこの（『マン・カインド』の単行本を見せる）厚みを作るために、3000円とか2000円とかで売るためにこの厚みを作るわけですね。すごい工夫するんですよ。キャラクターを増やしたりとか、裏切りを作って物語をフリップさせたりとか、あと伏線を置いておいて回収するとかみたいな。けっこう工夫してページを増やす。
山路：そんなこと言っちゃっていいですか（笑）？
藤井：増やしてるわけじゃないんですけど、この長さのボリュームのテキストを楽しむっていう、このエンターテイメントの。要は建物を大きくする、ジェットコースターをでかくする。あるいは、
山路：読者の時間を拘束して、入り込ませる、体験をさせるっていうことですね。
藤井：そう。でも思いっきり楽しんで1週間なり2週間なり、今、速い人も2、3時間以上は絶対かかるので、そういう楽しみを得る。
小飼：長いのがトレンドですね。今、特に。
藤井：今、もっと長いですもんね。私の日本の小説なんてこんなもんですけど、アメリカの小説とかだいたいこんな厚みになってきてますから。
小飼：いや、ほんとに。900ページくらいがデフォルトですかね。
藤井：増えてます。増えてます。あれってやっぱりその長さにするためのテクニックがすごいいるんですよ。やっぱり。あれは明らかに人間の自然な思考から出てこないので、一発では。何回も繰り返して作るとか、設計を考える、キャラクターの造形を考えるとか、そういうことを積み重ねていかなきゃいけないんですよね。AIも当然できるんでしょうけど。
山路：最近だとOpenAIから「o1」が出てきたじゃないですか。そこのところで推論とかができるようになったみたいなことは言われてるんですけど。
小飼：いや、できてるように見えないなー。
山路：小説とかのテクニックみたいなものっていうのを抽出して、そういうものを学ばせることが可能なのか、
藤井：でも、LLMってそういうふうにものを書いてないですからね。基本的は確率でしょう
山路：だから、それがLLMの延長なのか、あるいは別の仕組みが必要なのかわからないですけど、そういうふうな小説家のテクニックみたいなものまで明文化じゃないけども、学習することが、
小飼：いや、そもそもテクニックというものが幻想だったという。
藤井：うん、だと思いますよ。私は、たとえば小説書くときにプロットを描いたりとか、絵を描いたりとか、こうしてキャラクターを作るとか原則をけっこうこういうふうにして作るんだって言ってますけど、おそらくそういうふうに作ってないですし、頭の中では。これをプログラムで書けって言われると、絶対に穴がボロボロあるわけですよね。AIを使うと、Pythonとかで書くと間違いなく穴だらけになるんですけど、今のo1-previewとかにやらせると、それっぽい形のことはたぶんできると思うんですよね。なんですけど、なんだかんだ言って、小説ってレビューするのはむちゃくちゃ大変で、たとえばo1に30万文字の小説を書かせるようなプロセスは作れると思うんですけど、誰がレビューするんですか？ それみたいな。
山路：矛盾ないストーリーになっているか、いちおう、整合性は確認させることはできるかもしれないけど。
藤井：手で書いた小説って、書いてる人は少なくとも面白いと思って全部のパートを書いてるんですよ。なんですけど、o1が出してきた30万文字のテキストの全パートがちゃんと読めるくらい面白いかっていうのをレビューする人は誰なんだ？ みたいな。
山路：新人賞の第1次選考どころじゃないっていう（笑）。
藤井：どころじゃないね。新人賞の応募だったら、ダメなものは「ごめんなさい」って言って横に避けとけばいいんですけど。
小飼：あと、どれが売れるかっていうのは、これが工業製品だと、いい悪いっていうのはビシッと決められるわけです。性能というのは、押し量ることもできるわけです。おかげで、たとえば、ベンチマークの時にチートコードを中に入れるとかっていうのも出てくるわけですけども、文芸作品の面白いっていうのは、これまた別で、読者も千差万別なようでいて、よく売れる、よく読まれるっていうのも、これまた変わってくるわけですよね。なろう系がこれだけ出てきたっていうのも、チープに仕入れられるっていうのも大きいんですけれども、読むのも楽、あんまり脳が疲れないっていうのもかなり大きいと思いますよ（笑）。
藤井：でも、あれだけのテキストのボリュームのテキストを読んで楽しむっていう体験は間違いなくエンターテイメントで。仮にですよ、『転スラ』クラスのボリューム27巻とかやつをo1-previewとかにやらせたとして、本当誰がレビューするんだろうなって。大変だと思いますよね、こればかりは。生成AIで絵を作った時っていうのは、レビューはかなり短い時間で、小説に比べるとね、けっこう短く済むんですよ。もちろん絵を描く人にとってしてみると、ここのタッチがちょっと油絵から出力したはずなのに、ここに絵の具が透明にかかっちゃってるよ、おかしいじゃんみたいなのとかわかりますし。
小飼：あと指が6本ある。
藤井：それはすぐにわかるから（笑）。
小飼：だいぶ減ってきてる。
藤井：だいぶその辺は減ってきてる。音楽作るやつとかも、ゲームミュージックとか最近AIで作ってるケースあるじゃないですか。でも聞いてると、おかしいところがけっこうあったりするんです。たとえば、ドラムセットが曲が始まった時と終わる時で変わってるんですよ。4タムのドラムだったはずなのに、なんかタムが6つに増えてるぞとか、さっきまでは、このブレークに使ってるタムなかったろうとか、チューニング変わってるじゃん、バスドラム4つとか5つとか持ってるのとか。変わるんですよ。それはドラマーの人にとっては我慢のならない違いなんですよね。ドラマー10人とかやってきて録音するのか、それ。っていうか、俺に叩かせろみたいな。だけど、それをゲームに使う人にとってみると、けっこうどうでもいい差だったりとかするわけですよね（笑）。
山路：99パーセントのやつを求めようとすると大変だけど、80点くらいなら、いっぱい作れるみたいな感じの。
藤井：いや、それがね。だから我慢できる出力の形態とできない形態があって。作家側、作ってる側からすると我慢できないものがかなり増えるんですね。当事者だったら。小説ってけっこう、我慢できないレベルが、かなり我慢ができないと思うんですよ。
山路：確かに、1文字間違ってても、イラスト1ピクセル絵で間違ってても誰も気にしないとは思うけど、
小飼：あっとね、オブジェクション（異議）言わないと。
山路：えっ？ 今のどこにオブジェクション？
小飼：あのさ、なろう系とかはさ、本当に誤字、脱字だらけですよ。
山路：あ、そっか、そっか（笑）。
小飼：で、誤変換、過変換だらけだけれども、読まれるわけじゃん。で、いちおうこれが売れるのであれば、商品化される時に、そういうところっていうのはある程度直されるじゃん。アニメ化された場合とかっていうのは、さらにプロットとかっていうのもおかしいところっていうのが直されたりするわけじゃん。だから、じつはけっこうドラフト段階、あれこれおかしいぞっていうのがいっぱい混じってる段階で、だから演奏ミスがいっぱいある段階でも、意外と人って聞いてくれるんじゃないかという。
藤井：それありますよね。
山路：なるほど。商業出版の編集者がいろいろ書き直し、いろいろやりとりしてるような段階が、もうウェブ投稿の。
小飼：だから僕みたいなうるさい奴のことというのは、聞いちゃダメなんだよね。本当思う、だからなんでここは等幅フォントじゃないんだとかね（※編注：『マン・カインド』の本文中、コマンドの記述については等幅フォントにすべきと主張している）。
藤井：ごめんなさい（笑）。
小飼：そういうこと言うのは（笑）、
山路：本当に読者の言うこと聞いちゃダメですよね。
小飼：あんま聞いちゃダメなんですよ。
藤井：気づいて直す、プログラムコードの中に「￥」が入ってるとかね、ここバックスラッシュだろっていう。
小飼：その通りですね。
山路：逆にいろいろ背景を想像させてしまいますよね。バックスラッシュでなくて「￥」が入ってるっていうのは（笑）。
小飼：でも文芸作品の場合っていうのは、そういうのは必ずしも瑕疵ではないんですよね。だから本当にアバタもエクボというやつ。もうアバターもエクボというやつで（笑）。結局のところ、AIが明らかに人間よりも強いって言えるものというのは、強いルールを設定してあるんですよね。囲碁にしても将棋にしても。これがもっとお金が儲かる部分だとすると、だからプロテインフォールデイング、タンパク質の畳み込みとか、そういったところっていうのはもうガッチシ、どっちがいいのかっていうのが判定できるじゃないですか。
山路：そうか。小説なんかって何が面白いのかっていう判定基準みたいな、そういうルールとかがまだ誰も知らないというか。
藤井：あと、難しいのが小説だったり絵画だったりとか、このパブリッシュするものに関しては、誰か説明できないと、アカウンタビリティが必要なんですよね。出版した人は。説明できなきゃいけないんですよ。そういう意味では、説明できるんだったら全部AIで出したっていいんじゃないの？ っていうふうに私なんかは思うんですけど。もちろん。
小飼：これでいいのだ、ができれば。
藤井：そのAIが適切に作られているという前提が必要ですけどね。とはいえ、
山路：最近、OpenAIがo1を発表した時に言ったのが、途中のchain of thoughtsは明らかにしないですよって。とりあえずo1に関しては、もうそれでいきますよってことを宣言した。途中で不適切な考えがあったとしても、それを明文化すると問題になってみんな使えなくなるんだったら、頭の中で考えているようなものは非表示にすることによって、より高い推論とかを実現するようにしますよみたいなことをOpenAIは言っていたりするんですよね。それが今後どうなるかっていうのはわからないですけれども。
藤井：でも、AIに関して言うと、透明性を求めているカリフォルニアだったりとかEUだったりとかの規制との当局とのやり取りの過程で、研究者たち、開発者たちも考えるところがたぶん増えてくると思いますね。
この記事は過去記事の為、今入会しても読めません。ニコニコポイントでご購入下さい。