「小飼弾の論弾」で進行を務める、編集者の山路達也です。
無料公開部分の生配信およびアーカイブ公開はニコ生・ニコ動のほか、YouTube Liveでも行っておりますので、よろしければこちらもぜひチャンネル登録をお願いいたします！
今回は、2023年12月12日（火）配信のテキストをお届けします。
次回は、2023年12月26日（火）20:00の配信です。
お楽しみに！
2023/12/12配信のハイライト
Googleの新しいAI「Gemini」について
山路：もう12月入っちゃって、いろいろ大変なんですけど。私も今年は来週くらいには仕事を一段落しそうな感じで。
小飼：でも、次はまた2週間後に、
山路：もちろん、この『論弾』はやりますよ（笑）。ただ、ちょっと頭もだいぶ、冬休みモードになりつつあるんですけれども。今日見たびっくりしたニュースで、じつはAIも冬休みモードに入っている可能性があるという（笑）。
小飼：なんかあれウケるね。
山路：今、リンク出しますけれども、このChatGPTとか、Bardもそうなのかな、12月に入ると、どうも回答とかのやり取りが短くなるみたいな。
小飼：ハハハハハ。
山路：何ていうか、さっさと仕事を切り上げようとするっていうことが冗談で最初は言われてたらしいんですが、統計的に調べるとどうも。
小飼：どうも人間から学習したらしいね、その点のところを。
「確かに記事要約をサボるようになってたかも」（コメント）
山路：（笑）。どうなのか、どこまでがプリチューニングだったり、ファインチューニングだったりとか、その辺の影響なのか。
小飼：そうなるとクリスマスが近づくと、少しエロくなったりするのかしらね。人間から学んでるっていうことから。
山路：何のデータからやってるのかという話なんですけどもね。
「HuggingChat使うか」（コメント）
山路：いろいろ裏技というか、なんかハックがあるのかもしれません。
「データセンターが南にあるとか」（コメント）
山路：ああ、なんかもう、どんなことにAIが影響を受けるのかというのが、人間の直感ではわからなくなってきているところがある。
小飼：けっこう、AIを通して、人間とは何かというのが一見、なんかすごい哲学的で、深淵な疑問のように思えてたのは、意外とショボいということがバレつつあるという（笑）。
山路：そこに登場したのがGoogleのGeminiですよ。英語読みだと「ジェミナイ」らしいですけど。
小飼：だけれども、昔いすゞがGeminiという車を売ってて、だからこういう綴りだったので、どっちでもいいです。
山路：これ、デモの動画出てたじゃないですか。
小飼：まぁでも、あれはリアルタイムで撮ってたものではないっていうのが、ちょっとネタバラシされてたよね。だから、実物はあそこまできれいに、
山路：速くはないっていうね。ただ、それにしても、いや、それある程度、大規模言語モデルとかいじったことがある人だったら、「まぁまぁ、それはそうなんでしょ」と思いながら見たんじゃないかとは思うんですけど。それを割り引いて考えてもけっこうな性能じゃないですか、Gemini。特にまだリリースされていないGemini Ultraのほうだと思うんですけど、来年公開予定の。それでそこまでマルチモーダルで絵とか見せて、それを書き足していくとそれも認識してとか、あるいは映像とかもシーケンスの形ではあるけども、いちおう渡すと、これがどんな映像で何をやっているのかを認識するというのは、相当なところに来ているような気も。これでまた新しい展開というか。
小飼：まぁ、でもいちおう、少なくともChatGPTには、一つはコンペティションがあるということで。それ、やっぱりすごい重要なことだと思うんですよ。
山路：このおかげでAI関係のサービスの値段が高くなりすぎずに済むっていうところがあるかもしれないし。
小飼：それはあるでしょうね。
山路：でも、そんなに本格的にGeminiが登場したからといって、ものすごく変わるとまでは弾さんは思ってない感じ？
小飼：そうね、どっちかというと量的にすごいというのか、だからより速い？ 具体的に感銘を受けたところは。最初にChatGPTが出来た時に質的に別物になったというところまでではないかなという。でも（Geminiの登場も）ChatGPTの3.5が4になった時ぐらいのインパクトはあるんじゃないかな。
山路：そういう進化していくAIに関して、神林長平さんが意見を。
小飼：いや、まぁ、実にまっとうな意見を。冷戦の前から。AIって書かれると、なんか神林長平っぽくないよね。やっぱり、人工知性体とか、そういう言い方をしたくなってくるよね。
山路：冷戦の前からって？
小飼：いや、デビュー作が『狐と踊れ』でしょ。確か1979年だよ。
山路：ベルリンの壁の崩壊前ってことですよね？ 冷戦中にってことね。
小飼：そう、『雪風』書かれてた頃は、まだ冷戦の真っ最中だったよ。
山路：あー、そう言われてみればそうだな。
小飼：そうなのよ。冷戦に引きずってるのよ。その一方でステルスって出てこないでしょ。
山路：ジャムのほうしかステルスがない？
小飼：いや、どっちかっていうと、その時のスーパーテクノロジーっていうのは超高速ミサイル。ステルスのほうじゃなかったんですよ。それは置いといても。
山路：確かに神林長平さんは、「自分の作品世界に現実がやっと追いついてきた」といえるだけの資格を持っている。
小飼：資格を持っている人ですよ。
山路：よく言ってたじゃないですか、この『論弾』なんかでも、AIでどんどん小説とか生成されようになってきたら、どうなるの？ みたいな。
小飼：そう。じつはAIに勝手に書き直されてたっていう設定の作品っていうのも、いくつかあるんですよね。
山路：『雪風』にもそういうシーンが出てきますよね。
小飼：はい。
山路：本当に、神林長平さん自身は、AIが作家を始めてもやらせておけっていうか、むしろそれが楽しみと。
小飼：というのか、人間のアシストなしに、今のところはAIの判定の素材っていうのは、人間が提供しているわけですよね。
山路：ここのところで彼が最後に言っているのは、そういう作品ができたら読んでみたいし、そのやつって人間の価値観とは異質だから理解はできないだろうけど、共感は可能だろうっていうふうに書いてあるんですよね。共感。共感って、この場合の共感って、
小飼：共感とは一体何だろうっていう話にもなってくるよね。
山路：それって結局、この場合、コンピューターと意思疎通ができるというよりは、コンピューターと意思疎通ができているかのような幻想を、自分も抱くことができるみたいな意味なんですかね？
小飼：これ、『雪風』の話でいうと、AIはFAFのコンピューターだよね。
山路：フェアリィ空軍の。
小飼：明らかに人類を守ろうとしているのではなくて、あくまでも守る対象というのはFAFでそのためには天田少尉を2階級特進させるくらいのことっていうのは平気でやるわけだけれども（笑）。だけど、少なくともFAFの立場に立って、人権というものを全部無視してしまえば、こういう振る舞いになるだろうという意味で、そういう共感はできるんでしょうね。
山路：なるほど。それも共感といえば。
小飼：文字通りの人でなしなんだけど、そのおかげでジャムと戦えているわけだよね。
「FFとは？」（コメント）
山路：「FF」ではなく「FAF」ですね。神林長平さんの『戦闘妖精・雪風』っていう小説に出てくる軍隊。
小飼：代表作中の代表作ですね、
山路：舞台が惑星フェアリィなんですよね、本当にそれが地球外の惑星なのかどうかってこともじつは謎だったりするんだけれども、
小飼：そこから異星人というのか、異星体が攻めてきて、地球に攻めてきたんですけれども、そのフェアリィ星で食い止めることに成功したわけです。そのフェアリィ星で、その異星人のことをジャムと呼んでるんですけど、ジャムと戦ってるのが、
山路：フェアリィエアフォースの略でFAFなんですよね。空軍しかないんですよね。
小飼：そうなんですよ。
山路：士官しかいなくて、兵卒もいないという恐るべき変な軍隊なんですけども（笑）、これが超強力な軍事力を持つという設定なんですけどもね。
「AIって言っても、宇宙人ではないのか、考えてみると」（コメント）
山路：まぁそうですよね。少なくとも大規模言語モデルに関しては、人間のコンテンツで学習してるってとこはあるわけだから。それが人間と同じ常識を持ってるかどうかは別問題ですけれども。
「GeminiがChatGPTを超える可能性は？」（コメント）
小飼：超える、超えないというのには材料がちょっと少ないですよね。でも、たとえば同じレスポンスを返すときにGeminiのほうが速いとか、より適切だとかっていうのは、データが集まってくれば判断できるんですけれども。少なくとも、今のところはGoogleのウェブインターフェースしかないわけじゃないですか、Bardにしても。Geminiはまだデモを見せているだけ、こういうことができますよっていうだけで、実際に我々が触れる状態にはなってないんですけども。
山路：少なくとも英語だと、BardのエンジンをGeminiのProとかに切り替えることができるという話も聞きましたけど、日本語ではまだ無理ですね。
小飼：だけどまだCopilot的なことができてないじゃん。
山路：そうですね。
「まだChatGPTが勝ったというわけではない」（コメント）
山路：というか、まだぜんぜんわかんないですよね。
小飼：ChatGPTのほうがもう実用化段階というのか、うちの長女とかは本当に具体的な仕事をやらせてますね。一つ感心したのは、今大学院生なんですけども、ポスター発表があったみたいで。そのポスター発表をする時にキャンパスのプリンターが忙しいので、元のPDFを9分割して3倍かける3倍して貼っ付けてやろうと考えたはいいんですけども、誰もやり方を知らないと。誰もやり方を知らなくて、「やり方を教えてくれ」ではなくて具体的にそのPDFをぶんと投げて、「これを3×3の9分割してくれ」って言ったら、9個分のPDFを送り返してきたの。
山路：あ、ほんとに？
小飼：マジきれい。これは本当にマジで仕事してるよね。
山路：私も似たようなタスクを投げたりするんですけど、できないことも多いですよね（笑）。
小飼：できないことも多い。一つ、これはこれができるようになってくれたら嬉しいなというのは、郵便番号を住所に変換する、有名な「ken_all.csv」というCSV形式のデータ、
山路：あれねー、
小飼：ken_allを投げて、きれいなJSONにしてくれるとか、JSONでもなんでも、YAMLでもなんでもいいんですけれど。
山路：しかしそれができたら、大抵のエンジニアの能力を超えてることになりませんか？ あのken_allを（笑）、
小飼：でも、普通PDFを9分割っていうのはあんまないんだよね、
山路：私もパッとは思いつかないですね、
小飼：普通「2のべき」でしょう、4分割とか、4分割をさらに4分割とかっていうのであれば話聞くんですけども。
「もうビジネス云々とか、みみっちいことを考えるの馬鹿らしくなってきたな」（コメント）
山路：いろいろ仕事とかちょっと任せて、便利みたいなことって最近増えてきたじゃないですか、ChatGPT。ただ、AIみたいなことで小遣い稼ぎというか、ちょっとビジネスを行おうというのって、じつは難しくなってませんか。
小飼：却って難しいでしょうね。
山路：本当にひと月ふた月のレベルで、これでこういうサービスをやったら、ちょっと小銭に稼げるんちゃう？ と思ったら、それがChatGPTの標準の機能になってきたりとか、便利にはなってるんだけれども、稼ぐエリアってどんどん埋められていってないか、みたいな気はちょっとして。このコメントを書いた人が、そういうことを意味で言ったのかどうかはわからないんですけれども。結局みんな、MicrosoftとGoogleが持ってくんかい、みたいな気が。弾さんもしてます（笑）？
小飼：うん。どうもプロンプトエンジニアというのは職業にならないというのか、プロンプトエンジニアリング、すぐその成果というのをプラグインとして上げられちゃっておまんまの食い上げに。
山路：職人技がダイレクトにみんなに共有されてしまうスピードがめちゃめちゃ速い。
「無修正AIの流出」（コメント）
小飼：そういえばあったよな。一つ前の技術なんだよな。要はモザイクを取るやつ。モザイクの部分というのを勝手にAIで保管するというのは、まだ一つ前の。
山路：ここで言っている無修正AIって、つまりコンプライアンスとかそういうことを、たとえばエロいことを言わせるとか、ものすごい過激なことを言わせるみたいな、そういう制限がかかっていない意味での無修正ってことなんじゃないですか？
小飼：あ、っていうのは要はTay、有名なネトウヨ化したら止めるみたいなことをしないという意味での無修正、
「無修正（怒られないAIです）」（コメント）
山路：規制当局に怒られないってこと？ 怒られないけど、無修正ってこと？
小飼：規制当局、対応できるのかな？
山路：常にAIの新しいものが発表されるたびにAI規制論がまた動くじゃないですか（笑）。どういうふうになっていくのかなっていうのは正直、まだようわからんところはありますけれどもね。来年とかには、気の早い人は2025年にもうAGIできるんじゃないかっていう話までしてるし。
小飼：あるいはもうできてるんじゃないかという話も。
「AI団体みたいなものって必要なの？」（コメント）
山路： AI規制をするような団体って、AIアライアンス、この前できましたけどね。そういうものっていうのがいるのかどうかっていう。
小飼：いや、そこに利権があり得るのであればできるでしょうというね（笑）。
山路：あとはやっぱり、ちょっと後でメールの話、しますけれども、
小飼：もうすでにやってるかもしれないですよ、安倍派の皆さんがキックバックのもらい方とか聞いてるじゃない（笑）。
山路：そうかもしれないですけどもね（笑）。
「AGIあっても、結局サーバを持っている企業に鎖で繋がれている状態だしな」（コメント）
小飼：まぁ、そうなんだよね。
Gmailの仕様変更とIDとしてのメールアドレス
山路：なんかこう、一般ユーザーはクラウドサービスをやっている企業に、AGIにおうかがいを立てるみたいな感じになっちゃうのかもしれないですけどもね。じゃあちょっとそのAIではないんですけれど、ネットに絡んでデカいニュースというか、メールに関して。
小飼：ああ、
山路：これデカくないですかという。
小飼：あー、でかいというのか。
山路：これっていうのはGoogleがGmailで受信するメールに関してのガイドラインを厳しくすると。たとえばSPF、DKIMとか、そういう改ざん防止みたいな仕組みだったりとか、
小飼：それに対応してないメールでないとリジェクトしますよと。じつはですね、僕もちゃんとSPFにパスしないメールというのはスパム箱に落ちるような設定にも既にしてありましたけれども、一つそれよりも一段と強いスパム防止技術にDKIMというのがあって。これは何かというと、メールサーバが外にメールを出す前に電子署名するんですね。それで公開鍵はDNSで公開しておくと。
山路：これ1通1通に電子署名？
小飼：そうなんですよ。1通1通に電子署名するのでずっと重いんですね。SPFはもう、1行DNSに登録すれば、もうそれで作業終わっちゃうんですけども。
山路：それって言ってみたら、そのメールクライアントのほうでPGPの電子署名つけてたみたいなことをメールサーバのほうで1通1通やるっていう。
小飼：そう。PGPの場合は差出人の電子署名ですけれども、メールサーバの電子署名なので、差出人自身の素性というのは、それでは確証を持てないんですけど、少なくとも正しいサーバから出ている証明というのは、ものすごい強い証明になるんですよね。
山路：Googleが示したガイドラインって対応するのがどれくらい大変なものなんですか？
小飼：SPFはさっき言ったように、あまりにもちょろい、SPFにすら対応できないのであればメールの運用なんてやめちまえというレベル。だってDNSに1行付け加えるだけですよ、そんな作業すらできないのであればっていうので。でもDKIM対応はちょっと難しいです。
山路：それはメールサーバのほうにそういう機能を組み込むなりとかして、それを有効にしてなおかつ、それに耐えられるような計算リソースも用意しなきゃいけない。
小飼：そうなんですけれども、いや、かつてスパムが猖獗を極めてた時代っていうのは僕のサーバのところにも1日100万SMTPコネクションが来たことがある。さすがに全部は受け取らないようにしました、それは。IPアドレスで明らかにダメなやつというのは、弾くやつを入れたんですけど。今はそこまでは酷くなってないので、その代わりに内容が酷くなりましたよね。内容が剣呑になりましたよね。
山路：フィッシングメールとか、より具体的な犯罪のっていう。
小飼：そうそう、より険悪で凶悪になったので。
山路：ちなみに、弾さんが自前でメールサーバとかを運営する理由というのは？
小飼：まぁ、意地なのかもしれないし、腐れ縁というやつなのかもしれないけども、少なくとも自前で続けられる限りは続けようと。ただその一方で、GmailとかiCloudを使うことも多くなってきましたよね。
山路：やっぱり、前もちょっと言ってたように、なんか自分でなんとかできるようにしておくと。
小飼：（コメントを見ながら）「くる」のではなくて、幸いにして過去形ですね、「きてた」のですね。今100分の1ぐらいにはなってます。それでも、
山路：1万（笑）、
小飼：けっこうな数になって。ただ、そのおかげでスパムとどうやって戦うのかというノウハウはかなり（笑）。
山路：なかなか、普通の人が得がたいスキルではあるわけですもんね。
小飼：そうなんですよ。ウェブのほうを知ってる人はけっこう多いんですけど、メールのほうを知ってる人というのはずっと少なくなる、2桁くらい減るのかな。いや、いまだに自前でメールサーバを運用してるっていうのは。
「プロトンメールとかはどうですか？」（コメント）
山路：プロトンメールって何ですか？
小飼：あったな、そういうのが。あ、今もあるのか。今もWebメールのサービスの一つじゃなかったっけな。
山路：これは上の人のコメントに対する返事なのかな。
「Gmail怖くていまだに使ってないけど、使って大丈夫」（コメント）
山路：「Gmailが怖い」っていうのはよくわかんないんですけど、中身を乱れるのが怖いってことですか？
小飼：ああ、広告とか入れるので、少なくともGmailのAIというのは中身を見てはいるんだけど、少なくとも人間は見てませんというのがあれだよね。
山路：Gmail怖いというのは、いまいちちょっと理由はわからないんですが、
小飼：中身がGoogleに筒抜けてしまうというのと、あと内容によっては、たとえばそこにチャイルドポルノの画像というのが添付してあったりしたら、それを理由にアカバンを食らう可能性もあるわけですよね。そうするとGoogleのサービスというの、メールアドレスイコールIDなので、全部取り上げられちゃうんですよね。失うのはGmailだけじゃないわけですよね。たとえば、これがAndroidフォンだったら、電話丸ごとロックされるのと同じですからね。
「個人情報保護と勝手に検索通報が怖いってことです」（コメント）
山路：ほうほう。
小飼：少なくともGoogleのサービスというのは、中身をGoogleが監視していますというのは明らかなんです。その意味での怖さはありますね。
山路：あとはGoogleドライブなんかとも連携していたりするじゃないですか。Googleドライブで最近ファイルが消える事故とかもあったりして、そういうところが全部繋がっていると大丈夫なん、みたいな気持ちも。
小飼：こう言うのもなんだけど、「Gmailだけ使う」というのはやめたほうがいいです。
