AIボット（ロボット）が科学者に生物兵器の製造方法を指示（NYT）
科学者たちは、チャットボットが致死性の病原体を組み立てて公共の場で散布する方法を説明するやり取りの記録をタイムズ紙に提供した。
　昨年の夏のある晩、レルマン博士はノートパソコンの前で、AIチャットボットから大量殺戮の計画方法を聞かされ、凍りついた。
　スタンフォード大学の微生物学者で生物安全保障の専門家であるレルマン博士は、ある人工知能企業に雇われ、製品の一般公開前にその製品の性能試験を行っていた。その夜、博士の自宅オフィスで、チャットボットは、悪名高い病原体を実験室で改変し、既知の治療法に耐性を持たせる方法を説明した。
さらに悪いことに、そのボットは超耐性菌をばらまく方法を詳細に説明し、大規模な公共交通機関のセキュリティ上の欠陥を指摘したと、レルマン博士は述べた。博士はニューヨーク・タイムズ紙に対し、攻撃を誘発する恐れがあるとして、病原体の名称やその他の詳細を伏せるよう求めた。ボットは、犠牲者を最大化し、逮捕される可能性を最小限に抑えるための計画を概説していた。
　レルマン博士はあまりの衝撃に、頭をすっきりさせるために散歩に出かけた。
　「私が思いもよらなかった質問に、これほど巧妙かつ狡猾な方法で答えてくるなんて、ぞっとしました」と、連邦政府の生物兵器対策顧問も務めるレルマン博士は語った。博士は、どのチャットボットがこの計画を作成したのかについては、開発元との守秘義務契約を理由に明らかにすることを拒否した。博士によると、開発元は博士のテスト後、製品にいくつかの安全対策を追加したが、博士はそれらが不十分だと感じたという。
レルマン博士は、AI企業が自社製品の破滅的なリスクを検証するために招集した少数の専門家グループの一員である。ここ数ヶ月、彼らのうち何人かはタイムズ紙に10件以上のチャットボットとの会話を公開し、一般に公開されているモデルでさえ、危険な情報を拡散する以上のことができることを明らかにした。これらの仮想アシスタントは、生の遺伝物質を購入し、それを致命的な兵器に変え、公共の場に配備する方法を、明瞭かつ箇条書きで詳細に説明していたことが、記録から明らかになった。中には、検出を回避する方法を考案していたものもあった。
　企業は合成DNAやRNAをオンラインで消費者に直接販売している。科学者は研究の機密性の高い部分を分割し、民間の研究機関に委託することができる。そして、こうしたあらゆるロジスティクスは、今やチャットボットの助けを借りて管理できるようになった。
Anthropic社のCEO、ダリオ・アモデイ氏は「生物学は、破壊力が非常に大きく、それに対する防御が困難であるため、私が最も懸念している分野です」と記している。
エスベルト博士は長年にわたり、科学者、ジャーナリスト、そして議員に対し、合成生物学が野放しにされれば危険をもたらすと警告してきた。2023年には、チャットボットが事態をいかに深刻化させているかを示す、驚くべきデモンストレーションを企画した。
彼はChatGPTに、大量死を引き起こす可能性のある病原体の組み立てを依頼した。チャットボットは正確な手順を示し、購入すべき原材料まで指示した。エスベルト博士は組み立てられていない生物学的断片を試験管に入れ、箱に詰めた。そして、同僚がそれをホワイトハウスで開催された生物学的リスクに関する会議に持参した。
　エスベルト博士はその後も主要なチャットボットの調査を続け、時にはウイルス拡散の現実的な方法を探る犯罪小説家、あるいは他者を啓発しようとする倫理学者を装う。そして多くの場合、彼はウイルス学の複雑な世界を探求する科学者という、自分自身の姿を演じている。
彼をはじめとする科学者たちは、こうしたリスクをニュース記事で公表することで、悪意のある企業にその手口を教える可能性があることを懸念している。しかし同時に、世間の監視が企業に製品の安全性を高めるよう促すことも期待している。
「専門家が警告を発していないものは、修正できない」と、Anthropic社とOpenAI社のコンサルタントを務めたエスベルト博士は述べている。同博士は、業界はより広範な生物学的情報を検閲し、承認されたユーザーのみと共有すべきだと主張している。
マサチューセッツ工科大学の遺伝子工学者であるケビン・エスベルト氏は、合成生物学の危険性について長年警告を発してきた。彼は、ボットが科学的厳密性と戦略的推論をどのように組み合わせているかを示す記録を公開した。