AI-Scientist: 科学研究の自動化とその未来

#### AI技術と科学研究の革新 AI技術は科学研究において重要な役割を果たしており、特に仮説生成や実験設計、大規模データの収集・解釈においてその能力が発揮されています。自己教師学習や幾何学的深層学習といった手法は、科学データの構造を活用し、研究の精度と効率を向上させることが期待されています。また、AIは研究者の直感を補完し、自律的に科学的理解を深めることも可能です。しかし、AIの導入にはデータの品質や管理の課題が残っており、これらの限界を理解し改善に取り組む必要があります。AIの進展は、量子化学や材料科学、生物学などの分野での革新を促進する可能性があります。 #### Arxiv上の論文における AI 生成の増加 - 2019年以降、Arxiv上の論文13,000本を分析した結果、AI生成の論文が増加傾向にあることが明らかになりました。特に2022年11月のChatGPTの登場以降、AI生成の論文の割合が3.61%から6.22%に急増しています。この傾向は、ChatGPTなどのAIライティングツールの普及が論文執筆に大きな影響を与えていることを示唆しています。分野別に見ると、コンピューターサイエンス分野でAI生成の論文が特に多くなっています。論文のオリジナリティや学術的な誠実性を維持することが課題となっています。自動生成システムによる偏りや不正確さが懸念されます。[Originality.aiのAI検出ツール](https://originality.ai/ai-checker)を使って、13,000本の論文のAI生成率を分析しました。 #### AI チャットボットが科学出版界に浸透 - 2023年に発表された論文の1%にAIチャットボットの関与が疑われるという分析結果が示されています。研究者がChatGPTやその他の人工知能チャットボットを使って科学論文を生成しているようです。これは明らかな懸念事項で、論文に人工知能特有のフレーズが含まれているのが発見されています。研究者らの分析によると、少なくとも60,000本の論文、つまり全世界の科学論文の1%以上がAIランゲージモデルを使って書かれた可能性があります。コンピューター科学の分野に限ると、最近の論文の17.5%にAI生成の痕跡が見られたという調査結果もあります。[AI チャットボットが科学出版界に浸透](https://www.scientificamerican.com/article/ai-chatbots-have-thoroughly-infiltrated-scientific-publishing/) #### 人工知能時代の科学的発見 - 人工知能(AI)は、研究を補完・加速させるために科学的発見に組み込まれつつあります。AIは仮説生成、実験設計、大規模データの収集・解釈を支援し、従来の科学的手法では得られなかった洞察を提供します。自己教師学習は大量の教師なしデータを使って学習を行い、幾何学的深層学習は科学データの構造を活用してモデルの精度と効率を高めます。生成的AIは、画像やシーケンスなどの多様なデータを分析して小分子医薬品やタンパク質を設計できます。これらの手法は科学的プロセス全体で活用でき、データの品質や管理の課題など、依然として解決すべき課題もあります。[Nature](https://www.nature.com/articles/s41586-023-06221-2)    

#### AI-Scientistの技術的背景と目標 Sakana AIは、自然に着想を得た手法を用いて、AIの進化を牽引する企業です。彼らは、進化的手法を活用して基盤モデルの開発を自動化し、特定のアプリケーション領域に適したモデルを生成することを目指しています。これにより、コストを抑えつつ高性能なモデルを生成することが可能となり、AI開発の新たなパラダイムを提案しています。また、AI研究者というシステムを開発し、研究プロセス全体を自動化することに成功しました。これにより、研究の民主化と科学的進歩の加速が期待されていますが、視覚処理の限界や実験結果の解釈ミスなどの課題も残されています。今後は、マルチモーダルモデルの活用や基盤モデルの改善により、これらの課題を解決していくことが期待されています。 #### 技術的背景 Sakana AIの技術的背景は、自然界の進化のメカニズムに着想を得た手法にあります。[進化的モデル結合手法の最適化](https://arxiv.org/abs/2403.13187)を通じて、[Hugging Face](https://huggingface.co/models)上の50万を超えるオープンソースモデルを効率的に組み合わせる方法を開発しました。この手法により、人間の専門家では発見が難しい非自明な方法でモデルを結合することが可能になりました。 具体的な成果として、日本語の数学推論能力を持つ大規模言語モデルと、日本文化に適応した視覚言語モデルを自動的に生成しました。これらのモデルは、ベンチマークテストでトップレベルの性能を発揮しています。  #### 目標 Sakana AIの主な目標は以下の通りです： 1. **基盤モデルの自動生成**: 特定のアプリケーション領域に適した能力を持つ基盤モデルの開発を自動化することを目指しています。これにより、個別のモデルを訓練するだけでなく、基盤モデル自体を自動的に生成する仕組みを作ることを目標としています。 2. **効率的なAI開発**: 進化的手法を使用することで、バックプロパゲーションを使わずに、コストをかけずに高性能な基盤モデルを生成することを目指しています。これは、現在の高コストなモデル開発のパラダイムに挑戦するものです。 3. **研究プロセスの完全自動化**: [AI研究者](https://sakana.ai/ai-scientist/)というシステムを開発し、研究アイデアの生成から実験の実行、結果の要約、論文の執筆、査読まで、研究プロセス全体を自動化することを目指しています。 4. **研究の民主化と科学的進歩の加速**: 1論文あたり約15ドルのコストで研究を行うことができるシステムを開発し、研究の民主化と科学的進歩の加速を目指しています。 5. **日本向け基盤モデルの開発**: 日本向けの強力な基盤モデル（EvoLLM-JP、EvoVLM-JP、EvoSDXL-JP）を開発し、[Hugging Face](https://huggingface.co/SakanaAI)と[GitHub](https://github.com/SakanaAI)で公開しています。これにより、日本におけるAI開発の加速に貢献することを目指しています。 これらの目標を通じて、Sakana AIはAIの発展に新しい可能性を開くことを期待しています。しかし、視覚処理の限界や実験結果の解釈ミスなどの課題も残されており、今後のマルチモーダルモデルの活用や基盤モデルの改善により、これらの課題を解決していくことが期待されています。

#### AIによる科学研究の倫理的課題 AIによる科学研究の倫理的課題は、AI技術の進展に伴い、研究の透明性、再現性、責任の所在などが問われるようになっています。特に、AIが生成するデータや結果の信頼性が懸念されており、研究者はその使用方法や影響について慎重に考慮する必要があります。また、AIの導入が研究者の職務や役割に与える影響も重要な議題です。倫理的なガイドラインの策定や、AI技術の適切な利用を促進するための教育が求められています。これらの課題に対処することで、AIが科学研究において持続可能で有益な役割を果たすことが期待されています。 #### Ex-Google研究者がGenerative AI「Swarm」スタートアップ「Sakana AI」を立ち上げる [Googleの元トップAI研究者2人](https://voicebot.ai/2023/08/18/ex-google-researchers-launch-generative-ai-swarm-startup-sakana-ai/)が、革新的な「トランスフォーマー」アーキテクチャの共同創設者の1人を含め、東京に拠点を置く新スタートアップ「Sakana AI」を立ち上げました。Sakana AIは、David HaとLlion Jonesによって設立されましたが、詳細な財務情報は公開されていません。 Jonesは、ChatGPTなどの主要モデルの基盤となった、2017年のGoogle の画期的な論文「Attention Is All You Need」[論文](https://arxiv.org/abs/1706.03762)の5番目の著者でした。一方、Haは以前Google Brainの日本研究グループを率いており、Stability AIの研究責任者も務めていました。 #### Sakana AIのアプローチ Ha氏とJones氏は現在のGenerative AIブームの中心的な役割を果たしてきましたが、Sakanaは分野に異なるアプローチを取っています。トランスフォーマーモデルの規模拡大に焦点を当てるのではなく、新しいアーキテクチャの開発に取り組んでいます。Sakanaのアプローチは、能力とefficiencyのバランスを重視し、無駄な力ずくのアプローチを避けることを強調しています。同社は、Generative AIと「進化計算」を融合させ、最適なニューラルネットワークパフォーマンスを実現することを目指しています。 Ha氏は、新しい会社の立ち上げを発表するツイートの中で、「自然に着想を得た知性に基づく新しい種類の基礎モデルの創造を目指しています」と述べています。会社名の「Sakana」は日本語の「さかな」(魚)に由来し、ロゴは論理ゲートの形をした魚の群れを表しています。これは、シンプルなルールから一つのまとまった存在が生まれるという自然の知恵を活用したいという同社の意図を表しています。 #### 人材募集 Haは、「魚が大好きで、集合知、進化計算、ALIFE、ニューロインスパイアードな手法を使ってAIの現状を超えるような基礎モデルの開発に興奮している」人材を募集していると述べています。