選定理由
Stanford Univ.の研究、適用先が広く革新的（という印象）。ライブラリとしての完成度も高い。
Paper:
自動微分と同様の発想でテキスト勾配による自動プロンプトチューニングを提案している。システムが多段式の複数のLLMを使用していても勾配伝搬という形でフィードバックできる点がポイントである。
実際には解析学における微分の定義とは異なり（テキストは離散空間だし）、テキスト勾配によって目的関数が局所最適解へ収束する
保証はない。強化学習の枠組みでいうと環境ダイナミクスの知識がなく、1エピソードが完了後に報酬が決定するのでモンテカルロ法に相当。
概要
【社会課題】
AIシステムの複雑化に伴い、複数のモデルやツールを組み合わせた複合システムの最適化が必要だが、従来はプロンプト調整が不可欠でコストが大きい。自動化された最適化手法が不足しており、これがAIシステムのさらなる発展を阻んでいる。
【技術課題】
複合システム内の異なる要素（例：コード、分子構造、医療計画）は、数値的な勾配計算が難しく、従来の自動微分や勾配降下法が適用できない。各要素に対する最適化の指針を自然言語で提供する方法が求められているが、実装や汎用性が課題であった。
【提案】
LLMが自然言語のフィードバックを生成し、それを使ってシステム内の各要素を最適化するTEXTGRADを提案。具体的には以下のようなタスクを自動最適化する
- コーディング問題：LeetCodeの難問に対するコードの正確性や効率性
- 質問応答の精度：科学的質問応答での回答精度改善
- 分子構造：薬効を高めるための結合親和性（Vinaスコア）と薬剤適合性（QEDスコア）のバランス
- 放射線治療計画：腫瘍ターゲットへの放射線量の最適化と健康組織への影響の最小化
これらの項目を「自然言語勾配（Textual Gradients）」を用いて改善し、各タスクに対してゼロショットでの最適化が可能になる。
【効果】
TEXTGRADによる最適化により、従来の手法と比較して以下のような成果を達成している：
- コーディング問題ではGPT-4の性能を7%から36%まで向上
- 質問応答の精度向上（GPQAデータセットで最良の55%を達成）
- 分子設計では、より高い薬効を示す分子を生成（QEDスコア向上、Vinaスコアの低下）
- 医療分野では放射線治療計画の精度を改善し、腫瘍への放射線照射量の最適化と健康組織の保護を実現
Textual Gradientによる勾配伝搬
TEXTGRADは、複雑なAIシステムやブラックボックスシステムの最適化において「自然言語勾配」（textual gradients）を利用する。通常の勾配降下法が数値勾配でパラメータを調整するのに対し、TEXTGRADはLLMが生成する自然言語フィードバックを勾配として扱い、システム内の各要素を改善する。
]
タスク1. コード最適化
LeetCodeの難問データセットでGPT-4の回答コード生成を行うタスクでの検証。5回の反復でGPT-4のテストケース通過率が7%→36%に到達し、従来の最良性能(Reflexion)からさらに5%向上した。これはTEXTGRADは計算グラフを使った柔軟な最適化により、タスク全体を統合的に改善できる点、自然言語勾配を活用して各要素に対する精密なフィードバックを提供できる点、が原因と考えられる。
本タスクでの定式化とプロンプトは以下である。
Code-Refinement Objective=LLM(Problem + Code + Test-time Instruction + Local Test Results)
- Problem：解決すべき問題の定義。最適化対象となるコードが取り組む問題を示す。
- Code：現時点でのコード実装。最適化の対象となるコードそのもの。
- Test-time Instruction：コードが満たすべき条件や評価基準に関する指示。この指示に従って、LLMがコードの改善点やエラーを特定する。
- Local Test Results：コードがローカルテストでどのような結果を出したかを示す。この結果に基づいて、コードの正確性やパフォーマンスが評価される。
タスク3. 推論(Object Counting、Word Sorting、GSM8k)
推論系タスクでの評価は表３である。どれもTEXTGRADが最も高精度であった。ここに記載されているように、最適化前のプロンプトは「質問に対してステップバイステップで考える」のみで詳細な指示は含まれていない。一方で、最適化後のプロンプトは1.問題を自分の言葉で再確認することで理解を深める。2.各計算ステップを細かく説明し、正確性を確保するために再確認を行う。3.数学記法や問題文の文脈を守り、最終的に「Answer: $VALUE」という形式で答えるよう明確に指示をしている。
タスク5. 放射線治療計画の最適化
腫瘍と周辺組織への放射線量のバランスを最適化するための実験。TEXTGRADは自然言語フィードバックを用いて、5回の反復で治療計画（照射範囲、放射線量など）を改善。臨床で用いられている計画と比較して、腫瘍への照射精度が向上し、健康な組織へのダメージが減少した。
SOCIAL SHARE CARD GENERATOR