Hirosato Gamo | AI Cloud Solution Architect

Agent開発と従来LLMチャットの決定的な差異になるポイントを3つほど↓。この辺りの設計のインプットになるのはサービスのUX設計だったりする。開発の前後がとっても重くなるぞ☆彡 ①タスクの計画 →Plan and Solveみたいに動的に作るか、プロンプトに書くか、事前定義するか。 ②状態の管理 →Function CallingでLLMに判断させるか、状態変数を持たせてロジックで遷移させるか(LangGraphはこっち) ③挙動の評価/改善 →吐くくらいしんどい。大全LLMOpsの章217ページ以降参照。 https://speakerdeck.com/hirosa... 特に③。何をどう言おうが③を確立できなきゃ終わり。開発より評価が本体と言えるくらいには、ここをどう上手く確立できるかでそのサービスの伸びが決定づけられる。