MLflow AI Gatewayを用いたプロンプトエンジニアリングの紹介
先日、社内で大規模言語モデル(以下、LLMとします。)のパフォーマンスを比較するための取り組みについて社内勉強会で発表し、MLflowとMLflow AI Gatewayの紹介をしました。この記事では、そこで発表した内容のうち、どのような場面でMLflow AI Gatewayが役立つのかについて紹介したいと思います。
LLMのパフォーマンスの観点LLMを用いた生成AI(以下、GenAIとします。)のトレンドは、今もなお大きな反響があり、より発展的な分野になると期待されてい