見出し画像

生成AI新年会で「GPTsをMVPに使うアジャイルな社内LLMツール開発」というタイトルでLTしました

こんにちは。ログラスのLLMチームでソフトウェアエンジニアをしているr-kagayaです。

2024/1/30にGMO Yours・フクラスで開催された生成AI新年会2024に、LT登壇・参加してきました。
※ 本記事は、LT内容の文字起こし・リメイク版です。

登壇内容まとめ

登壇資料はぬこぬこさん、AICU Mediaさんがまとめてくださってます、感謝!


GPTsをMVP・仮説検証に使う社内LLMツール開発

3行まとめ

  • LLMと検索を組み合わせた企業調査ツールを社内向けに作りました

  • 低コストで仮説検証するためにGPTsから始めて、今はZapierで頑張っています

  • LLMのおかげで可能になった個別業務にLLMを使っていくことで実現出来る生産性改善に可能性を感じました

ツール概要

LLMと検索を組み合わせた企業調査ツールで、Saleforceの商談作成をトリガーに商談先企業の情報を色々まとめた上で、商談担当者にslackで通知するフローです。

1. 商談がSalesforceで作られる
2. 商談先企業の情報を検索
3. LLMで要約・まとめ
4. Slackで担当者にメンション

LangChainのAgentの例でよく出てくる、Web検索を行った上で回答を行う仕組みに近いです。

構成

ノーコードツールのZapierで頑張っています
OpenAI APIを叩ける仕組みが提供されているので、思ったよりも色んなことが実現出来ます。

基本的には企業名をベースに、収集したい情報が見つかりそうな検索クエリで検索、それらの情報をLLMにまとめさせています。

APIコストやZapierで実施する手間を鑑みて、現在は行っていませんが、Agentライクに回答に十分な情報が集まったか判断させたり、検索結果を引っ張ってくるところをもう少し工夫したら、精度向上やコスト削減も出来そうです。

ちなみにMakeというノーコードツールには、PerplexityAIやMistral AIと繋ぐための仕組みもあります。
(未利用・公式ではなくコミュニティの有志が提供している様子)

軽く触ってみてる程度ですが、stackも面白そうだなと思っています。もしstackに興味がある方がいれば情報交換できると嬉しいです。

MVPとしてのGPTs

Zapierの話を先にしましたが、本ツールを作るにあたっては最初からZapierで作るのではなく、GPTsをMVPとして利用しました。

Zapierも十分、低コストでワークフローを作れる仕組みなのですが、LLM系のツールを作る場合はGPTsの方が遥に相性や効率は良いです。
GPTsで使ってもらえそうなこと、業務フローに入り込む価値・方法があることを確認した後にZapierに移行しました。

自身が利用者・ユーザーであるなら、自分の頭の中を再現すれば良いですが、そうではない場合に出力のレベルや方向性を揃えるためにもとりあえずGPTsで作って、その時点である程度使ってもらえることを確認できるのは今振り返っても良い使い方だったと感じます。

ChatGPTにTeam Planが登場したことで、利便性はさらに増しました。
社内ツール用にだけ使うのはもったいないので、最近はプロダクト・機能開発においても上手く使いこなせないか考えています。

sell work, not product

ここ最近、個人的に関心があるのがsell work, not productの世界線です。

米VCベンチマークのキャピタリストニュースレターを書いていたりするのですが、確かにChatGPTやLLM前提で、業務を組み直して圧倒的に効率化できることで生まれるBPOサービスな世界線はありそうだな〜と漠然と感じています。

終わり

簡単にですが、LTの内容を改めて紹介しました。

ここ数ヶ月は先日プレスリリースを出した、分析アシスタント機能に注力してる時間が長かったですが、GPTsやノーコードツールも駆使して、業務効率化・社内ツール作ったり、BizOps的な取り組みも個人的には熱い領域です。

完全に未検証ですが、ZapierだけでアシスタントBotも作れると思っています。
色々試してみて、業務効率化を突き詰めたいですね!以上です!


この記事が気に入ったらサポートをしてみませんか?