記事一覧
オープンソースなLLM(calm2-7b)のCPU推論エンドポイントをAzureとllama-cpp-pythonでシュッとつくる
こんにちは、https://twitter.com/iryutab という者です。 はじめに12/05 追記: この方法は、デプロイが有効である間ずっとインスタンスが起動しっぱなしになってしまいま…
17
「チャットはもう飽きた」と戦う来年のわたしたち、あり得る未来を想像してみる
この記事は、あるふさん による、生成AI Advent Calendar 2023 3日目の記事です。
2日目の記事はこちらから:
はじめにイギリスで留学生 && TAKAO AIという会社の代表をしております、板橋 竜太 (X: @iryutab) と申します。
LLM以外の話題もウェルカムのカレンダーとのことでしたが、がっつりLLMの話題にて失礼します。
2023年は、AIによる自然
オープンソースなLLM(calm2-7b)のCPU推論エンドポイントをAzureとllama-cpp-pythonでシュッとつくる
こんにちは、https://twitter.com/iryutab という者です。
はじめに12/05 追記: この方法は、デプロイが有効である間ずっとインスタンスが起動しっぱなしになってしまいます(基本VMです)。一週間少しで数万円に膨れてしまうので、使っていないときには停止させましょう。節約や、実際のプロダクトへの組み込みの際にはアクセスが有る際だけインスタンスを起動する形のContaine
(Forbes 30 U30に選出いただいたので)高専で学生AI起業して2年半、AI/LLMの社会実装について思うことを書き留める
はじめまして、TAKAO AI 株式会社 代表の板橋 (@iryutab) です。
日々色々な方のNote記事を拝見し、「私も何かアウトプットしよう」と考えてはいたのですが中々タイミング無く、
しかし本日、大変名誉なことに Forbes 30 Under 30 2023に選出いただいたこともあり、このタイミングでここしばらく考えていたAI関連のことをアウトプットしようと思い、記事を執筆しました。