最近の記事
オープンソースなLLM(calm2-7b)のCPU推論エンドポイントをAzureとllama-cpp-pythonでシュッとつくる
こんにちは、https://twitter.com/iryutab という者です。 はじめに12/05 追記: この方法は、デプロイが有効である間ずっとインスタンスが起動しっぱなしになってしまいます(基本VMです)。一週間少しで数万円に膨れてしまうので、使っていないときには停止させましょう。節約や、実際のプロダクトへの組み込みの際にはアクセスが有る際だけインスタンスを起動する形のContainer Appなどが適していると思うので、こちらも近々動作させて記事化します。 オ
(Forbes 30 U30に選出いただいたので)高専で学生AI起業して2年半、AI/LLMの社会実装について思うことを書き留める
はじめまして、TAKAO AI 株式会社 代表の板橋 (@iryutab) です。 日々色々な方のNote記事を拝見し、「私も何かアウトプットしよう」と考えてはいたのですが中々タイミング無く、 しかし本日、大変名誉なことに Forbes 30 Under 30 2023に選出いただいたこともあり、このタイミングでここしばらく考えていたAI関連のことをアウトプットしようと思い、記事を執筆しました。 ちなみにこのnoteのサビは後半、2.TendocとLLMの邂逅 以降です。
