Llama 2でストリーミング出力を試してみた。

stingraze (加藤 翼)
Llama 2でストリーミング出力を試してみた。
コードはこちらの方（Plat氏）のを、argvでプロンプトを入力できるように改造。
https://zenn.dev/platina/articles/e6aa6e96373c09

この記事が気に入ったらサポートをしてみませんか？