noguchi-shoji

CISO & Head of Engineering at BTC Co. |…

noguchi-shoji

CISO & Head of Engineering at BTC Co. | #FANKS | #IPAjp Expert Advisor | JH WGS member | Ex- #IETF er | Ex-Osakan #CISSP, #CCSP, #CEH.

MacBook ProでOpenELMを試してみる

Appleが公開した「オープンソースの効率的言語モデルのファミリー」らしいOpenELM。 mlx-lmを使用して、OpenELM-270M-Instructモデルを試してみます。 試したマシンは、MacBook Pro M3 Proチップ、メモリ18GBです。 1. 準備venv構築 python3 -m venv openelmcd $_source bin/activate パッケージのインストール pip install mlx-lm 2. 流し込むコード

noguchi-sho…

    • WSL2でOpenELMを試してみる

      Appleが公開した「オープンソースの効率的言語モデルのファミリー」らしいOpenELM。 今回はInstructモデルの以下の4つを試してみます。 OpenELM-270M-Instruct OpenELM-450M-Instruct OpenELM-1_1B-Instruct OpenELM-3B-Instruct 使用するPCはドスパラさんの「GALLERIA UL9C-R49」。スペックは ・CPU: Intel® Core™ i9-13900HX Pro

      noguchi-sho…

      • WSL2でPhi-3-mini-128k-instructを試してみる

        「Phi-3 データセットを使用してトレーニングされた、38 億パラメータの軽量の最先端のオープンモデル」らしい、Phi-3-mini-128k-instructを試してみます。 使用するPCはドスパラさんの「GALLERIA UL9C-R49」。スペックは ・CPU: Intel® Core™ i9-13900HX Processor ・Mem: 64 GB ・GPU: NVIDIA® GeForce RTX™ 4090 Laptop GPU(16GB) ・GPU: NV

        noguchi-sho…

        • WSL2でsuzume-llama-3-8B-japaneseを試してみる

          「3,000 以上の日本語会話に合わせて微調整されており、このモデルには Llama 3のインテリジェンスがありながら、日本語でチャットする機能が追加されている」らしい、Suzumeを試してみます。 使用するPCはドスパラさんの「GALLERIA UL9C-R49」。スペックは ・CPU: Intel® Core™ i9-13900HX Processor ・Mem: 64 GB ・GPU: NVIDIA® GeForce RTX™ 4090 Laptop GPU(16GB

          noguchi-sho…

        MacBook ProでOpenELMを試してみる

        noguchi-shoji

          WSL2でLlama-3-8B-Instructを試してみる

          「Llama 3 インストラクション調整モデルは対話のユースケース向けに最適化されており、一般的な業界ベンチマークで利用可能なオープンソース チャット モデルの多くを上回る」らしいLlama 3を試してみます。 使用するPCはドスパラさんの「GALLERIA UL9C-R49」。スペックは ・CPU: Intel® Core™ i9-13900HX Processor ・Mem: 64 GB ・GPU: NVIDIA® GeForce RTX™ 4090 Laptop GP

          noguchi-sho…

          WSL2でLlama-3-8B-Instructを試してみる

          noguchi-shoji

          WSL2でllm.cを試してみる

          「シンプルで純粋なC / CUDAのLLM学習。245MBのPyTorchや107MBのcPythonは必要ない！」らしいllm.cを試してみます。 使用するPCはドスパラさんの「GALLERIA UL9C-R49」。スペックは ・CPU: Intel® Core™ i9-13900HX Processor ・Mem: 64 GB ・GPU: NVIDIA® GeForce RTX™ 4090 Laptop GPU(16GB) ・GPU: NVIDIA® GeForce R

          noguchi-sho…

          WSL2でllm.cを試してみる

          noguchi-shoji

          WSL2でBAGSを試してみる

          「追加の2Dモデリング機能を導入し、画像上のぼやけにもかかわらず3D一貫性のある高品質のシーンを再構築できるように、具体的にはBlur Proposal Network(BPN) からピクセルごとのコンボリューションカーネルを推定することでblurをモデル化」したらしいBlur Agnostic Gaussian Splatting (BAGS)を試してみます。 使用するPCはドスパラさんの「GALLERIA UL9C-R49」。スペックは ・CPU: Intel® Cor

          noguchi-sho…

          WSL2でBAGSを試してみる

          noguchi-shoji

          WSL2でAniPortraitを試してみる

          「音声と参照ポートレート画像によって駆動される高品質のアニメーションを生成するための新しいフレームワーク」らしいAniPortraitを試してみます。 使用するPCはドスパラさんの「GALLERIA UL9C-R49」。スペックは ・CPU: Intel® Core™ i9-13900HX Processor ・Mem: 64 GB ・GPU: NVIDIA® GeForce RTX™ 4090 Laptop GPU(16GB) ・GPU: NVIDIA® GeForce

          noguchi-sho…

          WSL2でAniPortraitを試してみる

          noguchi-shoji

          WSL2でSplaTAMを試してみる

          「3Dガウススプラッティング放射輝度フィールドによってシーンを表現すると、単一の未配置の単眼RGB-Dカメラを使用して高密度SLAM（同時ローカライゼーションおよびマッピング）が可能になることを初めて示した」らしいSplaTAMを試してみます。 使用するPCはドスパラさんの「GALLERIA UL9C-R49」。スペックは ・CPU: Intel® Core™ i9-13900HX Processor ・Mem: 64 GB ・GPU: NVIDIA® GeForce RT

          noguchi-sho…

          WSL2でSplaTAMを試してみる

          noguchi-shoji

          WSL2でRakutenAI-7B-chatを試してみる

          「Mistral AI社のオープンモデル「Mistral-7B-v0.1」を基に、継続的に大規模なデータを学習させて開発された70億パラメータの日本語基盤モデル」であるRakuten AI 7Bモデル３つのうち、「インストラクションチューニング済モデルを基にファインチューニングを行ったチャットモデル」であるRakuten AI 7B Chatを試してみます。 ・Rakuten/RakutenAI-7B : ベースモデル ・Rakuten/RakutenAI-7B-instr

          noguchi-sho…

          WSL2でRakutenAI-7B-chatを試してみる

          noguchi-shoji

          WSL2でAnimateDiff-Lightningを試してみる

          「超高速のテキストからビデオへの生成モデル。オリジナルの AnimateDiff よりも 10 倍以上速くビデオを生成できる」らしいAnimateDiff-Lightningを試してみます。 使用するPCはドスパラさんの「GALLERIA UL9C-R49」。スペックは ・CPU: Intel® Core™ i9-13900HX Processor ・Mem: 64 GB ・GPU: NVIDIA® GeForce RTX™ 4090 Laptop GPU(16GB) ・G

          noguchi-sho…

          WSL2でAnimateDiff-Lightningを試してみる

          noguchi-shoji

          WSL2でSakana AIを試してみる

          「進化的モデルマージにより日本語数学LLMとして構築したEvoLLM-JPは、数学のみならず、日本語の全般的な能力に長けている」らしいEvoLLM-JPを試してみます。 追記（2024/3/22） 10Bのモデルですが、torch_dtypeを"auto"からtorch.bfloat16に変更すると、推論のスピードが改善しました。 モデルEvoLLM-JPは、3種提供されています。今回は３つとも試します。 - 大規模言語モデル 　SakanaAI/EvoLLM-JP-v1

          noguchi-sho…

          WSL2でSakana AIを試してみる

          noguchi-shoji

          WSL2でStable Video 3Dを試してみる

          「3D オブジェクトの周囲の軌道ビデオを高解像度でイメージからマルチビューに生成するための潜在ビデオ拡散モデル」であるStable Video 3D（SV3D）を試してみます。 使用するPCはドスパラさんの「GALLERIA UL9C-R49」。スペックは ・CPU: Intel® Core™ i9-13900HX Processor ・Mem: 64 GB ・GPU: NVIDIA® GeForce RTX™ 4090 Laptop GPU(16GB) ・GPU: NVI

          noguchi-sho…

          WSL2でStable Video 3Dを試してみる

          noguchi-shoji

          WSL2(?)でOpenSoraを試してみる

          「高品質のビデオを効率的に制作し、モデル、ツール、コンテンツに誰もがアクセスできるようにすることに特化した取り組み」であるOpenSoraを試してみます。 使用するPCはドスパラさんの「GALLERIA UL9C-R49」。スペックは ・CPU: Intel® Core™ i9-13900HX Processor ・Mem: 64 GB ・GPU: NVIDIA® GeForce RTX™ 4090 Laptop GPU(16GB) ・GPU: NVIDIA® GeForc

          noguchi-sho…

          WSL2(?)でOpenSoraを試してみる

          noguchi-shoji

          Ubuntuでc4ai-command-r-v01を試してみる

          Cohere For AIが提供する「350億パラメータの高性能生成モデル」であるc4ai-command-r-v01を試してみます。 1. モデルについて概要 現在（2024/3/15）、ベースモデルとその４ビット量子化モデルが公開されています。 ・CohereForAI/c4ai-command-r-v01 ・CohereForAI/c4ai-command-r-v01-4bit READMEにある内容から、適当にピックアップします。 この10言語には日本語も含

          noguchi-sho…

          Ubuntuでc4ai-command-r-v01を試してみる

          noguchi-shoji

          WSL2でSwallow-MS 7Bを試してみる

          「Mistral 7BおよびMixtral 8x7Bの日本語能力を強化した大規模言語モデル」であるSwallow-MS 7B, Swallow-MX 8x7B)が公開されたので、試してみます。 今回モデルは2つ公開されています。 Swallow-MS 7B base: tokyotech-llm/Swallow-MS-7b-v0.1 Swallow-MX 8x7B: tokyotech-llm/Swallow-MX-8x7b-NVE-v0.1 弊環境のVRAM状況を踏

          noguchi-sho…

          WSL2でSwallow-MS 7Bを試してみる

          noguchi-shoji