とりあえずWindowsで4bit量子化版Command R+ 104BパラメータをGPUも駆使しして実行することが可能になった。それで分かったことが二つ

• Ubuntu 22.04の方がWindows 11環境よりも高速であり、メモリも有効活用できる。したがって小説の批評用途ではWindows 11環境は不要

• タスクマネージャーを見たら、特に数万文字のプロンプトを読み込む時点でCPUメモリ64GBと16GBのGPUメモリ環境ではディスク(SSD)アクセスも100%近くになっていた。GPUのみならずH/W環境は重要
  (今後は48GBのRTX 8000ではなくて16GBのGeForce 3080メインとなりそう)

　そのうち時間ができたら紹介記事を書きたいけれども、Windowsで上手く行かなかったのはVisual Studioのコンポーネントでインストール要なものが書けていたり、CUDA Toolkit側のファイルを4つほどVisual Studioへインストール必要なのが欠けていたっぽい。("Llama.cpp" "Windows" "cuBLAS" "Visutal Studio" などで検索すれば英語記事が山ほど出てくる)
　また畠山先生のnote記事を参考にすれば、別にGGUF版ではない生LLMを実行することも可能らしい。

　おおよそ以上の感じでH/W環境は安定して来たので、いよいよ生成AIを実戦へ投入することになる。
　そこで改めて考えてみたけれども、やはり「生成AIを動かしまたよ」とか「学習データを整備しましたよ」という程度では副業にすることも難しそうだ。Meta (Facebook) のザッカバーグCEOなどはSNSビジネスが中心ということもあるだろうけれども、生成AIの活用で売上/利益を出す方針だと言っている。だからMetaはLlama 3もOSS提供することにしたのだそうな。(Mark Zuckerberg - Llama 3, $10B Models, Caesar Augustus, & 1 GW Datacenters (Apr 19, 2024))

　寿司屋において新鮮なネタは重要だけれども、大切なのは「あぶりネギ焼きサーモン寿司」（冒頭画像）のように、調理も含めて「お客様にご満足いただく」ことだと言いかえると分かりやすいかもしれない。

　ところでそれではどうやって生成AIで売上/利益を得るかを考えてみたけれども、論理的には二つのパターンになるかと思う。

• 今までのコンピュータや人間では時間をかけても実現不可能だったことを実現

• 今までも可能だったことを、生成AIを活用して効率化

　小説のレビューは、編集者には相手をして貰えず、率直に厳しい評価を知り合い（僕のことだ）へ言いにくいのを生成AIにやって頂くという観点では前者かもしれない。
　なお後者は世間の事例やCOBOL→Java変換などを参考例として思考実験してみたけれども、生成AIさえ導入すれば済むというものではなく、「仕事の内容をプロセスに分解して評価し、生成AIを使える部分には適用してみる」というアプローチが王道であるような気がしてきた。
　結局のところは生成AIはツール(手段)に過ぎず、まずは目的(業務プロセス)を明確にする必要があるというところだろうか。最終的には生成AIも進化するし、「仕事とは何か」とか「社会とは何か」といった壮大なスケールの話になるかもしれないけれども、まずは「仕事を業務フローとして分解 → 解析 → できる部分を生成AIへ」というところだろうか。
　そうやって見るとNECはマーケティングプロセス全体を扱っているし、日立は顧客の中に入って業務分析するアプローチを採用している。単純に「生成AIをコールセンター向けに開発してみました」という類ではなく、これは大企業がやってコスト的に見合うのかという課題(自動化の課題？)はあるものの、妥当なアプローチであるような気がする。

https://jpn.nec.com/press/202403/20240325_02.html

三菱HCキャピタルが日立と協働し、全社で生成AIの本格利用を開始：2024年3月8日 (hitachi.co.jp)

　現時点では生成AI（LLM）も実用化レベルには到達して来たし、日々の劇的な進化に一喜一憂するよりも、まずは現状の生成AIでビジネスを成立させる仕掛けを構築するのが良さそうな気がしてきた。地道だけれども政府が取りまとめている生成AIも同じような流れを辿っているようだし、当面はいかに「業務プロセスを分解（言語化）するか」が最重要テーマになっていくかもしれない。なお言語化と書いたのは、言語化さえすれば、あとは生成AIが適当でいい加減なレベルかもしれないけれども、ともかく分解や解析や生成AI活用案を提案してくれそうな気がするからだ。
　ところでここで一つだけ気になるのは、日本企業の運営方式だ。かつての某社における経験だと、社員は業務プロセスを分解（言語化）することに猛反発する。なぜなら「自分だけが知っているノウハウを文書化すると、お払い箱にされてしまう」という恐怖感があるからだ。ウソだと思われるかもしれないけれども、実際に泣いて頼まれたので、業務改善を推進できなかった実体験もある。米国も似たようなものだけれども、いざとなったら組織体制を平気で改革することをやってしまうのが米国企業だ。ここら辺の動向には注意した方が良いかもしれない。

　とりあえず備忘録なので、今回はこの辺で。ではまた。

ーーーーー
 記事作成：小野谷静

Ｐ．Ｓ．
あ、そういや僕が唯一ExcelでやっていることにEBITDAとやらの計算があった。これは他企業の決算報告書を生成AIに食べて貰って、Excelデータを自動生成して頂くことが可能になるかもしれない。