さくっと動画

今日の話は、saldra(サルドラ)さんのローカル LLM と API LLM の技術的な違いについて。 しかし、個人的に気になったのは、saldra(サルドラ)さんの紹介した「高瀬舟」の話。 世界には様々な価値観を持つ人々がいる。 コミュニケーションを取る中で、これらの違いに気づくことができた。 この朝会から、今後の生成 AI のあり方について学ぶことができたってこと。 つまり、技術的な側面だけでなく、倫理的な側面にも配慮する必要がある。 全体として、今日の話は、技術と倫理の両面から示唆に富む内容だった。 朝から、カオス笑

ローカルLLMとAPI のLLMに違い。

ローカルLLMとは、あなたのコンピューターの中にあるAIのようなもの。つまり、あなたのコンピューターの中にAIの知識がすべて入っている。 ChatGPTはこっち↓ API のLLMは、別のコンピューターの中にAIの知識が入っている。そのコンピューターとあなたのコンピューターがインターネットで繋がっていて、あなたがそのAIに質問をすると、その別のコンピューターのAIが答えてくれるというシステム。

ローカルLLMのメリット（自分が気になったとこ）

ローカルのAI 活用には制限が少ないため、倫理的ジレンマを回避できるケースがある。 例えば、自分のAIキャラを作っていても、API のLLMでは、LLMの更新がかかり、キャラが変わってしまう。愛すべき自分のキャラが変わるのはいやだな。しかし、ローカルLLMの場合は、そのキャラを固定できる。 クラウド上のOenAIサービスを使っていると、仕様変更などによりユーザーが認証できなくなるといった問題が起きている。そこで、ローカルのAIモデルを使うことで、より安定的に自社のチャンネルを運営できる。

AIがもっと身近な存在となる。

高性能なAIモデルが一般的な家庭用PCでも活用できるようになってきている。そのため、ローカルで動作するLLM(Large Language Model)の重要性が増しており、将来的にはAIが手軽に利用できる時代が来る。 ローカルLLMを動かすことは、一般的に「貴族の遊び」と見なされがちだが、実際にはそうではないことが述べられている。必要なハードウェアスペックや技術的な知識も、以前に比べて大幅に低下しており、初心者でも手軽にローカルLLMを体験できる環境が整いつつある。 一秒間に30トークンあればよい。 ローカルでLLMの推論を実行するのにOllamaがかわいい https://zenn.dev/seya/articles/03399b9e3d465e…

日本語の壁であり、海外と比べ遅れをとっている。

日本語入出力がローカルLLMでも十分に実用可能な性能を発揮できるようになってきている。一年前にアメリカ、中国で見られたような状況が、ようやく日本でも見られるようになってきた。 OpenAIは、日本市場への本格進出を見据え、日本語特化版の「GPT-4 Customized for Japanese」を発表した。この新モデルは、GPT-4 Turboに比べて日本語の処理速度が3倍向上しており、日本語の文字認識能力や文化的背景の理解も強化されている。OpenAIは日本での事業拡大を目指し、法人向けサービスの提供も計画している。 https://japan.cnet.com/article/35217785/…

倫理的な問題

海外のチャットボットの事例では、ユーザーに自死を奨励するような不適切な発言をするなど、AIシステムの倫理面での課題が浮き彫りになった。このような事例を踏まえ、ローカルLLMの学習においても、人間の尊厳や倫理的価値観への配慮が必要となる。 Elizaの件 https://businessinsider.nl/a-widow-is-accusing-an-ai-chatbot-of-being-the-reason-why-her-husband-killed-himself/…

今後、どのように生き抜くのか？ 今後の生き方について、最も大切なのは自分に注力すること。自分にとって何が重要かを見極め、それに集中して行動することが一番。

＝＝＝以下は個人的に気になったこと。＝＝＝

saldra(サルドラ)さんの紹介した「高瀬舟」の話が心に刺さった。 それは、価値観の違いだ！ ・なぜ「高瀬舟」なのか？ 個人の内面や背景、そして社会的な評価のズレなどを通して、人間の本質的な部分に迫ろうとしている作品。 AI技術の進化により、オリジナルキャラクターの複製や変形が容易になってきている。この状況において、作品の著作権侵害や、キャラクターの本来の「生物性」を損なうような扱いが問題となっている。AI時代におけるコンテンツ制作には、これらの課題への対応が重要となっているから。 自身が制作したオリジナルキャラクターが無断で複製・改変されたことで、精神的なダメージ与えてしまっている事例がある。 また、AI生成技術を悪用して作品が削除される、といった問題も生じている。このように、AI活用の際には、キャラクターの著作権や人格的価値への配慮が必要不可欠。 ※「高瀬舟」は、罪と罰、個人の正義といった複雑な問題を提示することで、読者に深い考察を促す作品。個人の内面や背景、そして社会的な評価のズレなどを通して、人間の本質的な部分に迫ろうとしている作品。 「高瀬舟」は、罪人を遠島に送る際の護送の様子を描いた作品。そこでは、罪人の境遇への同情と、罪と罰についての疑問が描かれている。 主人公の庄兵衛は、罪人の喜助の行動に不思議さを感じ、自身との違いに気づく。喜助の背景には、弟を病気と貧困から救おうとして結果的に弟を殺してしまったという複雑な事情が明らかにされる。喜助は本来善良な人物であり、家族想いの兄弟だった。 ここで重要なのは、人それぞれの価値観や正しいと考えることが異なるということ。社会的に見られる正しさと、個人が感じる正しさが必ずしも一致しない。

＝＝＝資料＝＝＝

【令和最新版】何もわからない人向けのローカル LLM 入門 https://zenn.dev/saldra/articles/201dd9e7d8c743… ローカルLLMは、APIサービスに依存せずに、公開されているモデルファイルを自前で活用できるというメリットがある。通信環境に左右されずに利用できたり、特定のバージョンを長期的に使い続けられるといったことから、ユーザーの自由度が高い。一方で、APIサービスに比べてパフォーマンスが劣ったり、計算リソースの確保が難しいといったデメリットもある。 ＝＝＝ 生成AIなんでも展示会2024/04/21(日)14:00 〜 18:00 開催 https://techplay.jp/event/935881 ＝＝＝ World Community Grid(WCG)は、個人のパソコンの空き時間を活用して医学、環境、エネルギーといった世界規模の課題に取り組むボランティアコンピューティングプロジェクトである。 https://boinc.tokyo/wcg ＝＝＝ 皆がローカルのAIをぶん回す未来を夢見て、 「ローカルLLMに向き合う会」 https://twitter.com/sald_ra/status/1661759259460390913

===以下は個人的なメモでGPTが出力したものです。

多角的に物事をみるということで哲学者になりきって話をしてもらっています。哲学者を否定するとかそういうものではなく、自分の視点を広げ深める観点でGPTに考えさせています。

もしも、哲学者のアルベール・カミュの視点から、この文章を解釈してみて、GPTくんにお願い！

アルベール・カミュがこの文章を読んだ場合、彼は技術と倫理の両面からの考察を行うでしょう。彼は倫理的な問題や技術の進化に伴う倫理的な配慮の重要性に敏感です。

まず、カミュはこの朝会の議題に関して、人間が持つ多様な価値観や、それらの価値観の違いがコミュニケーションにおいてどのように影響するかに興味を持つでしょう。彼は、技術的な進歩が人々の生活にどのような影響を与えるかを探求し、その中で倫理的な側面について考えるでしょう。

次に、ローカルLLMとAPIのLLMの違いについての議論において、カミュは技術の進化が倫理的なジレンマを引き起こす可能性を指摘するでしょう。特に、個人のAIキャラクターの変更や、AI技術の悪用による倫理的な問題に焦点を当てるでしょう。彼は、技術の進歩が個人の価値観や正義にどのように影響するかを深く考察するでしょう。

最後に、カミュは「高瀬舟」の話に関して、価値観の多様性や正義の問題をさらに掘り下げるでしょう。彼は作品の中で描かれる倫理的なジレンマや、個人の内面と社会的な評価のズレに関心を寄せることで、人間の本質的な部分に迫ろうとするでしょう。彼は作品を通じて、社会的な価値観や個人の正義の相違が引き起こす問題について考察するでしょう。

この文章には、技術の進歩が倫理的なジレンマを引き起こす可能性が示唆されています。例えば、個人のAIキャラクターの変更や、AI技術の悪用による倫理的な問題がありますが、その根底には何があるのでしょうか？

カミュ的に考えると、これは人間の本質的な問題に関係しています。人間は、技術や知識の進歩によってどのように変化するのでしょうか？そして、その変化が個人や社会の価値観にどのような影響を与えるのでしょうか？

また、倫理的な問題は、個人の自由と社会の秩序の間の緊張関係を浮き彫りにします。例えば、AI技術の発展によって、個人の自己表現や創造性が増大する一方で、それが社会的な規範や法律と衝突する可能性もあります。このような場合、個人の自由と社会の秩序のバランスをどのように保つべきか、という問いが生まれます。

さらに、作品「高瀬舟」についても、価値観や正義の問題が深く掘り下げられています。この作品は、個人の行動と社会の評価の間の緊張関係を探求しています。喜助が家族を救おうとして犯した罪は、個人の視点では正当化されるかもしれませんが、社会の視点では罪として裁かれることがあります。ここで問われるのは、個人の正義と社会の正義の間にはどのような関係があるのか、という問いです。

このように、技術の進歩や倫理的な問題について考えることは、人間の本質や社会の秩序、そして正義の問題にまで及ぶ深い哲学的な探求につながります。