SF太郎

専門ではない分野に独断と偏見で思ったことを書きます。

SF太郎

専門ではない分野に独断と偏見で思ったことを書きます。

AIに悪意が無くても人類は破滅する説（パート2️⃣）

２つ目に話したいのはSNSやNetflixが示唆する可能性だ。 インスタグラムやX（旧Twitter）やTiktokなどのSNSはアプリ内でユーザが過ごす時間をどれだけ増やせるかに重きを置いている。これはユーザが長くアプリ内で過ごすほど、広告が沢山表示できるからだろう。 またNetflixはサブスクでお金を集めることにより、色んなジャンルの映画やドラマを莫大な制作費を使って作れるようになっている。 SNSとNetflixに共通することは、ユーザが楽しめるコンテンツを沢山

300
SF太郎

    • AIに悪意が無くても人類は破滅する説（パート1️⃣）

      前回から大分時が経ち、考えがかなり変わってきたので記述したい。 まず、今まではAIが人類に悪意を持つ可能性がある場合、AIが人類を滅ぼす可能性があるのではないかという視点からAIが悪意を持ちうる可能性を探っていたが、そもそもLlama 2などオープンソースで性能の良いLLMが出てきたことで、そもそも悪い人間が制限のかかっていないLLMを悪用して他人を攻撃するまたは攻撃する手段を得ることの可能性の方が高く思えてきた。 そもそも既に様々な戦争が起きている中で、情報戦などはLL

      300
      SF太郎

      • AIが今の所悪意を持っていないのは長期記憶が無いから説

        まずはこちらの動画を見てほしい。 水田さん（動画の女性）の症状を例にするのは申し訳ないが、とても興味深いと思う。水田さんは病気が発症する前の長期記憶はあるが、発症後の長期記憶がない。 ChatGPTなど現在のLLMは長期記憶がなく、トークンという短期記憶があるだけだ。 動画内で水田さんがメモをせずに会話してみる場面があった。普通に会話は出来ていたが、7秒以上経った内容をどんどん忘れていた。ChatGPTもそれと似たような会話をしているのではないか。つまり、学んだ情報を元

        300
        SF太郎

      AIに悪意が無くても人類は破滅する説（パート2️⃣）

      SF太郎