ギターと学歴は使いよう（自己紹介）

どうも、それなニキです。 もともとDttoという都内の大学生向けのSNSを中心に活動していたものですが、この度Youtubeを始めることになり、ついでだからブログも始めてみたいななどと思いあがってnoteを始めました。 よろしくお願いします。 今回は練習がてら自己紹介と今後の方針についてまとめていきたいと思います。 たぶんネットの海に沈む記事になると思われますが、万が一見つけてしまった方は是非お付き合いください。 自己紹介名前：それなニキ この名前はDttoでもらったア

[スピンオフ]今更聞けない生成AI解説まとめ/Diffusionモデル入門①モデルの概要

前置きどうも、それなニキです。 流石にここ数回の投稿では自分の研究から逸れた雑談ばかりだったので、ここら辺で戻っていこうと思います。 さて、今回扱うのは、前回までのLLMとは打って変わってDiffusionモデルです。 そう、何を隠そうこのモデル、あのStable Diffusionに使われているシステムなのです！ なぜこのモデルについて扱うのかというと、大学の研究で少し関連分野をやることになって、結果として勉強せざるを得なくなったからですね。 ついでにnoteにもまと

【雑談】守りの王道デッキも作ってみた件

雑談どうも、それなニキです。 先日、色々キャンペーンが重なった結果、アマギフ3000円を貰ったので、この間組んだ「攻めの王道」デッキと対になっている「守りの王道」デッキも組んでみることにしました。 ただ、このデッキを買うのを少し渋っていた理由とも関係してくるのですが、「攻めの王道」デッキが赤単ガガガとして完全体になっていたのに対し、今回のレシピは少し妥協して安価なデッキに仕上げています。 というのも、「守りの王道」デッキを改造する場合、「巨大天門」と呼ばれる、現環境Ti

「子持ち様」に関する所感

どうも、それなニキです。 最近、noteのおすすめにやたらと「子持ち様」関連の話が出てくるようになったので、それについて軽く所感を書きたいと思います。 流行ってんのかは知らないけど… 観測範囲内の潮流とそれに対する感想少なくとも私がnote内で探した限りは ・「子持ち様」という言葉がなくなるために ・「子持ち様」とかいうやつ 等々、「子持ち様」という表現について非常に否定的な意見がその大半を占めています。 これはnoteの投稿者クラスタの属性による偏りである可能性が

【雑談】いきなり強いデッキでデュエマ初めてみた件

どうも、それなニキです。 遂に研究室への配属が決まり、卒論テーマの方向性を考えたりしています。 教授に結構な量のタスクをもらっており、学者としての第一歩を踏み出さんとしている実感が湧いてきました。 さて、気分転換を兼ねて今回も雑談です （早く本題に戻れやという話もあるけど許して…） 先日ちらっと触れていたデュエマの話について、一通りデッキを組み終わったので、かかった総額を見つつ色々語っていこうと思います。 ①デッキ作成に伴い買ったものと費用デッキ本体 今回デュエマを始

遊戯王のTACTICAL TRY DECKの内容が想定よりはるかに素晴らしいことが判明したので、大興奮しています。 ...友人にBFデッキを作る時にこのデッキがあれば出費が5000円くらい減ったのになぁ()

TOEFL ibtを受けてきました！ R&Lのunofficial scoreはRが30/30 Lが25/30で非常に良かったんですが、Sが壊滅的だったんで90あれば御の字、80でもまあ...と言った所でしょうか (´；ω；｀)

研究室の配属を決定する面談がTOEFLの2日前にあるとかいうク〇スケジュールを組んでしまった結果、悶絶しています。 誰だこんなタイミングにTOEFL申し込んだヤツ()

スパム⁉︎バグ⁉︎アカウント乗っ取り⁉︎

再来週にTOEFLの受験を控えているので、それまで一旦英語の勉強に集中します m(_ _"m) 得意教科とは言えども流石に怖いですから...()

今更聞けないLLM解説まとめ⑥RLHF

どうも、それなニキです。 今回で理論周りの話は最後になります！ 1.RLHFの概要と目的さて、今回扱っていくのは RLHF (Reinforcement Learning with Human Feedback) です。 まあ「人間のフィードバック付きの強化学習」という名前そのまんまです。 これまでの事前学習・Fine-Tuningでは、与えられた回答と推測を直接比較してその誤差から学習を行っていましたが、強化学習では人間(知的エージェント)がLLMの出力結果に点数付け

【雑談】遊戯王のランキングデュエルに初めて行った話

どうも、それなニキです。 先日、LLMの復習やバイトの隙間を縫って遊戯王のランキングデュエルに初めて行ってきました。 マスターデュエルからOCGを始めた身としては色々驚きがあったので、テキトーにだべっていきます。 (イベント情報)今回ランキングデュエルということでお邪魔したのは遊戯王サテライトショップ秋葉原です。 …とりあえずカードゲームやるならアキバでしょという感じで適当に選びましたが、今考えるととんでもないところに手を出したような気がします。 マッチ戦、スイスドロ

今更聞けないLLM解説まとめ⑤Fine Tuning

どうも、それなニキです。 今回も勉強を続けていきましょう。 いつものごとく、自分の思考まとめで読みにくいですがご了承ください。 また、最初からそうですが、基本的には松尾研のLLM Summer School 2023の内容を全面的に参照しています。 1.LLMにおけるFine-Tuningの位置づけまずはLLMを訓練していく上での流れを俯瞰してみましょう。 これまで扱ってきた「事前学習」はこのプロセスにおけるStep1に該当しますが、今回扱う「Fine Tuning」

件のプレイマットが届きました。 縫いはじめ・縫い終わりの処理が少し見えていますが、まああんまり気にならないし品質はヨシ！ ...デザインはギリアウト(R15くらい?)なので上げませんが原神の胡桃です。 これで送料込み500円行かないんだから凄い時代だなぁ...

今更聞けないLLM解説まとめ④事前学習のスケール

どうも、それなニキです。 今回も引き続き取り組んでいきましょう。 1.LLMのスケールについて今回はLLMのスケール(大規模化)について扱います。 第三回を見ていただいた方には、LLMの性能(Lossの小ささ)はAttention機構やFeed Forward内のパラメータによって決まってくる、ということはご理解いただけると思います。 そこから、たくさん学習すればパラメータがより最適化されて、性能が向上するだろうなぁ、という想像はできるでしょう。 では、実際のところよ

円安真っ盛りの2024年3月にTOEFL受験申請をした者の叫び