A Survey of Large Language Models

LLM

なぜこの論文を紹介するか 下記理由から本論文をピックアップした 案件でLLMを利用したいとの要望を受け、最近のLLMの流れをおさらいしておきたいと思ったため 論文の内容 導入:Introduction Pre-trained Model (PLM)のサーベイは十分な量があるが、LLMのサ…

機械学習の品質問題(3.2〜3.3)

3.2までは主に入力に対応する出力がわかっている場合に、テストをどう実施するかについて説明がされてきた。3.2以降では、機械学習システムのように入力に対する出力が必ずしもわからないシステムで、どんなテストができるのかについて説明する。 紹介されて…

遺伝的アルゴリズムにおける積み木仮説とスキーマ定理

モチベ 遺伝的アルゴリズムにおける積み木仮説とスキーマ定理の関係性について興味が沸いたので、調べた結果について簡単にまとめた 内容 GAはあまり数学的分析が進んでいないが、積み木仮説とスキーマ定理を用いてその挙動を説明することができる ここでは…

機械学習処理におけるカテゴリ変数の扱い方(Feature hashingについて)

↓前職で大昔に書いた記事 developers.microad.co.jp

Modeling the Distribution of Normal Data in Pre-Trained Deep Features for Anomaly Detection

モチベ 簡単まとめ どんな研究? 何がすごいの? どう使えそう? 使えない場面は? 所感 詳細 概要 先行研究 方法 中間出力のfeature representationについて 距離を用いた異常度算出について 実験 1. 異常度指標選定とモデルの挙動確認 2.学習済みモデルア…