情報理論について、学習した。 そもそも情報理論とは、「情報・通信を数学的に論じる学問。応用数学の中でもデータの定量化に関する分野であり、可能な限り多くのデータを媒体に格納したり通信路で送ったりすることを目的としている。」である。 学習内容は…

確率・統計の分野に入った。 項目としては以下の通り ・条件付き確率 ・ベイズ則 ・期待値、分散の求め方 ・様々な確率分布の概要 ここでは、条件付き確率とベイズ則について整理したい。 条件付き確率は、ある事象が起こったときに別の事象が起こる確率を意…

ここでは線形代数を学習する。前半は行列の加減、積、逆行列など高校の数学レベルだが、後半に出てくる固有値は機械学習の主成分分析のベースとなる考え方だ。 ※：正方行列 より となる(固有値)および(固有ベクトル)を導き出す。 さらに、以下の固有値分解が…