現在の英語の勉強法

動機

英語を勉強したい、しなくてはならないという想いは常々ありましたが、中々習慣づけることができず、また触れる量も圧倒的に少ないことが続いていました。そこで、もう少し英語学習に対する具体的な目標を定めて、継続してやっていきたいと思った所存です。

具体的にやること（毎日）

  • 海外ドラマを1話見る。 自分はgleeやthe big bang theoryが大好きなのでそれを見ています。今まではAmazon Primeで見ていましたが、英語字幕で見ることができないため、Huluで見ることにしました。見ている中でわからない単語があったら、その都度止めて字幕を日本語の設定し直し（簡単にできます）、意味を確認してもう一度見るようにしています。

  • 瞬間英作文 「会話できる英文法」のCDを聞いて、日本語を英語に訳すということを、移動時間や単調作業の合間にながらでやっています。 ゆくゆくは、自分でドラマなどから拾った表現を集めて、瞬間英作文のCDみたいなのをつくってそれで勉強したいと思います。（テキストから瞬間英作文用のソフトウェアを作ってみようとも思います。）

  • 英単語 「文で覚える英単語英検1級」、みたいなやつをやっています。正直自分のレベルより圧倒的に高いですが、文章が面白いので読んでいます。わからなかったらすぐ単語を確認します。1日数個は読むようにしています（したいです...）。 IELTS 3500みたいなのもやりたいですが、自分は文で覚えるのが良さそうなので、そっちでやっています。（けどもっとやらないと多分ダメですね）

あまり参考にならなかったかもしれませんが、とにかくgleeとthe big bang theoryはオススメです。勉強でなくても気晴らしに見るだけでも面白いです。特に学生はAmazon Studentに加入すると色々嬉しいことが多いと思います。 以後、追記していきます。

目標設定と時間の使い方に対する意識

目標を書く

  • 具体的にかく
  • いつでも見れるところに貼る

私生活での目標 * バランスの良い食生活を心がける。最近炭水化物に偏ってしまっている気がする * 姿勢をよくする * 大切な人とこまめに連絡をとる * 週1で本屋に行き楽しむ。週1冊は本を読む

時間を使うときに意識している（したい）こと

  • まず時間を大切にする意識をもつ
  • とにかく隙間時間を有効活用
  • on/offのメリハリをつける
  • マルチタスクをなるべく避ける ->これ結構難しい。マルチタスクという本を読んだが、その後実践できなくなってきている。
  • 時間と目標を決めて取り掛かる
  • 同じ場所で長時間はよくない？脳をリフレッシュさせる（要検証）

最近気づいたけど、ずっと同じ場所でただひたすら勉強してるのもよくないかもしれない。

時間の使い方には大いに注意を払うべきだけれども、人と会って学ぶことも沢山ある。 出口さん「メシ・風呂・寝る」から「本・人・旅」へ

機械学習の定番モデル：グラフィカルモデル！

動機

今回はグラフィカルモデルについて勉強しました。 結構楽しかったので、学んだことをまとめていきたいと思います。 忘れた時に思い出すために、流れを意識して、言葉で整理して見ました。

グラフィカルモデルとは？

確率変数間の依存関係をグラフを用いて表現したものです。 グラフ表現による利点は * 視覚化によりモデルの理解が容易になり、新規モデルの設計方針にもなる * グラフの構造を調べることで、確率変数間の関係を把握し、条件付き独立性などのモデルに関する性質を得ることができる。 * 推論や学習におけるモデルの計算を、暗に数学的な表現を伴うグラフ操作により表現できる。

ざっくりというと、わかりやすく、計算しやすくなるということです。

具体的にどういうもの？

大きく分けて二つのクラス（種類）があります

  • ベイジアンネットワーク（有向グラフによって表現されたモデル）
  • マルコフ確率場（無向グラフによって表現されたモデル）

グラフィカルモデルにおいては、条件付き独立性というのが重要です。なぜなら、確率変数間に独立または条件付き独立が成立すると、同時分布を個々の確率変数の周辺分布に因数分解できて、組み合わせの数が減ることで計算量が減少するためです。 モデルを考える上でも、計算効率と表現力のバランスを考えると、条件付き独立という関係が非常に重要になります。

条件付き独立性

ここで、条件付き独立性が重要らしいので、グラフから読み取ることを考えます。 まずは有向グラフについて考えます。 条件付き独立をグラフから読み取る上で、知っておくべき3つの基本的なグラフ構造（有向グラフ）があります。 それが以下の3つです。

  • tail-to-tail
  • head-to-tail
  • head-to-head

条件付き独立は3つ以上の確率変数において初めて定義されるので、これらの基本的なグラフ構造は3つの確率変数を対象に考えています。

次に無向グラフにおいて条件付き独立性を読み取ることを考えます。無向グラフは有向グラフよりも簡単に、グラフから条件付き独立性を読み取ることができます。リンク（またはエッジ）に向きがないため、tail-to-tailなどは考えなくてよく、3つの確率変数の真ん中の確率変数が観測されているかで、残りの2つの確率変数の条件付き独立が成り立つか決まります。

無向において条件付き独立性をグラフから読み取るのは簡単なので良いので、話が有向グラフに戻りますが、より大きなグラフにおいてあるノードがどのノードと条件付き独立になるか調べるにはどのようにすれば良いでしょうか？

実は、マルコフブランケット（マルコフ境界）と呼ばれる、着目ノードの親、子、共同親のノードの集合のみを考えば良いです。大きな確率モデル（グラフの中から）着目している確率変数のノードに対して、親か子か共同親の確率変数のノードのみを考えれば良いということです。これらに対してリンク（エッジ）に注目し上記のtail-to-tailなどの関係を用いて、そのノードと着目しているノードの条件付き独立性を考えることができます。

ちなみに無向グラフにおいては、マルコフブランケットを考えるまでもなく、上記のように隣接しているノードを考えれば良いです。こちらのスライドでは無向グラフにおいてもマルコフブランケットを定義していますが、PRMLではマルコフブランケットは、「着目ノードに対する親、子、共同親からなるノードの集合」と定義されているので、有向グラフについてのみ考えているように思います。 （嘘です。下巻p.97で無向グラフにおいては着目ノードの隣接ノード集合がマルコフブランケットとされていました）

有向分離

ここまでは3変数間での条件付き独立性をグラフから読み取ることについて考えてきました。次はそれを一般化し、ノード集合間での条件付き独立性をグラフから読み取ることを考えます。 グラフから条件付き独立性を見出す方法が有向分離です（有向グラフの有向分離性を考えること）。

ある有向グラフにおいて、ノード集合Aとノード集合Bが条件付き独立か調べたい時は、AとBをつなぐ全ての経路上のノードに対して、tail-to-tail、head-to-tail、head-to-headかどうか、またそのノードの確率変数が観測されているかどうかを見て、経路が遮断されるか（条件付き独立か）どうかを判断します。

無向グラフにおいては、経路上のノードの確率変数が観測されているかどうかだけで判定できます。（経路上のノードのいずれかが観測されていれば、ノード集合AとBは条件付き独立でないし、観測されていなければ、条件付き独立です。）

因子グラフ

さてここまで有向グラフと無向グラフで分けて考えていましたが、ここからはこれらを統一的に扱うことを考えます。具体的には、因子グラフという、無向グラフのより詳細な表現を用います。 ある無向グラフに対する因子グラフは一意ではなく、どの因子グラフにするかはモデル設計者に委ねられています。

モラル化

ちなみに因子グラフにする前に、有向グラフは無向グラフにする必要があります。（これをモラル化と呼びます）。モラル化は、親が1人なら、リンクの矢印をとり、親が複数なら、親同士を無向リンクでつなぐ（結婚させる）ことで行えます。

無向グラフは条件付き独立性について扱いやすくなっており、モラル化することで、リンク（エッジ）の向きという情報を落とす一方で、条件付き独立性のグラフからの読み取りが容易になるという恩恵を得られます。

推論アルゴリズム

続いて、推論アルゴリズムについてです。といきたいところですが、自分の理解がまだ浅い部分もあるので一旦今日はここまでにしておきます。

以下下書き 自分が作ったモデルにおいて、（ある確率変数が観測された状態で）、未観測の確率変数の分布について推測する時の話です（？）。 因子グラフにすると良いことは、head-to-headを扱いやすくなり、統一的にアルゴリズムを適用できることにあります。 もともと木構造だったものをモラルかでループありに変換して、因子グラフに変換して木構造に戻すということを行います。

連鎖は矢印を取るだけで良い 加算と乗算の順序をうまく変形する。メッセージという概念を考える メッセージパッシング

木構造の例 潜在変数が離散確率変数の時隠れマルコフモデルという

潜在変数が 離散変数 積和アルゴリズム 連続変数 積積分アルゴリズム

ループありの場合は厳密解ではなく近似解

まとめ

PRML8章の流れは？

MAP推定値 周辺分布

参考

このスライドは非常にわかりやすいです。 グラフィカルモデル入門 PRML 第8章

徐々に追記していきます。

todo

グラフって？数学とグラフ、どういう分野があるか。どこで学べるか。 そもそもモデルとは？ なぜマルコフブランケットだけを考えれば良いのか？p.95 マルコフ確率場の定式化 計算量

チューリングパターン（反応拡散系）とは？

重要

本記事では、はてなブログで上手く数式を表示できなかったので、こちらに代わりに書かせていただきました。 リンク先は個人ブログですが、記事内容や、見た目等、まだ整理されていないので見づらいかもしれませんがご了承下さい。コメント等ある場合は、はてなブログの方でいただけると幸いです。 お手数をおかけしますが宜しくお願い致します。

チューリングパターンとは？

誤解を恐れずに言えば、こういう模様(=波)のことf:id:nafoto_z:20181207184649p:plain こういう模様、パターンのことをチューリングパターンと言います。チューリング波、反応拡散波という言い方もあります。

そして重要なのは、以下の2点 1. このパターンはある条件を満たす化学反応システムが自発的に生み出す周期的なものであるということ 2. 模様(=波)の仕組みは、反応拡散方程式で数学的に表せる！！ ということ 3. この模様は、生物によく見られるものであり、一部の生物では、確かに反応拡散系によってこの模様が作られている！！ ということ

遺伝子だけで決まる訳ではない

point①&③

これは化学反応によって自発的に起こるパターンで、生物にも見られる！！ ※ 画像はイメージです。 こちらからお借りしました。チューリング波（反応拡散波）を理解したい

実際の生き物に見られる模様のパターン
|
|

ことの始まりは、 イギリスの数学者アランチューリングが1952年に発表した論文で、「生物の模様は波によって作られる」という仮説。です

生物の体の表面では化学反応が起きており、反応を活性化する因子と抑制する因子の広がる速さが異なることで「波」が生じ、模様が作られる

https://www.jst.go.jp/pr/jst-news/pdf/2015/2015_04_p08.pdf という考え方。

1952年に、イギリスの代表的な数学者でコンピュータ科学の生みの親でもあるアラン・チューリングが、「2つの仮想的な化学物質が、ある条件を満たして互いの合成をコントロールしあうとき、その物質の濃度分布は均一にならず、濃い部分と薄い部分が、空間に繰り返しパターン（反応拡散波）を作って安定する」ことを、数学的に証明した。1970年代に数人の数学者がチューリングの方程式を2次元でシミュレーションしたところ（チューリングの時代はコンピュータがなかった）、方程式の定数（仮想的な化学物質の性質）を少し変えるだけで、シマウマのストライプ模様もキリンの網目模様も、豹の斑点模様も作り出せることを発見した。

https://www.brh.co.jp/seimeishi/journal/011/to_1.html 天才か...

簡単に例えてみると... 2つの赤い物質(A)と青い物質(B)があって、この2つの関係が、 1. 赤い物質が増えると、自分(赤い物質)をより増やすようになる（=赤が自分を「促進」） 2. 赤い物質が増えると、青い物質を増やすようになる(=赤が青を「促進」) 3. 逆に青い物質が増えると、赤い物質を減らすようになる(=青が赤を「抑制」) f:id:nafoto_z:20181207184617p:plain ような関係で、 4. 赤い物質より青い物質の方が周りに広がりやすい f:id:nafoto_z:20181207184638p:plain とき、ランダムに赤青がある状態からスタートして、ある程度時間が経つと、安定した赤青模様のパターンができる！ということである。 f:id:nafoto_z:20181207184649p:plain 上記のように初期状態やパラメーターによって色々な模様ができます。

白黒でも良いですが、画像に合わせて赤青にしました。

この関係は、食物連鎖の一部に例えてみるとわかりやすいでしょう 全然現実世界に沿っていないとは思いますが... 1. ネズミが増えるとネズミたちは、協力して生活するようになり、どんどんその数を増やしていきます(ネズミが自分たちの増加を「促進」) 2. ネズミが増えると、ネズミを食べる猫たちは沢山食料を得られるので、猫たちの数も増えていきます(ネズミが猫の増加を「促進」) 3.　猫が増えると、ネズミは今まで以上に食べられてしまうので、数を減らしてしまいます。(猫の増加がネズミの増加を「抑制」)

このような関係のイメージです。

ポイント2 ~模様の仕組みは数学的に表せる！~

この1~4の関係を数学的に表すと、一例として、

[tex: { \displaystyle \frac{\partial u}{\partial t} = 0.6p - q - p3 + 0.0002\Delta u }]

{ \displaystyle \frac{\partial v}{\partial t} = 1.5p - 2q + 0.01\Delta u }

{ \displaystyle \sum_{n=0}^{\infty} \frac{f^{(n)}(a)}{n!} (x-a)^{n} }

 { \displaystyle
 \frac{\partial u}{\partial t} = 0.6p - q - p^3 + 0.0002\Delta u
}

$$ \frac{\partial v}{\partial t} = 1.5p - 2q + 0.01\Delta u $$

と表すことができます。 これは反応拡散方程式と言われるものです。式の意味は後ほど説明します。