Deep Learning 4.2 ステップ関数

4.2.1 ステップ関数の実装

ステップ関数は、次式で表される。

\begin{eqnarray} h(x)= \begin{cases}
0 & x \leqq 0 \\
1 & x > 0 \tag{1.4}
\end{cases}
\end{eqnarray}

単純に実装すれば、

となるが、xにNumPy配列を使用したいため、下記に変更する。

y = x > 0は見慣れないコードかもしれないが,
xが0より大きいならば真(TRUE)を
xが0より小さいならば偽(FALSE)を返す論理式である。
返った真偽値をyに代入する。

astype()関数は()内の型に型変換(キャスト)する。
int型は整数型なので
y = x > 0の結果が、つまりyの値が
TRUEならば1にFALSEならば0に変換される。

実装を下図に示す。

Deep Learning 4.1 シグモイド関数

ニューラルネットワークに使われる活性化関数h()は閾値を境にして、
出力が切り替わる関数で、ニューラルネットワークの元となるパーセプトロン
は活性化関数として、ステップ関数(後述)を使用しているが、
ニューラルネットワークではシグモイド関数やReLU関数(後述)を使用する。

5.1 シグモイド関数

ニューラルネットワークで最もよく用いられる活性化関数の一つはシグモイド関数であり、

\[ h(x) =  \frac{1}{1+exp(-x)} \tag{1.6}\]

ここでexp(-x)は

\[exp(-x) = e^{-x}\]

を意味する。eはネイピア数と呼ばれるものであり、e=2.7182….の実数を表す。

円周率πと大して変わらない。eの登場で高等数学が訳が分からなくなるのには
理由がある。eの定義、導出について、数学のえっきす(x)と発音しがちな数学教師が、
これは こうだ! と言って、得意げに、数式を書き、説明を終了するからである。

eの導出についてはこちらが親切です。

思考停止して、ああそうなんだ。といって暗記する人は先に進めるが、なぜだ!といって止まる人は、

\[(e^{x})’ = e^{x}\]

\[log(x)’ = \frac{1}{x}\]

という性質に至るまでに、何故なんだ……

そもそも

\[\displaystyle \lim_{h \to 0} f(h) \]

とは? 0に極限に近づくことがありうるのか?ゲシュタルト崩壊。

1+1=2というのは本当か? 最初にある純水1ℓとt秒後に純水1ℓを注いだものがはたして2ℓといえるのか?

なんでまさお君はりんごとバナナを買いに行かされたんだ? (もっと必要なものがあるだろうに…!?)

なんでまさおなんだ? ただしい おとこ・・・ 正しいとは?

やがて、発狂。

©藤子・F・不二雄

という事態を防ぐため、えっきす先生は配慮してくださったのです。(ありがたい)

そして、ここで数学が嫌いになる人が多いでしょうが、
プログラミングはありがたいことに、(突き詰めれば)偉い先人たちの考え出した公式のみが必要であり、数学者でない限り、論理的な数式展開は全く必要ありません。
例えばPythonではシグモイド関数をh(x)と定義した場合、
≫ h(1.0)
≫ 0.731…
のように、計算結果が返るだけです。

Deep Learning 4 活性化関数

\[y = h(b + w_1x_1 + w_2x_2 ) \tag{1.2}\]

上式をさらに置き換えると、

\[a = b + w_1x_1 + w_2x_2  \tag{1.4}\]

\[y = h(a) \tag{1.5}\]

式(1.4)では、重み付き入力信号(wi*xi)とバイアス(b)の総和を計算し、それを
aとする。

式(1.5)において、aがh()で変換されyが出力される。h()を活性化関数といい,出力yで表記。

ニューロンは一つの〇で図示してきたが、下図を、式(1.4)と(1.5)を明示的に示す。

 

Deep Learning 3 ニューラルネットワーク

1.パーセプトロンからニューラルネットワークへ

ニューラルネットワークは脳機能をコンピュータ表現したものらしい。脳の機能については、あまり興味がないので、ここでは、ニューロンの脳科学的説明は省略させていただく。

1.1ニューラルネットワークの例

左の列を入力層、一番右の列を出力層、中間の列を中間層と呼ぶ。中間層は隠れ層とよぶこともあるらしい。中間層は人の目には見えないためらしい。

Pythonで実装するため、便宜的に入力層を第0層、中間層を第1層、出力層を第2層と呼ぶ。上図のネットワークは全部で3層から構成されているが、重みを持つ層は2層であるため、「2層ネットワーク」と呼ぶことにする。

yellow sweets という入力に対して、中間層の処理を通して、バナナ、チンコという出力をする。AIが複数の出力を返すのに、不思議に思うかもしれない。

エヴァンゲリオンでスパコンMAGIが賛成77% 反対22% 条件付き賛成が1%などというの(正確には違うセリフだと思う)を思い出してほしい。

出力層のうち、たとえばバナナの数値が0.9でチンコの数値が0.1の場合AIはバナナを返すし、逆ならば、チンコを返す。これはアラビア数字(0~9)一けたの不鮮明な画像イメージを入力として、出力層のうち、最も適応度が高い数値の数字(例えば2)を返すのをイメージしてほしい。

1.2パーセプトロンの復習

上図のネットワークにはバイアスbが図示されていないが、バイアスを明示するならば
描きのようになる。バイアスの入力信号は常に1であるため、図では、灰色で塗りつぶし、他のニューロンと区別することにする。

 

\begin{eqnarray} y= \begin{cases}
0 & (b + w_1x_1 + w_2x_2 ) \leqq 0 \\
1 & (b + w_1x_1 + w_2x_2 ) > 0 \tag{1.2}
\end{cases}
\end{eqnarray}

前回説明した上記のパーセプトロンの式(1.2)を式(1.3)に書き換えると、

\[y = h(b + w_1x_1 + w_2x_2 ) \tag{1.3}\]

\begin{eqnarray} h(x)= \begin{cases}
0 & x \leqq 0 \\
1 & x > 0 \tag{1.4}
\end{cases}
\end{eqnarray}

式(1.4)は、入力信号の総和がh(x)という関数によって、変換され、
その変換された値が出力yになるということを表している。
式(1.4)で表されるh(x)関数は入力が0を超えたら、1を返し、そうでなければ0を返す。

式(1.2)と式(1.3),(1.4)は同じことを言っている。

世界のペルソナ 西川きよし=仏陀説

©ATLUS

©吉本クリエイティブエージェンシー

ユング心理学 補講 1

元型:マナ人格

マナ人格は内的な理想像であり、こうなりたい未来の自分である。このペルソナが実体化例としてわかりやすいのが、聖杯戦争と題しているのに村の中の抗争で終わっている、FATE/stay nightにおけるアーチャー(英霊エミヤ) である。(この作品について私は否定的な立場をとる)

セイバーや遠坂が衛宮士郎(士郎ときくと、美味しんぼの方を思い出してしまう。山岡さん……)のアニマとすれば、コトミネ神父は衛宮士郎(ZEROでは衛宮切嗣)の影であり、衛宮切嗣は父(養父)だが、マナ人格であるといえる。

前置きはさておき、ふざけたタイトルと画像の説明をすると、芸人の西川きよしさんは、道化の面を被ってはいるが、面が外れなくて困っているのか(ペルソナと同一化しているのか(悪い意味))、実際は真っ黒な違う人なのか(しんどいわ裁判のエピソードを聞く限り、そうは考えにくい)、判断がつかない。健常者であることは疑いようがないため、ブッダのように、自己の統合ができた最初の人なのだろうか?

オードリーの若林さんは、影が強すぎて、狂気にみちた怒りを笑いに転化させている。(リトルトゥースとしては最近の精神状態が心配である。)、人を笑わすため(お金を稼ぐため)、外見の幼さをペルソナとして保っている。(本当は滅茶苦茶にしたいはずだと思う。)
対して、明石家さんまさんは、過酷なネグレクト環境に育ち、それを見せず、ただ人を笑わすことだけに、魂を磨いているひとである。この人も影が強い、統合しているとはいいがたい。

私が芸人に憧憬に似た念をもつのは、その道化の面の強さである。ペルソナの発展には、男性ならば、強さや判断力等、アニムスがもっているものが必要であり、(これを以後アニムスの剣と呼称する)アニムスの剣を磨くためには、好きな女性が持っているアニムスに近づく努力をしなくてはならない。つまり、かっこよくならなくてはならないのである。

ここで、前提として、私が左巻きに回転する変態であり、腐って外皮が落ちた、ぐちゃぐちゃな(武田鉄矢にいわせると腐った蜜柑)のようなペルソナであるにもかかわらず、その発展を放棄していることを理解されたい。

私は、自身のアニマを、ヒステリックな狂った老女のアニマ(たましい)だと考えて、それだと、母親とかわらないし、まだアニマの段階に至っていないのか、と考えたのだが、そうではなくて、狂人の殺人鬼としての影との統合がまだ終わっていないだろうとするのが、現時点での推量である。(多分アニマは死んでいる。それ(老女)がアニマであるならば、狂った老女に自分のアニマを投影して好きになるはずであり(一生ならないだろう)、怒りの心因である狂人の殺人鬼は同一性(男性)である影と考えるのが妥当だろう)

そういえば、私の父親も火サスを欠かさず見ていた。(なんでコイツは毎回、人が殺されんの見てんだよ。タタタタッ!タータッ!ターターー!♪ うっせぇ!うぜぇな。おめぇが死ねよ)といつも思っていたのだが、今考えると、父親のなかにも、人を殺したい影と善人でいたい自我が同居しており、その相反する戦いを、テレビに投影して(殺人犯に影を、探偵や刑事に自我を投影して)家族を顧みずに”やって”いたんだなと思われる。

アニムスを過剰に投影してくる母親や女性が鬱陶しくてコンプレックスが肥大化し、それにともなって、影も深く、肥大化して、制御不能になっているのが今の私の状態と考えられる。私には道徳と判断力、冷静さがひつようであり、影に呑まれないための努力が必要である。その一方で、外界に興味はなく、内的な冒険に耽るのみである、それが現実逃避であるという考えは一理あるが、価値観の押し付けはやめていただきたい。狂気が暴走しそうになるのでやめていただきたい。