畳み込みニューラルネットワーク(Convolutional Neural Network; CNN)をなるべくわかりやすく解説 こちらの記事 では,深層学習(Deep Learning)の基本的な仕組みについて説明しました. 今回は, 画像 を深層学習で扱うときに現在最もよく使用されている 畳み込みニューラルネットワーク(Convolutional Neural Network, 略してCNN) についてなるべくわかりやすく説明しようと思います.CNNは本当によく使用されている方法ですので,理解を深めることは大きなメリットになります. Q. CNNとは何なのか? A. CNNは画像を扱う際に,最もよく用いられている深層学習モデルの1つ CNNで何ができるのか CNNの具体的な説明に入る前に,CNNを使うことでどのようなことができるのか,簡単にいくつか例示したいと思います. 画像生成 (Image Generation) 突然ですが,以下の2つの画像のうち,どちらが本物で,どちらが人工的に作成したものだと思いますか? [引用] 2つの画像とも本物に見えますが,どちらか一方はCNNと敵対的生成学習と呼ばれる方法を用いて人工的に作成した画像になります(敵対的生成学習については こちらの記事 で解説しています). このように,CNNを用いることで人間が区別できないほどリアルな画像を生成することも可能になりつつあります.ちなみにCNNで生成した画像は右の画像になります.もちろん,上記の顔画像以外にも風景や建造物の生成も可能です. 画像認識(Image Recognition) 画像をCNNに入力することで,画像にどんな物体が写っているのか,そしてその物体が画像のどこに写っているのかを特定することが可能です. 例えば,以下の例だと左側の画像をCNNに入力することで,右側の画像を得ることができます.右側の画像中のそれぞれの色は物体のカテゴリ(人,車,道路など)を表しています. Grad-CAM | 畳み込みニューラルネットワークが着目している部位を可視化する方法. このようにCNNを応用することで,画像内のどこに何があるのかがわかるようになります. セマンティックセグメンテーションの例(左:入力画像,右:出力画像) ほかにも,画像中に何が写っているのかだけを推定する画像分類(Image Classification)のタスクにもCNNが適用されるケースが多いです. 画像分類の例.画像分類は画像に写っている物体の名称を当てるタスク.
MedTechToday編集部のいとうたかあきです。 今回の医療AI講座のテーマは、最近話題になっている、グラフ畳み込みニューラルネットワーク(GCN:Graph Convolutional Networks)です。 さらっと読んで、理解したい!AI知識を増やしたい!という方向けに解説します。 1. グラフとは グラフ畳み込みニューラルネットワークと聞いて、棒グラフや折れ線グラフなどのグラフをイメージする方も多いかもしれません。 しかし、グラフ畳み込みニューラルネットワークで使用するグラフとは、ノードとエッジからなるデータ構造のことを言います。 ノードは何らかの対象を示しており、エッジはその対象間の関係性を示しています。 具体例としては、例えば、化合物があります。 この場合は原子がノード、結合がエッジに当たります。 その他、人をノードにして、人と人との交友関係をエッジにすることで、コミュニティを表す等、対象と対象間の関係性があるさまざまな事象をグラフで表現することが可能です。 2節からグラフ畳み込みニューラルネットワークについて、説明していきますが、DNNやCNNについて理解があると、読み進めやすいと思います。 DNNについては CNNについては、 上記の記事にて、解説していますので、ディープラーニングについてほとんど知らないなという方は、ぜひお読みください。 2.
パディング 図2や3で示したように,フィルタを画像に適用するとき,画像からフィルタがはみ出すような位置にフィルタを重ねることができません.そのため,畳み込み処理による出力画像は入力画像よりも小さくなります. そこで, ゼロパディング と呼ばれる方法を用いて, 出力画像が入力画像と同じサイズになるようにする アプローチがよく用いられています.ゼロパディングはとてもシンプルで,フィルタを適用する前に,入力画像の外側に画素値0の画素を配置するだけです(下図). 図5. ゼロパディングの例.入力画像と出力画像のサイズが同じになる. ストライド 図3で示した例では,画像上を縦横方向に1画素ずつフィルタをずらしながら,各重なりで両者の積和を計算することで出力画像を生成していました.このフィルタを適用する際のずらし幅を ストライド と呼びます. ストライド$s$を用いた際の出力画像のサイズは,入力画像に対して$1/s$になります. そのため,ストライド$s$の値を2以上に設定することで画像サイズを小さく変換することができます. 画像サイズを小さくする際は,ストライドを2にして畳み込み処理を行うか,後述するプーリング処理のストライドを2にして画像を処理し,画像サイズを半分にすることが多いです. プーリング層 (Pooling layer) プーリング層では,画像内の局所的な情報をまとめる操作を行います.具体的には, Max PoolingとAverage Pooling と呼ばれる2種類のプーリング操作がよく使用されています. Max Poolingでは,画像内の局所領域(以下では$2\times2$画素領域)のうち最大画素値を出力することで,画像を変換します. Max Poolingの例.上の例では,画像中の\(2\times2\)の領域の最大値を出力することで,画像を変換している. 畳み込みニューラルネットワーク（CNN）をなるべくわかりやすく解説 | AIアンテナ ゼロから始める人工知能（AI）. Average Poolingでは,局所領域の画素値の平均値を出力することで,画像を変換します. Average Poolingの例.画像中の\(2\times2\)の領域の平均値を出力することで,画像を変換する. Max Pooling,Average Poolingともに上記の操作をスライドさせながら画像全体に対して行うことで,画像全体を変換します. 操作対象の局所領域サイズ(フィルタサイズ)や,ストライドの値によって出力画像のサイズを調整することができます.
MedTechToday編集部のいとうたかあきです。今回の医療AI講座のテーマは、AI画像認識において重要なCNN(畳み込みニューラルネットワーク)です。 近年、CT画像や内視鏡画像など、多くの画像データに対してAIを用いた研究が盛んに行われています。そして、画像分野でAIを用いるほとんどの研究がCNNを用いていると言っても過言ではありません。 今回は、「さらっと読んで、理解したい!AI知識を増やしたい!」という方向けに解説します。 Nの定義 CNN(畳み込みニューラルネットワーク)は、DNN(ディープニューラルネットワーク)の一種です。 DNNってなに?と思われた方は、下記のDNNの解説記事を先に読まれることをお勧めします。 CNNは、DNNの「入力層」、「中間層」、「出力層」、の3層の中の中間層に、畳み込み層とプーリング層という2種類の層を組み込んだニューラルネットワークです。 なお、畳み込み層とプーリング層は1層ではなく、複数の層が組み込まれていくことになります。 この記事では、まず畳み込み層やプーリング層について、順を追って説明していきます。 2. 畳み込み演算による画像のフィルタ処理 畳み込み層について理解するためには、畳み込み演算による画像のフィルタ処理についての理解が必要です。 畳み込み演算による画像フィルタ処理とは、入力画像の注目するピクセルだけでなく、その周囲にあるピクセルも利用し、出力画像のピクセル値を計算する処理になります。 フィルタ処理のフィルタとは、画像に対して特定の演算を加えることで、画像を加工する役割をもつ行列を指します。 また、ピクセル値とは画像のピクセルに含まれる色の明るさを表す数値になります。 この説明だけではまだピンと来ないと思いますので、例を挙げて具体的な処理の流れを説明します。 3 x 3のサイズのフィルタを使った畳み込み演算をするとします。 着目ピクセルとその周囲を合わせた9つのピクセル値についてフィルタの値との積和を計算します。 得られた結果の値を、着目ピクセルのピクセル値とします。 このような操作を、青枠をずらしながら出力画像の全ピクセルに対して行います。 この例では、着目ピクセルを含む周囲の9ピクセルのピクセル値の平均を計算し、その値を着目ピクセルの新しいピクセル値とする操作を行っているため、画像をぼかす効果が得られます。 3.
プーリング層 畳み込み層には、画像の形状パターンの特徴を検出する働きがありました。 それに対してプーリング層には、物体の位置が変動しても 同一の 物体であるとみなす働きがあります。 プーリングは、畳み込みで得た特徴を最大値や平均値に要約することで多少の位置の変化があっても同じ値が得られるようにする処理です。 プーリングの一例を下の図で示します。 上の例では2×2の枠内のピクセル値の最大のものをとってくることで、おおまかに特徴を保っています。 5.CNNの仕組み CNNでは、畳み込みとプーリングがいくつか終わった後に,画像データを1次元データにフラット化します。 そののち、全結合層と呼ばれる、通常のDNNの中間層、出力層に引き渡します。 下図は、CNNの流れのイメージ図です。 簡易的に畳み込み層とプーリング層を一層ずつ記載していますが、通常は畳み込み層とプーリング層はセットで複数回繰り返して実行されます。 全結合層に引き渡したのちは、DNNと同様の流れとなります。 6.まとめ CNNについてなんとなくイメージがつかめましたでしょうか。 本記事では、さらっと理解できることに重点を置きました。 少しでも本記事でCNNについて理解を深めていただければ幸いです。
上記に挙げたタスク以外の多くの画像に関する問題にもCNNが適用され,その性能の高さを示しています. それでは,以降でCNNについて詳しく見ていきましょう. CNNとは 畳み込みニューラルネットワーク(CNN)は畳み込み層とプーリング層が積み重なったニューラルネットワーク のことです.以下に画像分類タスクを解く際のCNNの例を示します. 図1. 畳み込みニューラルネットワーク(CNN)の例. 画像分類の場合では,入力画像を畳み込み層とプーリング層を使って変換しながら,徐々に小さくしていき,最終的に各カテゴリの確率の値に変換します. そして, こちらの記事 で説明したように,人が与えた正解ラベルとCNNの出力結果が一致するように,パラメータの調整を行います.CNNで調整すべきパラメータは畳み込み層(conv)と最後の全結合層(fully connected)になります. 通常のニューラルネットワークとの違い 通常のニューラルネットワークでは,画像を入力する際に画像の形状を分解して1次元のデータにする必要がありました. 画像は通常,タテ・ヨコ・チャンネルの3次元の形状をしています.例えば,iPhone 8で撮影した写真は,\((4032, 3024, 3\))の形状をしたデータになります.$4032$と$3024$がそれぞれタテ・ヨコの画素数,最後の$3$がチャンネル数(=RGB成分)になります.そのため,仮にiPhone 8で撮影した画像を通常のニューラルネットワークで扱う際は,$36578304 (=4032\times 3024\times 3)$の1次元のデータに分解してから,入力する必要があります(=入力層のノード数が$36578304$). このように1次元のデータに分解してから,処理を行うニューラルネットワークを 全結合ニューラルネットワーク(Fully connectd neural network) と呼んだりします. 全結合ネットワークの欠点として,画像の空間的な情報が無視されてしまう点が挙げられます.例えば,空間的に近い場所にある画素同士は類似した画素値であったり,何かしらの関係性があるはずです.3次元データを1次元データに分解してから処理を行ってしまうと,こういった空間情報が失われてしまいます. 一方,CNNを用いる場合は,3次元という形状を維持したまま処理を行うため,空間情報を考慮した処理が可能になります.CNNにおける処理では,入力が$(H, W, C)$の3次元形状である場合,畳み込み層およびプーリング層の出力も$(H', W', C')$のように3次元となります(出力のタテ・ヨコ・チャンネルの大きさは変わります).そのため,全結合ニューラルネットワークよりも,画像のような形状を有したデータを適切に処理できる可能性があります.
15%」という数値になりましたが、これは前回(多層パーセプトロン)の結果が「94. 7%」であったことに比べるとCNNはかなり性能が良いことがわかりますね。 次回はMNISTではなく、CIFAR10という6万枚のカラー画像を扱う予定です。乞うご期待! 参考文献 【GIF】初心者のためのCNNからバッチノーマライゼーションとその仲間たちまでの解説 pytorchで初めてゼロから書くSOTA画像分類器(上) 【前編】PyTorchでCIFAR-10をCNNに学習させる【PyTorch基礎】 Pytorchのニューラルネットワーク(CNN)のチュートリアル1. 3. 1の解説 人工知能に関する断創録 pyTorchでCNNsを徹底解説 畳み込みネットワークの「基礎の基礎」を理解する ~ディープラーニング入門|第2回 定番のConvolutional Neural Networkをゼロから理解する 具体例で覚える畳み込み計算(Conv2D、DepthwiseConv2D、SeparableConv2D、Conv2DTranspose) PyTorch (6) Convolutional Neural Network
こんにちは、おぐえもん( @oguemon_com)です。 前回の記事 では、行列の対角和(トレース)と呼ばれる指標の性質について扱いました。今回は、行列の対角化について扱います。 目次 (クリックで該当箇所へ移動) 対角化とは?
線形代数I 培風館「教養の線形代数(五訂版)」に沿って行っている授業の授業ノート(の一部)です。 実対称行列の対角化 † 実対称行列とは実行列(実数行列)かつ対称行列であること。 実行列: \bar A=A ⇔ 要素が実数 \big(\bar a_{ij}\big)=\big(a_{ij}\big) 対称行列: {}^t\! A=A ⇔ 対称 \big(a_{ji}\big)=\big(a_{ij}\big) 実対称行列の固有値は必ず実数 † 準備: 任意の複素ベクトル \bm z に対して、 {}^t\bar{\bm z}\bm z は実数であり、 {}^t\bar{\bm z}\bm z\ge 0 。等号は \bm z=\bm 0 の時のみ成り立つ。 \because \bm z=\begin{bmatrix}z_1\\z_2\\\vdots\\z_n\end{bmatrix}, \bar{\bm z}=\begin{bmatrix}\bar z_1\\\bar z_2\\\vdots\\\bar z_n\end{bmatrix}, {}^t\! \bar{\bm z}=\begin{bmatrix}\bar z_1&\bar z_2&\cdots&\bar z_n\end{bmatrix} {}^t\! \bar{\bm z} \bm z&=\bar z_1 z_1 + \bar z_2 z_2 + \dots + \bar z_n z_n\\ &=|z_1|^2 + |z_2|^2 + \dots + |z_n|^2 \in \mathbb R\\ 右辺は明らかに非負で、ゼロになるのは の時のみである。 証明: 実対称行列に対して A\bm z=\lambda \bm z が成り立つ時、 \, {}^t\! (AB)=\, {}^t\! B\, {}^t\! 【行列FP】行列のできるFP事務所. A に注意しながら、 &\lambda\, {}^t\! \bar{\bm z} \bm z= {}^t\! \bar{\bm z} (\lambda\bm z)= {}^t\! \bar{\bm z} (A \bm z)= {}^t\! \bar{\bm z} A \bm z= {}^t\! \bar{\bm z}\, {}^t\! A \bm z= {}^t\! \bar{\bm z}\, {}^t\!
はじめに 物理の本を読むとこんな事が起こる 単振動は$\frac{d^2x}{dt^2}+\frac{k}{m}x=0$という 微分方程式 で与えられる←わかる この解が$e^{\lambda x}$の形で書けるので←は????なんでそう書けることが言えるんですか???それ以外に解は無いことは言えるんですか???
この節では 本義Lorentz変換 の群 のLie代数を調べる. 微小Lorentz変換を とおく.任意の 反変ベクトル (の成分)は と変換する. 回転群 と同様に微小Lorentz変換は の形にかけ,任意のLorentz変換はこの微小変換を繰り返す(積分 )ことで得られる. の条件から の添字を下げたものは反対称, である. そのものは反対称ではないことに注意せよ. 一般に反対称テンソルは対角成分が全て であり,よって 成分のうち独立な成分は つだけである. そこで に 個のパラメータを導入して とおく.添字を上げて を計算すると さらに 個の行列を導入して と分解する. ここで であり, たちはLorentz群 の生成子である. の時間成分を除けば の生成子と一致し三次元の回転に対応していることがわかる. たしかに三次元の回転は 世界間隔 を不変にするLorentz変換である. はLorentzブーストに対応していると予想される. に対してそのことを確かめてみよう. から生成されるLorentz変換を とおく. まず を対角化する行列 を求めることから始める. 固有値方程式 より固有値は と求まる. それぞれに対して大きさ で規格化した固有ベクトルは したがってこれらを並べた によって と対角化できる. 指数行列の定義 と より の具体形を代入して計算し,初項が であることに注意して無限級数を各成分で整理すると双曲線函数が現れて, これは 軸方向の速さ のLorentzブーストの式である. に対しても同様の議論から 軸方向のブーストが得られる. 生成パラメータ は ラピディティ (rapidity) と呼ばれる. 3次元の回転のときは回転を3つの要素, 平面内の回転に分けた. 【固有値編】行列の対角化と具体的な計算例 | 大学1年生もバッチリ分かる線形代数入門. 同様に4次元では の6つに分けることができる. 軸を含む3つはその空間方向へのブーストを表し,後の3つはその平面内の回転を意味する. よりLoretz共変性が明らかなように生成子を書き換えたい. そこでパラメータを成分に保つ反対称テンソル を導入し,6つの生成子もテンソル表記にして とおくと, と展開する. こうおけるためには, かつ, と定義する必要がある. 註)通例は虚数 を前に出して定義するが,ここではあえてそうする理由がないので定義から省いている. 量子力学でLie代数を扱うときに定義を改める.
\; \cdots \; (6) \end{eqnarray} 式(6) を入力電圧 $v_{in}$, 入力電流 $i_{in}$ について解くと, \begin{eqnarray} \left\{ \begin{array} \, v_{in} &=& \, \cosh{ \gamma L} \, v_{out} \, + \, z_0 \, \sinh{ \gamma L} \, i_{out} \\ \, i_{in} &=& \, z_0 ^{-1} \, \sinh{ \gamma L} \, v_{out} \, + \, \cosh{ \gamma L} \, i_{out} \end{array} \right. \; \cdots \; (7) \end{eqnarray} これを行列の形で表示すると, 以下のようになります. 行列式の値の求め方を超わかりやすく解説する – 「なんとなくわかる」大学の数学・物理・情報. \begin{eqnarray} \left[ \begin{array} \, v_{in} \\ \, i_{in} \end{array} \right] = \left[ \begin{array}{cc} \, \cosh{ \gamma L} & \, z_0 \, \sinh{ \gamma L} \\ \, z_0 ^{-1} \, \sinh{ \gamma L} & \, \cosh{ \gamma L} \end{array} \right] \, \left[ \begin{array} \, v_{out} \\ \, i_{out} \end{array} \right] \; \cdots \; (8) \end{eqnarray} 式(8) を 式(5) と見比べて頂ければ分かる通り, $v_{in}$, $i_{in}$ が入力端の電圧と電流, $v_{out}$, $i_{out}$ が出力端の電圧, 電流と考えれば, 式(8) の $2 \times 2$ 行列は F行列そのものです. つまり、長さ $L$ の分布定数回路のF行列は, $$ F= \left[ \begin{array}{cc} \, \cosh{ \gamma L} & \, z_0 \, \sinh{ \gamma L} \\ \, z_0 ^{-1} \, \sinh{ \gamma L} & \, \cosh{ \gamma L} \end{array} \right] \; \cdots \; (9) $$ となります.
F行列の使い方 F行列を使って簡単な計算をしてみましょう. 何らかの線形電子部品に同軸ケーブルを繋いで, 電子部品のインピーダンス測定する場合を考えます. 図2. 測定系 電圧 $v_{in}$ を印加すると, 電源には $i_{in}$ の電流が流れたと仮定します. 電子部品のインピーダンス $Z_{DUT}$ はどのように表されるでしょうか. 行列の対角化 例題. 図2 の測定系を4端子回路網で書き換えると, 下図のようになります. 図3. 4端子回路網で表した回路図 同軸ケーブルの長さ $L$ や線路定数の定義はこれまで使っていたものと同様です. このとき, 図3中各電圧, 電流の関係は, 以下のように表されます. \begin{eqnarray} \left[ \begin{array} \, v_{in} \\ \, i_{in} \end{array} \right] = \left[ \begin{array}{cc} \, \cosh{ \gamma L} & \, z_0 \, \sinh{ \gamma L} \\ \, z_0 ^{-1} \, \sinh{ \gamma L} & \, \cosh{ \gamma L} \end{array} \right] \, \left[ \begin{array} \, v_{out} \\ \, i_{out} \end{array} \right] \; \cdots \; (10) \end{eqnarray} 出力電圧, 電流について書き換えると, 以下のようになります. \begin{eqnarray} \left[ \begin{array} \, v_{out} \\ \, i_{out} \end{array} \right] = \left[ \begin{array}{cc} \, \cosh{ \gamma L} & \, – z_0 \, \sinh{ \gamma L} \\ \, – z_0 ^{-1} \, \sinh{ \gamma L} & \, \cosh{ \gamma L} \end{array} \right] \, \left[ \begin{array} \, v_{in} \\ \, i_{in} \end{array} \right] \; \cdots \; (11) \end{eqnarray} ここで, F行列の成分は既知の値であり, 入力電圧 $v_{in}$ と 入力電流 $i_{in}$ も測定結果より既知です.