こんにちは、たくやです。 今回は69歳のグーグル研究員、ジェフ・ヒントンが40年の歳月をかけて熟考して発表した新技術、 カプセルネットワーク をご紹介します。 今回も例によってわかりにくい数式や専門用語をできるだけ使わずに感覚的に解説していきます。 元論文 「Dynamic Routing Between Capsules」 この、カプセルネットワークは今、これまで機械学習で不動の地位を築いていたニューラルネットワークの技術を超える新技術なのではないかと期待されています。 彼の出した2つの論文によると、 カプセルネットワークの精度は従来のニューラルネットワークの最高時の精度 に、 誤答率は従来のニューラルネットワークの最低時の半分にまで減少 したといいます。 従来のニューラルネットワークとの違い では、何が従来のニューラルネットワークと違うのでしょうか? 一言でいうと、従来のニューラルネットワークが 全体をその大きさ で見ていたのに対して、カプセルネットワークが 特徴ごとに"ベクトル" で見ているという点です。 もう少し詳しく説明します。 例えば顔を認識する際に、従来のニューラルネットワークであるCNN(Convolution Newral Network) はそれが目なのか、鼻なのか、口なのかにしか着目していませんでした。(画像左) *CNNが何かを知らない方はこちらの記事の"CNNのおさらい"をご覧ください。 不気味なロボットから考えるCNNの仕組みのおさらいとAIによる画像認識の攻防戦 しかし、今回のカプセルネットワークはそれらの特徴がどのような関係で配置されているのかまで認識します。(画像右) 出典: Kendrick「Capsule Networks Explained」 より つまり、カプセルネットワークは個々の特徴を独立的に捉え、それぞれがどのような関係にあるのかということにまで着目します。カプセルネットワークの名前の由来がここにあります。ひとつひとつのカプセルに詰まったニューロンが個々の特徴に着目し、それぞれの関係に着目するのです。 これによって何が起こるのでしょうか? 出典: Medium 「Understanding Hinton's Capsule Networks. 【図解あり】ニューラルネットワークとディープラーニングをわかりやすく解説！ | RAKUDOブログ. Part I: Intuition. 」 より 例えばこの写真、私たち人間の目には実物の自由の女神像を見たことがなくても、全て自由の女神像に見えます。 しかし、私たちは、何千枚と自由の女神の写真を見てきたわけではないですよね?私たちは、十数枚の写真を見ただけで、それが自由の女神像だと認識することができます。 それと同じことが機械学習でも可能になるのです。 機械学習を行うには5つのプロセスがありました。 データの収集 データの前処理 モデルの構築 実際に人工知能に学習させる モデルの改善 機械学習で最も大変なのは、実のところ、1と2のプロセスでした。しかし、今回のカプセルネットワークが実際に実用に耐えうるものだとされれば、1と2の手間がかなり省けるために、機械学習の可能性が一気に広がります。 カプセルネットワークの仕組み なぜそのようなことができるのでしょうか?
再帰的ニューラルネットワークとは?
ディープラーニングについて調べていると、 画像認識に使われる手法として畳み込みニューラルネットワークの解説 が見つかりますが、 「図も数式もわかりにくくて頭の中が真っ白。どんな仕組みか、数式なしで知りたい!」 という方のために、本記事では、画像認識において最もホットな 「畳み込みニューラルネットワーク」について、数式なしで丁寧に解説 していきます。 初心者でも理解できるよう、画像分析に至るまでの手順も解説していますので、ぜひ最後まで読んで、畳み込みニューラルネットワークの概要を掴んでください。 畳み込みニューラルネットワーク(CNN)とは?何に使えるの?
なお,プーリング層には誤差逆伝播法によって調整すべきパラメータは存在しません. 画像分類タスクでは,プーリング層で画像サイズを半分にすることが多いです(=フィルタサイズ$2\times 2$,ストライド$s=2$). 全結合層 (Fully connected layer) CNNの最終的な出力が画像以外の場合(例えば,物体の名称)に,CNNの最後に使用されるのが全結合層になります. 畳み込み層もしくはプーリング層の出力は$(H, W, C)$の3次元データになっているため,これらを1列に$H\times W\times C$個並べた1次元のベクトルにし,全結合層に入力します. 全結合層 全結合層は通常のニューラルネットワークと同様に,各ノードに割り当てられた重みとバイアスを用いて入力値を変換します.そして,画像分類の場合なら,最後にソフトマックス関数を適用することで確率の表現に変換します. 「畳み込みニューラルネットワークとは何か？」を分かりやすく図解するとこうなる - GIGAZINE. 畳み込み層のフィルタと同様に,CNNの学習では誤差逆伝播法によって全結合層の重み$w_i$とバイアス$b$を更新します. CNNの出力が画像の場合は,全結合層ではなく,画像を拡大することが可能なTransposed Convolution (Deconvolution)という操作を行うことで,画像→画像の処理も可能になります.これに関してはまた別の機会に解説したいと思います. まとめ 畳み込みニューラルネットワーク(CNN)とは, 畳み込み層とプーリング層を積み重ねたニューラルネットワーク のこと 画像 を扱う際に最もよく使用されているニューラルネットワーク さて,CNNの解説はいかがだったでしょうか.ざっくり言えば,フィルタを用いて画像を変換しているだけですので,思っていたよりは難しくなかったのではないでしょうか. 実際にCNNを用いて画像分類を実行するプログラムを こちらの記事 で紹介していますので,もしよろしければ参考にしてみて下さい. また,これを機会に人工知能に関する勉強やプログラミングを始めたい方は以下の記事も参考にしてみてください. ゼロからはじめる人工知能【AI入門】 プログラミングの始め方【初心者向け】
1%の正確率を保ちながらSamusung S8上でMobileNetV2よりも2. 4倍軽量で1. 5倍高速を達成しました。 6. EfficientNet 🔝 EfficientNet もまたQuoc V. グラフニューラルネットワークのわかりやすい紹介(2/3). Leらによるもので2019年に発表されました。従来よりかなり少ないパラメータ数で高い精度を出しました。 Kaggle などで転移学習に有用なモデルとして活用されています。 7. 転移学習とファインチューニング 🔝 ネットワークの層の数が多くなりと同時に学習に必要な計算量(時間と電力)は莫大なものになっていきました。 よって、ImageNet(ILSVRCのデータセット)で学習済みのネットワーク(VGGやGoogLeNetやResNetなど)を使った 転移学習 によって短時間で高性能のネットワークを訓練することが一般的になりました。これらのネットワークはImageNetにおける学習で畳み込み層が特徴量を抽出できるようになっているからです。その最適化されたネットワークの重みを再利用することで余計な訓練を省くというわけです。 転移学習では最後の方の結合層を入れ替えてそこだけ訓練する方法と、ネットワーク全体を微調整するファインチューニングとがあります。 参照 : ResNetで転移学習の方法を試してみる 転移学習の注意点
以上を踏まえてim2colです。 よく知られた実装ではありますが、キーとなるところだけコードで記載します。雰囲気だけつかんでください。実装は「ゼロつく本」などでご確認ください。 まず、関数とその引数です。 # 関数の引数は # 画像データ群、フィルタの高さ、フィルタの幅、縦横のストライド、縦横のパディング def im2col ( im_org, FH, FW, S, P): 各データのサイズを規定しましょう。 N, C, H, W = im_org. shape OH = ( H + 2 * P - FH) // S + 1 OW = ( W + 2 * P - FW) // S + 1 画像データはパディングしておきます。 画像データフィルタを適用させます。 まず、im2colの戻り値を定義しておきます。 im_col = np. zeros (( N, C, FH, FW, OH, OW)) フィルタの各要素(FH、FWの二次元データ)に適用させる画像データを、 ストライドずつづらしながら取得(OH、OWの二次元データ)し、im_colに格納します。 # (y, x)は(FH, FW)のフィルタの各要素。 for y in range ( FH): y_max = y + S * OH for x in range ( FW): x_max = x + S * OW im_col [:, :, y, x, :, :] = img_org [:, :, y: y_max: S, x: x_max: S] for文の一番内側では、以下の黄色部分を取得していることになります。 あとは、目的の形に変形しておしまいです。 # (N, C, FH, FW, OH, OW) →軸入替→ (N, OH, OW, C, FH, FW) # →形式変換→ (N*OH*CH, C*FH*FW) im_col = im_col. transpose ( 0, 4, 5, 1, 2, 3) im_col = im_col. reshape ( N * out_h * out_w, - 1) return im_col あとは、フィルタを行列変換し、掛け合わせて、結果の行列を多次元配列に戻します。 要はこういうことです(雑! )。 im2col本当に難しかったんです、私には…。忘れる前にまとめられてよかったです。 機械学習において、python, numpyの理解は大事やな、と痛感しております。 Why not register and get more from Qiita?
Instagramビジネス養成講座 2021/8/5 スマートフォン・PC・IT情報 AI・機械学習・ニューラルネットワークといった言葉を目にする機会が多くなりましたが、実際にこれらがどのようなものなのかを理解するのは難しいもの。そこで、臨床心理士でありながらプログラム開発も行うYulia Gavrilova氏が、画像・動画認識で広く使われている畳み込みニューラルネットワーク(CNN)の仕組みについて、わかりやすく解説しています。 続きを読む… Source: GIGAZINE
?ミステリー 『SP【本能寺の変&龍馬暗殺!未解決の謎に迫る】』 2020年8月19日(水)19:00~21:00 フジテレビ 坂本龍馬が身を寄せる近江屋に、中岡慎太郎が訪れた。中岡慎太郎は薩長同盟成立に尽力した人物。史談会速記録で、事件後に中岡は敵の「死んだ死んだ」という声を聞いたという。なお、坂本龍馬暗殺の捜査は明治時代になっても続いた。その後、今井信郎が「自分たちが龍馬を殺した」と証言。霊山歴史館には坂本龍馬を斬ったとされる刀がある。徳川幕府が暗殺を指示したとされるが、考える日本史などの著者 本郷和人教授によると徳川幕府に坂本龍馬暗殺の動機がないという。 情報タイプ:書籍 ・ 世界の何だコレ! ?ミステリー 『SP【本能寺の変&龍馬暗殺!未解決の謎に迫る】』 2020年8月19日(水)19:00~21:00 フジテレビ ちくまプリマー新書 坂本龍馬が身を寄せる近江屋に、中岡慎太郎が訪れた。中岡慎太郎は薩長同盟成立に尽力した人物。史談会速記録で、事件後に中岡は敵の「死んだ死んだ」という声を聞いたという。なお、坂本龍馬暗殺の捜査は明治時代になっても続いた。その後、今井信郎が「自分たちが龍馬を殺した」と証言。霊山歴史館には坂本龍馬を斬ったとされる刀がある。徳川幕府が暗殺を指示したとされるが、考える日本史などの著者 本郷和人教授によると徳川幕府に坂本龍馬暗殺の動機がないという。 情報タイプ:書籍 ・ 世界の何だコレ! ?ミステリー 『SP【本能寺の変&龍馬暗殺!未解決の謎に迫る】』 2020年8月19日(水)19:00~21:00 フジテレビ 下関市立歴史博物館 (提供) 本能寺の変の謎に迫る 大山崎町歴史資料館 織田信長が比叡山焼き討ちを命じるが、明智光秀は作戦に最後まで反対するも、織田信長に従い、僧侶など数千人を討ったとされる。しかし、大津市歴史博物館にある書状によると、明智光秀は周到な準備を整えて比叡山焼き討ちをしたという。盛安寺の「明智光秀陣太鼓」は大津市歴史博物館に展示されている。明智光秀は焼き討ち後も、延暦寺の残党を徹底的に討ち取ろうとしていた。明智光秀は室町幕府再建のために、織田信長に忠誠を貫いた。 情報タイプ:施設 地域:滋賀県 URL: 電話:077-578-0001 住所:滋賀県大津市坂本本町4220 地図を表示 ・ 世界の何だコレ! 坂本冬美 ツイッター 猫. ?ミステリー 『SP【本能寺の変&龍馬暗殺!未解決の謎に迫る】』 2020年8月19日(水)19:00~21:00 フジテレビ 織田信長が比叡山焼き討ちを命じるが、明智光秀は作戦に最後まで反対するも、織田信長に従い、僧侶など数千人を討ったとされる。しかし、大津市歴史博物館にある書状によると、明智光秀は周到な準備を整えて比叡山焼き討ちをしたという。盛安寺の「明智光秀陣太鼓」は大津市歴史博物館に展示されている。明智光秀は焼き討ち後も、延暦寺の残党を徹底的に討ち取ろうとしていた。明智光秀は室町幕府再建のために、織田信長に忠誠を貫いた。 情報タイプ:施設 住所:滋賀県大津市1-17-1 地図を表示 ・ 世界の何だコレ!
)らしいけど 本人の希望で高杉晋作の横に墓を建ててほしいと遺言したんだってさ。 空気を読んでおうののために場所を空けてあげればよかったのに・・・・。 ちなみに福田公明は明治元年まで、おうのは明治42年まで生きました。 しっかし 高杉晋作の妻は心中穏やかではなかったやろうな! 【さるる史観満載の歴史ヒストリアはコチラ!】 幕末維新ゆかりの地 麒麟がくる ゆかりの地 黒田官兵衛ゆかりの地 真田丸ゆかりの地 武蔵坊弁慶ゆかりの地 功名が辻ゆかりの地 おんな城主直虎ゆかりの地 坂の上の雲ゆかりの地
鎌倉幕府の初代執権・北条時政の嫡男である 北条宗時 。2代目の執権が彼ではなく北条義時であることから、宗時のことは良く知らないという人も多いかもしれません。令和4年(2022)に放送予定のNHK大河ドラマ『鎌倉殿の13人』では、片岡愛之助さんが宗時を演じます。鎌倉時代に台頭した北条氏の一員でありながら史料にあまり記録が残っていない宗時ですが、一体どのような人物だったのでしょうか? 今回は、宗時の出自、平家との戦いでの奮闘、宗時にまつわる謎などについてご紹介します。 北条宗時の出自とは?
「戻るぜよ、あん世界へ」 知る人ぞ知る、平成21(2009)年に放送されたドラマ『JIN-仁-』第1話のシーンにて。勤務医の南方仁(大沢たかお)が、胎児様腫瘍の入った瓶と医療器具を持ち出して逃げる謎の包帯男と病院の階段の踊り場ですれ違い、その胎児様腫瘍の入った瓶をめぐって口論となった挙句、階段から転げ落ちていく南方の脳内に響いた有名なセリフだ。 この段階では包帯男が誰であるのか不明であったが、物語が展開されるなかで、包帯男は坂本龍馬(内野聖陽)であり、「戻るぜよ、あん世界へ」は龍馬が放った言葉ではないかと南方が推測しながら回想するシーンも。 さて近年、高知県や坂本龍馬が関連する広告のキャッチコピーにおいて必ずと言っていいほど目にする言葉がこの「ぜよ」である。 『龍馬(わし)の水ぜよ』 (高知県室戸の海洋深層水使用/赤穂化成株式会社) 「土佐から来たぜよ!坂本龍馬展」 (平成29[2017]年、ホテル雅叙園にて開催された美術展) このように、ドラマや広告などの影響から、「ぜよ」は高知県内で広く使われている高知方言(土佐弁)と思い込んでいる人は少なくないだろう。 ところが、実際は高知県内ではほとんど使われていないという。一方で、高知県出身でない一般の人々の間ではSNSなどで積極的に使われるという、大阪弁の「なんでやねん」と同様、ある意味で二極化が進んだ方言なのだ。 えぇ〜どういうこと? 歴史とともに振り返る「ぜよ」の歴史 「ぜよ」は元々高知発祥の言葉ではなかった 『JIN-仁-』では坂本龍馬が語尾に「ぜよ」を付けて喋っている。そして、そんな龍馬は高知県を代表する志士。ということで、私たちの脳裏には「ぜよ=高知方言(土佐弁)」という認識が定着している。しかしながら、高知方言を専門とする言語学者、高知大学の上野智子(うえのさとこ)教授によると、「ぜよ」は高知発祥の言葉ではない。 横浜方言の「じゃん」「横はいり」がそうであるように、方言がその土地発祥の言葉でないというのは、とりわけ珍しいケースではないのだが……。 「ぜよ」に関して言えば、高知県のみならず、高知県宿毛市に隣接した愛媛県南宇和郡でも話されていた。さらに半世紀以上も前まで遡るが、遠く離れた長野県更級郡大岡村(現在の長野県長野市大岡地区)での報告例もある。ちなみに、現在の高知県内では「ぜよ」はごく一部の年齢層に限定されるものの、男女共用の言葉である。 「ぜよ」をめぐっては「ぜ」と「よ」が組み合わさって生まれたという説がある。なお、現在の高知県内では「ぜよ」とは異なり、「ぜ」は老若男女を問わず幅広く使用されている。さらに、愛媛県でも使われている。 坂本龍馬誕生地-(公財)高知県観光コンベンション協会 で、「ぜよ」はどんな変化をしていったの?
"あの"坂本龍馬の妻として知られる人物なだけに、おりょうもまた型破りな性格の持ち主だったと記録されています。 困窮した生活の中、妹たちが遊女として売られることを知るや否や、刀を持って男二人相手に大立ち回りを演じた、龍馬と共に訪れた霧島山で、山頂に突き刺さった天の逆鉾(神様を封じているとされる神具)をイタズラで引き抜いたなど、「あぁ、龍馬の妻だわ」と感じるエピソードは、枚挙にいとまがありません。 その一方「頑固者」「夫の権威を笠に着ることが多かった」等のエピソードも伝わっているため、実際の彼女は創作の中で見えるような「肝の据わった賢い女性」ではなかった、と考えるのが妥当だと思われます。 しかし龍馬は、姉に宛てた手紙の中でおりょうのことを「まことにおもしろき女」と評しています。型破りな行動と、どこか垣間見える茶目っ気。そして接する人によって評価の分かれる人柄。 もしかすると二人は、たいそう似たもの夫婦だったのかもしれません。 おりょうと龍馬は日本初の新婚旅行に行った? 引用元: 竜馬街道 おりょうと龍馬のエピソードとしてよく言われる事柄ではありますが、これは「半分正しく、半分間違っている」と言える事柄です。 龍馬とおりょうが結婚後に温泉旅行に行ったのは本当ですが、その目的は龍馬が負った刀傷を癒すための湯治の旅であり、彼らは新婚旅行を目的として旅に出たわけではありません。 この旅行が"新婚旅行"と位置付けられたのは、明治期の学者・坂崎紫瀾が、龍馬を紹介した著作である『汗血千里駒』で「ホネー・ムーン(ハネムーン)」と結びつけてこの旅行のエピソードを紹介したことに由来します。 とはいえ、旅行中に一緒に登山をするなど、ただの湯治ではなく観光旅行の意味があったこともわかっているため、この旅行を「日本初の新婚旅行」と表現するのも、決して間違いではないかと思われます。 おりょうと海援隊の面々の関係は? 海援隊 坂本龍馬と言えば、やはり"海援隊"は切っても切れないトピックだろうと思います。龍馬が作り上げた一大組織である海援隊ですが、そのメンバーとおりょうの関係性はどうだったのでしょうか? 坂本龍馬の暗殺事件の黒幕についての質問です。私個人は、坂本龍馬... - Yahoo!知恵袋. これについては、率直に言うと「あまりいい関係性ではなかった」という説が圧倒的です。 海援隊のメンバーだった安岡金馬の子・安岡重雄はおりょうについて「海援隊の隊士からは嫌われていた」「龍馬の妻であることを笠に着て、隊士を見下す部分があった」と。 また、土佐藩士の佐々木高行はおりょうについて、「たいそうな美人だったが、賢い女性ではなく、善にも悪にもなる女だった」と評価する言葉を残しています。 実際、おりょうは龍馬の事業についてはほとんど理解しておらず、龍馬が成した偉業をおりょうが知ったのは、龍馬の死後に明治政府から説明を受けた時だったそうです。 おりょうと龍馬の姉・乙女との関係は?