モデルの学習をしていて、TrainingLossよりValidationLossが小さくなることが稀に良くある。 これをどう説明解釈すれば良いか？という点についてちょっと悩んだ際に見つけたAurélien Geron氏のツイートをメモっておく。 はじめに 最近の実務の中でよく感じて…
なぜ「やる気」は長続きしないのか―心理学が教える感情と成功の意外な関係作者:デイヴィッド・デステノ発売日: 2020/02/14メディア: 単行本 読んだきっかけ 物事を継続して続けて、成功するってことにはもちろん興味があって、何度もトライはしているけどな…
佐藤優さんの読書の技法を読んで、読書術について学んだので実践している。 読書の技法作者:佐藤 優発売日: 2013/05/02メディア: Kindle版 また、同時に最強の読み方についても読んだ。 僕らが毎日やっている最強の読み方―新聞・雑誌・ネット・書籍から「知…
技術書展が中止になり、オンラインで開催された技術書応援展で購入して積んでいた「ドメイン駆動設計 モデリング/実装ガイド」を読了した。 booth.pm 読む前に期待していたこと 元々数年前に、DDDを導入したプロジェクトに参画していたことがあり、その際に…
モブプロやったことないので、流行りに乗って体験しようとしたら、想像以上に辛かったというお話です。 TL;DR; 目の前のプログラムで解くべき問題に全く集中できなかった辛い。 モブプロとブレストは似て非なるもの。マインドを変えないとできないかも。 よ…
地域課題解決を目的としたオープンデータの利活用を目的として、自治体が企画するコンテストであるアーバンデータチャレンジ2019への応募を目指したイベントである、アーバンデータチャレンジ京都に参加してきた。 2019/11/9に1日かかりでアイディアソンを実…
最近個人プロジェクトの進捗があまり出せていない。 モチベーションが若干下がってしまっている気がする。 ので、目標達成とかそういう系統の本をまとめて3冊ほど読んでみた。 テーマを固めて一気読みするのはかなり良いかもしれない。 読んだのはこちら。 …
自分の小さな箱から脱出する方法を読んだ。 自分の小さな「箱」から脱出する方法作者: アービンジャーインスティチュート,金森重樹,冨永星出版社/メーカー: 大和書房発売日: 2006/10/19メディア: 単行本（ソフトカバー）購入: 156人 クリック: 3,495回この商…
冬休みを活用して「なぜ人と組織は変われれないのか」を読んだ。 免疫マップについて解説している本として有名(?)な本。 年末年始は扁桃炎で瀕死で実家に帰れなかったので、自宅にて冬休みの3日間をかけて読みました。 一言で 目標達成できないことを、意志…
CouseraのDeeplearningコースの最終回． 長かった． Various sequence to sequence architectures Basic Models センテンスの翻訳タスクを扱う基本的なモデルを図1に示す． このモデルはセンテンスtoセンテンスのタスクでよく使われる． EncoderとDecoderの…
Introduction to Word Embeddings CouseraのDeepLearningのコースの学習メモ． 今回は言語処理のためのモデルについて． Word Representaion Word Embeddingの方法は色々ある． 前週ではOne-hotなベクトル表現をみてきた． One-hotな表現は，シンプルだが，…
CouseraのDeepLearningのコースの講義メモ． 今週からSequence Modelsということで時系列データを扱う． 文章なんかもSequence Modelで扱う． Why sequence models RNNなどの時系列データを扱うためのモデルについて勉強する． 音声認識や楽曲生成，感情分析…
CouseraのDeepLearningのコース受講メモ． CNNのコースの最後 Face Recognition What is face recognition? face recognitionとして扱う問題は大きく分けて2つあり，顔認証と顔認識である． 顔認証はカメラで撮った顔画像とIDを元に，提示されたIDの所有者が…
CouseraのDeepLearningのコースの学習メモ． CNNの第3週目． https://www.coursera.org/learn/convolutional-neural-networks/home/week/3 Object Localization これまでは画像認識のタスクにチャレンジしてきた． 今週はlocalizationとdetectionのタスクに…
CouseraのDeeplearningのコースの学習メモ． Case studies 今週はケーススタディを見て行く． Why look at case stduies? ネットワークを構築する上で，ほかの誰かが作ったネットワークのアイディアを知ることはとても有益だし，そのまま活用することもでき…
Osaka Mix Leap Study 特別編 - CTO Night KANSAIに参加させていただいた． 【増枠】Osaka Mix Leap Study 特別編 - CTO Night KANSAI - connpass うちにはCTOという役職はないが聞いたことはあるなー程度の知識であり，CTOという役割自体にはあまり興味がな…
CouseraのDeepLearningのコースを受けている際の講義メモ． https://www.coursera.org/learn/convolutional-neural-networks/home/week/1 今週はConvolutional Neural Networksということで画像の処理なんかによく使われるCNNのお話． Coumputer Vision コン…
文章を数学的に扱いやすい形に変える方法の一つであるSCDVについて学んだ。 SCDVとは ドキュメントを数学的に扱うことのできるような形に変換する方法のひとつで、Sparse Composite Document Vectorのこと。 他の方法に比べて変換後の形が小さくて扱いやすか…
CouseraのDeepLearningのコースの受講メモ． 機械学習プロジェクトを進めて行くための戦略についてpart2． Error Analysis エラーを手動で分析してより良いモデルに育てて行くための知見をえる． Carring out error analysis モデルの能力が，人の能力に届か…
この週と次の週では機械学習プロジェクトを進めていくための戦略について説明する． Why ML Strategy MLプロジェクトを進めていくための戦略がなせ必要なのか？ モデルの精度が例えば90%であるとした時，それをさらに改善するためにどんなことをしたらより改…
CouseraのDeepLearningのコース2つめ最終週． 学習メモです． Hyperparameter tuning Tuning process これまで見てきたように，チューニングするべきhyperparameterはいっぱいある． これをうまくチューニングするためのガイドラインを説明する． チューニン…
CouseraのDeepLearningコースの学習メモ続きです． Mini-batch gradient descent MachineLearningのプロジェクトは反復的にモデルを育てていくような進め方になるので，早く学習を進めることができる仕組みはとても大切になる． これまで見てきた最急勾配法…
CorseraのDeepLearningのコースの学習メモです． 今回はニューラルネットワークを効率的に学習させるための知識を学ぶ． Train/Dev/Test sets ニューラルネットワークには様々なHyperParameterが存在する． 実際に各パラメータを試さずして，最適なものを見…
CouseraのDeepLearningのコース． コース1の最終週分です． Deep L-layer neural network 2層や3層の浅いモデルでは，性能的に限界があるので，より高い性能を求めて深いニューラルネットワークが活用されるようになった． 浅いニューラルネットワークでは使…
CouseraのDeep Learningコースの第1コースの3週目 Neural Networks Overview ニューラルネットワークの大枠の説明． 以降の章で話されることが端的に出てくる． Neural Network Representation 前回学んだロジスティック回帰のノードを複数結合させたような…
CouseraのDeep Learningのコースのお勉強メモpart2 Binary Classification ニューラルネットワークの説明の前に，先ずは簡単な導入としてLogistic回帰を説明する． ロジスティック回帰とは，Yes/Noを予測するアルゴリズム． 例えば写真に猫が写っているとい…
CouseraのDeep Learningのコースを以前受けていたが，最近忙しさにかまけて結構放置してしまっていた．．． 反省の意を込めて，最初から受け直して見ることにしたのでメモを公開してみようと思う． 最後まで通して受け直す気力が持つといいなー Welcome コー…
「事業を創る人」の大研究を読んだ． タイトルの通り「人」に着目した新規事業立ち上げに関する本で，独自研究で得られた沢山のデータをもとに考察を進めていくというスタイルの本でとても参考になったので要点をまとめてみようと思う． 本書との出会い 本屋…
「○○がない」という言葉を聞くたびに、最近思うことがある。 「○○がない」って、一見問題提起っぽく見えるけど、その実はただの事実を述べてるにすぎない。 これをどうやったら解決すべき問題や、より良くするためのアクションを誘発する問いにできるか？を…
前回記事の続き。 ハッカソンを行う上で「何を作るか？」の決め方について。 結論から言うと、メンバーに任せっきりで特段問題はなかった。 ハッカソンプレ実施で得た学び 前回記事のアイディアソンのフレームワークを運営メンバーだけで実施し、短縮版のハ…
