ITと哲学と

IT系エンジニアによる技術と哲学のお話。

2018-10-01から1ヶ月間の記事一覧

Sequence models & Attention mechanism

CouseraのDeeplearningコースの最終回. 長かった. Various sequence to sequence architectures Basic Models センテンスの翻訳タスクを扱う基本的なモデルを図1に示す. このモデルはセンテンスtoセンテンスのタスクでよく使われる. EncoderとDecoderの…

Natural Language Processing & Word Embeddings

Introduction to Word Embeddings CouseraのDeepLearningのコースの学習メモ. 今回は言語処理のためのモデルについて. Word Representaion Word Embeddingの方法は色々ある. 前週ではOne-hotなベクトル表現をみてきた. One-hotな表現は,シンプルだが,…

Recurrent Neural Networks

CouseraのDeepLearningのコースの講義メモ. 今週からSequence Modelsということで時系列データを扱う. 文章なんかもSequence Modelで扱う. Why sequence models RNNなどの時系列データを扱うためのモデルについて勉強する. 音声認識や楽曲生成,感情分析…