CS224n「Lecture1 Intro to NLP and Deep Learning」

Lecture 1 | Natural Language Processing with Deep Learning

• CS224nのvideoが公開されたのでこちらにする。

自然言語処理とは？

自然言語のレベル

• 音声 → 音素
• 文書 → token化
• 構文解析 → 意味解析

自然言語の特徴

1. 離散
   • 脳内では連続的な信号である
2. シンボリック
   • 音、ジェスチャー、画像などエンコードが違っても伝える内容は一緒。
3. 分類的

DL

DLと他の機械学習の違い

• 自動で適切な特徴量を取得する

なぜDLをつかうの？

• 特徴量を設計しなくて良い
• ユニバーサル
• 現在進行系で改善されている

なぜ成功したの？

• Large amounts of training data
• GPU
• 新しいモデル、アルゴリズム、アイデア

なぜNLPは難しいの？

• 複雑
• プログラミングと違ってあいまい
• コンテキストによって意味が異なる

Deep NLP

• Deep LearningとNLPをくみあわせたもの
• 以下で大きな成果を出した
  1. レベル：speech, words, syntax, semantics
  2. ツール：speech, entities, parsing
  3. アプリ：機械翻訳、意味解析、会話エージェント、QAシステム

リンク

• material
• video
• 講義まとめ：自然言語処理のための深層学習（CS224d） - Qiita