Search Input

深層学習による自然言語処理の理論と実践

リサーチサイエンティスト 三田雅人




講座詳細




リサーチサイエンティスト,三田雅人_미타 Details

講座紹介

トレーラー
リサーチサイエンティスト
三田雅人


「ミニマル」かつ見通しよく学ぶ
深層学習による自然言語処理の
基礎理論から発展まで

Coloso 三田雅人 深層学習による自然言語処理の理論と実践

近年、AI活用の幅が広がっていく中
2022年末に公開された
チャットAI「ChatGPT」により
大規模言語モデル(LLM)が広く認知され
それに伴い、自然言語処理への需要も
さらに高まることが予想されます。

そこで、今回の講座では
研究者かつ指導者である
リサーチサイエンティストの三田雅人が
現場視点と指導者目線の両方から
深層学習による自然言語処理の
基礎理論から発展までをお教えします。

本講座は、初心者でも挑戦できるよう
深層学習による自然言語処理分野の
多くのトピックの中でも
最低限押さえておくべきポイント に絞った
カリキュラム構成です。
また、理論パートと実践パートを
バランスよく配置することで
自然言語処理への「理解」から
「習得」までをシームレスに実現します。

まず、データの前処理から始まり
モデル開発や評価の方法論まで
機械学習のパイプラインを理解します。
そのうえで自然言語処理分野における
代表的なタスクを
Huggingface TransformersやPytorchなど
標準的なライブラリや
ツールを利用しながら実装し
自然言語処理モデルおよびアプリケーションの開発
パイプラインを身に付けていきます。

それだけでなく
動画という媒体の特性を生かし
複雑な数式ではなく
視覚情報を多く用いることで
自然言語処理への直感的な理解を目指します。

解きたい課題から出発し
重要な概念や要素技術を学ぶ
深層学習による自然言語処理の
「トップダウン型」カリキュラムを
Colosoで体験してください!

講座のおすすめ
こんな方におすすめです

 Coloso 三田雅人 深層学習による自然言語処理の理論と実践

AI関連サービスを扱う
エンジニアやプロダクトマネージャー

Coloso 三田雅人 深層学習による自然言語処理の理論と実践

生成系AIの目覚ましい進歩をきっかけに自然言語処理に興味を持ち、どのような仕組みで実現しているのか興味がある方

Coloso 三田雅人 深層学習による自然言語処理の理論と実践

これまで書籍等で深層学習による自然言語処理を学んだことはあるが、いまいち理解できなかった、または途中で挫折してしまった方

Coloso 講座特徴1
講座情報

本数:18本の映像
難易度:初級
無期限視聴

Coloso 講座特徴2
使用プログラム

Python

※Google Colaboratory上でノートブックを共有するため端末へのインストールは不要です。
※詳細はページ内下段の使用プログラムについての案内をご確認ください。

Coloso 講座特徴3
動画情報

オンラインVOD
オーディオ:日本語

Coloso 講座特徴4
講座特典

講義内容のPDF
Jupyter Notebookを通した演習問題集
リファレンス資料

研究者かつ指導者として
自然言語処理の最前線で活躍する
三田雅人のポートフォリオ

Coloso 三田雅人 ポートフォリオ

論文名:Towards Automated Document Revision: Grammatical Error Correction, Fluency Edits, and Beyond(主著論文)
説明:提案手法の概要図

Coloso 三田雅人 ポートフォリオ

論文名:Do Grammatical Error Correction Models Realize
Grammatical Generalization?(主著論文)
説明:提案手法の概要図

自然言語処理に関する
直感的な理解と実践的スキルを
例題を通して身に付けます

Coloso 三田雅人 講座例題
単語のベクトル表現

実習を通して身に付けられる内容
- 単語ベクトル表現の概要とその重要性
- 単語ベクトル表現の学習方法
- 単語ベクトルの可視化

Coloso 三田雅人 講座例題
系列変換モデルを用いた機械翻訳

実習を通して身に付けられる内容
- Encoder-Decoderを用いた機械翻訳
- Attentionとモデルの解釈性

Coloso 三田雅人 講座例題
高度な言語評価

実習を通して身に付けられる内容
- リーダーボード型評価の限界
- Multi-dimensional evaluation
- 解釈性のある評価

Coloso 三田雅人 講座例題
Grammar Checkerアプリケーションの開発

実習を通して身に付けられる内容
- 文法誤り訂正の概要と基礎
- Hugging face transformersを用いた効率的なモデル構築
- Streamlitを用いた簡単Webアプリケーション開発

講師紹介

三田雅人
リサーチサイエンティスト


はじめまして。
リサーチサイエンティストの三田雅人です。

私は現在、民間企業で
自然言語処理の基礎研究および
その社会実装に携わっている傍ら
大学職員として学生の研究指導を行うなど
企業・アカデミアの垣根なく
日々自然言語処理と向き合っています。

そんな私だからこそ、自然言語処理の
入門講座を開講する機会があると
聞いたときは二の足を踏みました。
なぜなら、すでに世の中には素晴らしい
自然言語処理の入門教材が
数多く存在するからです。

一つ良いニュースだったのは、
みなさんもご存知のChatGPTの登場でした。
2022年末に公開されたChatGPTは、
研究者・開発者を飛び越えて
瞬く間に世間一般に広く認知されるようになり
結果として自然言語処理を
これから学ぼうとされる方々の
ニーズをこれまでよりさらに多様にさせたと
考えることができるからです。

この講座では、深層学習による
自然言語処理の基礎から発展における
「核」となる概念や考え方について
見通しよく学ぶことができます。
また、動画媒体ならではの特性を最大限活かし
直感的な「理解」から
実践的なスキルの「習得」までを
シームレスに実現するための工夫を
随所に入れています。

この講座を通して
みなさんそれぞれが抱える課題に対して
一歩前進するための一助に
なることができればと願っています。

背景イメージ
三田雅人
Coloso 三田雅人

現)株式会社サイバーエージェント リサーチサイエンティスト
現)東京都立大学 システムデザイン学部 特任助教
現)理化学研究所 革新知能統合研究センター 客員研究員
前)東北大学大学院 情報科学研究科 研究員
前)理化学研究所 革新知能統合研究センター テクニカルスタッフ
前)日本マイクロソフト株式会社 エンジニア


【学歴】
2021年 東北大学大学院 情報科学研究科 博士後期課程修了
2016年 奈良先端科学技術大学院大学 情報科学研究科 博士前期課程修了
2014年 県立広島大学 経営情報学部 経営情報学科卒業

【実績・活動】
- 自然言語処理のトップカンファレンスに論文多数採択(例:ACL、EMNLP、NAACLなど)
- 文法誤り訂正に関する国際コンペティションにて世界2位を達成
- 自然言語処理を用いた社会実装経験(例:記述式AI採点問題集の開発)
- 解説文生成に関する国際コンペティション オーガナイザー
- 招待講演・イベント登壇多数
- 情報処理学会 自然言語処理研究会 運営委員
- 科研プロジェクト「深層学習による言語生成の評価データセットの構築と品質推定」 共同研究者

【受賞】
- 2023年3月 言語処理学会 第29回年次大会 委員特別賞
- 2022年3月 言語処理学会 第28回年次大会 優秀賞
- 2020年3月 言語処理学会 第26回年次大会 若手奨励賞
- 2020年3月 言語処理学会 第26回年次大会 優秀賞
- 2019年8月 NLP若手の会 第14回シンポジウム 奨励賞
- 2019年8月 NLP若手の会 第14回シンポジウム 萌芽研究賞

Twitter
講座のポイント

この講座のポイント

深層学習による自然言語処理の基礎から発展までを「ミニマル」に習得

自然言語処理は深層学習以降に限定したとしても、非常に多くのトピックがあり、自然言語処理をこれから始めようという方にとって、いきなり全てを網羅しようとすると、途中で挫折してしまう原因となります。そのため本講座では、企業およびアカデミアでの経験をもつ三田雅人が、これまでの経験をもとに、入門者が最低限押さえておくべき項目にあえて絞ることで、深層学習による自然言語処理の基礎から発展における「核」となる重要なトピックについて入門者が途中で挫折することなく学ぶことができるように設計されています。

Coloso 三田雅人 講座のポイント

見通しのよい理解につながる
「トップダウン型」カリキュラム

一般的な自然言語処理の入門書に多い「ボトムアップ型」のカリキュラムは、各講義の守備範囲がわかりやすく、知識の積み上げには向いている一方で、「これらの要素技術がどのように役に立つのか」といった全体の繋がりがわかりにくく、見通しが悪くなりやすいという欠点があります。そのため本講座では、解きたい課題から出発し、その過程で必要になる要素技術を学ぶという「トップダウン型」のカリキュラムで、見通しのよい理解を目指します。

Coloso 三田雅人 講座のポイント

理論と実践の二部構成により
「理解」から「習得」をシームレスに実現

現実の課題解決に自然言語処理を使う場合、「知識として知っている」だけでは不十分であり、「仕組みはよくわからないけどただ動かせる」という状態も、異なるケースでの応用が効きにくいため不十分であると言えます。そのため、本講座では各講義を理論パートと実践パートの二部構成にし、また動画媒体の特性を活かして視覚情報を豊富に用いることで、直感的な「理解」から応用力向上に向けた「習得」までをシームレスに実現させます。

Coloso 三田雅人 講座のポイント

講座内容
下記のような内容を
学べます。

Coloso 三田雅人 講座内容
自然言語処理モデルの
開発パイプラインの理解

データの前処理やモデル開発およびその評価、そして簡単なWebアプリケーションへのデプロイなど、自然言語処理モデルの開発における一連のパイプラインへの理解を深めます。

Coloso 三田雅人 講座内容
最先端研究の動向を
キャッチするための土台作り

本講座は、深層学習による自然言語処理の基礎から、ChatGPTの根幹技術などの最先端研究の動向までをカバーしているため、自然言語処理研究がこれまでどのように発展してきたかなど、研究全体の潮流を概観でき、また一次情報である学術論文から今後の技術動向をキャッチするための土台作りをすることができます。

Coloso 三田雅人 講座内容
自然言語処理の評価に関する
方法論と実践的なノウハウ

実践的な自然言語処理アプリケーション開発において、モデルの構築と同等あるいはそれ以上に重要なのが「いかにそのモデルの良し悪しを評価するか」といった評価の方法論です。最適な評価設計は、常に評価の目的や前提条件に依存するため、研究レイヤで行われているような枠組みを何も考えずそのまま適用するだけでは、不十分または不適切であることも少なくありません。そのため、本講座では「自然言語処理の評価」にも焦点を当て、実践的なノウハウと合わせて評価における重要な考え方や様々な方法論をお伝えします。

Coloso 三田雅人 講座内容
自然言語処理の標準的な
ライブラリやツールを習得

豊富な演習課題を通して、Huggingface TransformersやPytorch、Gensim、NLTKなど、自然言語処理の標準的なライブラリやツールの使い方を学びます。そのため、本講座を全て受講した後には、代表的な課題についてはそれらの標準ライブラリやツールを最低限道具として使えるようなスキルを身に付けている状態が期待できます。


(자동 구성) 가격이 인상됩니다.

지금이 최저가!
カリキュラム

カリキュラム
カリキュラム内容の
ご紹介

インタビュー
リサーチサイエンティスト
三田雅人が
お話したいこと

背景イメージ
Question.01
今回の講座の内容と、
主なポイントは何ですか?


深層学習による自然言語処理に関して、基礎から発展までを初学者が最低限学ぶべきトピックに絞って重点的に学ぶことができます。また、「現場ですぐに活かせる!」を目標に掲げ、直感的な理解と実践的スキルの習得を促すための工夫が、カリキュラム全体を通して散りばめられています。具体的には、重要な概念および要素技術をトップダウンに学ぶことで、見通しのよい理解を目指し、また、各講義では理論と実践がバランス良く配置されているため、理解から習得をシームレスに促します。さらに、現役リサーチサイエンティストならではの実践的なノウハウもお教えします。

Question.02
該当の分野を勉強している方が一番難しく感じている点と、この講座を通してその点をどの様に解決できるでしょうか?


様々なレイヤでの難しさが考えられますが、「途中で挫折することなく最後まで受講する」ということが一つのハードルだと考えています。その要因は、「複雑な数式や抽象的な話が続いて理解できなかった」、「無機質な内容でモチベーションが続かなかった」など、人によって様々だと思います。

そのため本講座では、動画という媒体の特性や強みを最大限に生かして、具体例や視覚情報を用いた直感的な説明を心がけたり、実践的で魅力的な課題を多く取り入れるなどの工夫をすることで解決を図りました。また、講座全体を通して、なるべくライブ感を大切に、ときには現役リサーチサイエンティストならではのTipsや余談なども差し込みながら、できるだけ受講生のみなさんに楽しんで学んでいただけるような講座作りを意識しました。

Question.03
今後の該当業界の市場性や展望について、また、その点をふまえて講師さまがお考えになる、本講座を学ぶべき理由についてお教えください。


ChatGPTを始めとした大規模言語モデルが世間に広く認知されたことにより、世間一般の自然言語処理に対する期待が高まり、今後さまざまな業界で自然言語処理技術を用いたサービスが出てくると思います。また、それに伴い、自然言語処理の開発者やプロダクトマネージャーなどの需要も高まることでしょう。本講座は、理論や仕組みの理解だけでなく、数多くの実践的な演習を通した習得を目指しているため、自然言語処理プレイヤーになるための第一歩として、最良の選択肢の一つだと思います。

Question.04
受講後に到達できる
目標について教えてください。


本講座の受講後に、期待される状態の具体例は以下になります。

- 深層学習による自然言語処理の概観がわかり、分野全体の見通しがよくなる
- 代表的なタスクを代表的なツールを用いて実装できるようになる
- 自然言語処理モデルおよびアプリケーションの開発パイプラインがわかる
- ChatGPTの技術的な肝が理解できるようになる

Question.05
受講生に向けて
メッセージをお願いいたします。


本講座の受講生には、就職や転職のためにモチベーション高く学ぼうとされている方もいれば、昨今のAIブームのあおりで、突如仕事で自然言語処理を学ぶ必要性が出てきたため、半ば仕方なく学び始めようとしている方も、中にはいるかもしれません。いずれにせよ、どうせ学ぶのであれば、やはり「楽しむ」ことが一番だと思います。幸いなことに、自然言語処理は、言語という我々の身近なものを題材として扱っているため、イメージがしやすく、受講生ご自身のこれまでの経験に基づいた直観が効くことも少なくないと思うので、そのあたりを楽しんでもらいたいです。

使用プログラムについて
ご案内します。

当講座は、以下のツールを使用します。

[メインツール]
Python
※Google Colab上でノートブックを共有するため端末へのインストールは不要です。

Python

【受講前にご確認ください】
・本講座では、高校数学、特に線形代数・微分積分・確率統計をある程度理解していることを前提としています。
・各演習でPythonを使用するため、Pythonに関する最低限の知識があると、よりスムーズに受講ができます。

おすすめの講座

おすすめの講座
この講座を見た方は
こちらもチェック!

ご注意事項

*本ページ上の情報は弊社の都合により事前の告知なく変更、終了することがございます。予めご了承ください。
*講座の返金規定はColosoの返金ポリシーに準じます。▶ 返金ポリシーはこちら
* 受講、例題使用範囲などの知的財産権、機器台数制限に関する情報はFAQ 欄でご確認ください。