top of page

生成AIの動作原理を
基礎から学ぶ

Transformer 講座

Transformer

【素材】講座動的ページ (10).png

Transformer 講座

自然言語処理や機械翻訳などのタスクで広く使用される深層学習モデルの一種である Transformer は、従来の RNN や CNN とは異なり、Transformerは注意機構 ( attention mechanism ) を中心に構築されています。

そのため、従来よりも高速で精度の高い自然言語処理が可能となりました。

本講座は、Transformer の歴史・基本原理から始まり、Transformerベースのモデルを活用することで、自然言語処理・画像処理・マルチモーダルタスクで優れた性能を発揮し、モデルの判断根拠も合わせて可視化する事ができます。

こんな方におすすめ

・Transformerの仕組みを基礎から学びたい方。

・生成AIの動作原理を基礎から知りたい方。

・AI技術のトレンドに追随したい方。

・Transformersなどの既存のライブラリを使わずに、Transformerの実装にトライしたい方。

・これから本格的に大規模言語モデル(LLM)を学びたい方。

【素材】講座動的ページ (11).png

​お申し込み・お打ち合わせご希望の方は、上記サイトよりご連絡ください。​​

ホワイト構造
​研修のゴール

・Transformerが登場するまでの歴史とその応用事例を学び、Transformerが解決した従来の問題と自然言語処理だけでなく、画像・音声・マルチモーダルへとスケールしている応用の幅と理由を理解します。

・Transformerの基本的な構造を理解し、機械翻訳タスクに実際に取り組むことで各コンポーネントの機能の深い理解と実装力を身につけます。

・BERTやViTなど、Transformerをベースとした代表的なモデルの構造を理解し、自然言語処理だけでなく、様々なタスクに取り組むと同時に、モデルの判断根拠も示せるようになります。

​活用事例​

機械翻訳を中心に、自然言語処理の多くのタスクで優れた性能を発揮します。

​講座概要​

カテゴリ

エンジニアリング力

講座名

Transformer

講座時間

1日6時間

備考備考

DL4US講座のオプションとしておすすめ


【素材】講座動的ページ (11).png

​お申し込み・お打ち合わせご希望の方は、上記サイトよりご連絡ください。​​

CURRICULUM

​Curriculum

- カリキュラム

  Step 01:Transformer 登場までの歴史と応用事例

詳細:Transformer登場までの歴史と、Transformer の応用事例について紹介します。Transformer以前はなにが問題だったのかを紹介し、Transformerが登場したことで、どのようにして様々な分野に変化をもたらしたのかを学びます。


 

  Step 02:Transformer 基本構造と機械翻訳タスク

詳細:Transformerの構造を説明し各コンポーネントの機能を理解してもらい、その後にTransformerを利用した機械翻訳タスクに取り組んでもらいます。最後にTransformerが自然言語だけでなく、画像、音声、マルチモーダルへとさまざまなドメインにスケールしている理由や、研究動向について紹介します。


 

  Step 03:BERTを用いた 固有表現抽出タスク

詳細:Transformer を応用した代表的なモデルである BERT の基本的な構造を理解してもらい、固有表現抽出(NER)タスクに取り組んでもらいます。


 

  Step 04:ViTを用いた 画像分類タスク

詳細:Transformerをコンピュータビジョン分野に応用した代表モデルの ViT(Vision Transformer) の基本的な構造を理解してもらい、スクラッチの実装に取り組んでもらいます。画像データに対するアプローチから、Transformer の汎用性を深く理解します。


 

  Step 05:BERT を用いた Attention の可視化

詳細:自然言語処理タスクにおける Attention メカニズムの動作を視覚的に理解します。モデルの内部動作を可視化し、より深い理解を目指します。


 

  Step 06:画像キャプショニングとAttentionの可視化

詳細:コンピュータビジョンと自然言語処理の融合分野である Vision and Language を取り上げ、この分野への Transformer の応用について取り上げます。06_attention_viz_text.ipynb で学んだ Attention の可視化も併せて実装することで、画像と自然言語のつながりをモデルがどのように解釈しているのか理解します。


process

​Process

- 講座開催までのお申し込み手順

【LP素材】マスクドさん.png
​STEP 01打ち合わせの日程調整
【お打ち合わせカレンダー】よりご希望の日時を選択し、必要事項をご記入の上、日程調整を完了してください。
​お打ち合わせはオンライン(Google Meet)で行います。
​STEP 02お打ち合わせ・ヒアリング
お打ち合わせで貴社のニーズのヒアリングをさせて頂き、実課題解決に最適なカリキュラムをご提案致します。
また、開講する期間等、講座に関するご質問への対応をいたします。
​STEP 03​​講座開催
契約完了となり、講座を開催します!
※本講座はオンラインでもオフライン(対面)でも受講可能です。
【素材】講座動的ページ (11).png

​お申し込み・お打ち合わせご希望の方は、上記サイトよりご連絡ください。​​

FEATURES

​Features

- 講座の特徴

point 1:同期型オンデマンド講座

機械学習メンターが受講生と講座を同期しながらリアルタイムで講座をサポートしております。

受講生の課題に対して専門家のフィードバックをオンタイムで受けれる他、課題に対するアプローチを理解する事で能動的なアウトプットを促し学習効果を最大化します。

point 2:機械学習メンター制度

企業との共同研究開発にも従事する「機械学習メンター」

リアルタイムでの質疑応答はもちろん、各回のクイズ課題、アドバンスクイズ課題、エラー解決課題、コンペティション形式の宿題・採点、スコア情報、課題上位者の解法共有とメンターからのフィードバック等、受講生のフォローを最大限ご提供いたします。

point 3:完全受講生ファーストの講座運営
  1. iLect System の提供で学習環境の構築が不要
    ( ブラウザのみで利用可能な学習・AI 開発環境 高性能GPU )

  2. オンラインディスカッションボード ( Slack ) の提供、運営

  3. 講座終了後の受講者毎の採点結果とアセスメントのレポート

AI分野第一線の講師陣
  • AI研究の第一線で活躍する現役研究者・エンジニアKaggle Grandmasterが講師を担当

  • Kaggle Grandmasterや、東京大学などでAI講座を担当した経験豊かな最高峰レベルの講師陣

  • 実務経験に基づく実践的・具体的な内容を説明

【素材】講座動的ページ (11).png

​お申し込み・お打ち合わせご希望の方は、上記サイトよりご連絡ください。​​

review

customer review

- 受講者インタビュー

​AI 人材育成講座
大手実績多数