Lecture 1: Introduction of Deep Learning

Course Introduction

Machine Learning = Looking for Function

函数的输入输出的数据类型多种多样

机器学习的各类方法：

• 监督学习（Supervised Learning）：训练数据中带有label（标准答案）

• 自监督学习（Self-supervised Learning）：通过pre-train让机器掌握基本的通用知识与目的，然后再通过微调实现下游任务

  

• 生成对抗网络（Generative Adversarial Network）：训练数据不需要进行配对

  

  如：无监督抽象摘要（document↔summary）、无监督翻译（language 1↔language 2）、无监督语音识别（audio↔text）

• 强化学习（Reinforcement Learning）：难以对数据进行label的任务，但是可以对结果的好坏进行评估（如：下围棋）

进阶课题：

• 异常检测（Anomaly Detection）
• 可解释的AI（Explainable AI）
• 模型攻击（Model Attack）
• 域适应（Domain Adaptation）
• 网络压缩（Network Compression）
• Life-long Learning
• 元学习（Meta Learning）——学习如何学习