人工智能课题 深度学习核心技术:卷积神经网络算法及其在人工智能领域的应用研究【大学组】
分类:留学指南2021-08-21
一。项目背景
卷积神经网络CNN是一种多层的监督学习神经网络,隐含层的卷积层和池采样层是实现卷积神经网络特征提取功能的核心模块。该网络模型通过采用梯度下降法最小化损失函数对网络中的权重参数逐层反向调节,通过频繁的迭代训练提高网络的精度。卷积神经网络的低隐层是由卷积层和最大池采样层交替组成,高层是全连接层对应传统多层感知器的隐含层和逻辑回归分类器。其本质是一个多层感知机,成功的原因在于其所采用的局部连接和权值共享的方式:一方面减少了权值的数量使得网络易于优化,另一方面降低了模型的复杂度,也就是减小了过拟合的风险。上述优点使得该技术在计算机视觉、自然语言处理、推荐系统等人工智能领域受广泛使用,项目也将围绕着CNN这一前沿技术展开。
项目将首先回顾包含分类与回归的传统机器学习算法及初步神经网络,而后教授将会介绍用于优化神经网络的数学原理及代码技术。在确保学生具备扎实的理论及编程基础后,项目将进入到关于卷积神经网络原理、架构、优化及应用的核心阶段,学生将根据自身兴趣选择个性化研究课题进行深入研究,在项目结束时提交项目报告,进行成果展示。
In this course, you will be taken from basic topics of artificial neural networks to advanced topics such as convolutions. We will review important introductory concepts such as feedforward networks, gradient descent etc and then dive into convolutional neural networks.
个性化研究课题参考 Suggested Research Fields:
算法优化:图卷积神经网络 Graph Neural Networks
计算机视觉应用:DGD卷积神经网络行人重识别 Person re-identification on DGD convolutional neural networks
自然语言处理应用:基于自联想记忆与卷积神经网络的跨语言情感分类 Auto-associative convolutional neural network based multi-language sentiment classification
推荐系统应用:基于标签卷积神经网络的推荐算法 Personalised recommender system with tagged convolutional neural network
哈佛大学(Harvard University)始建于1636年,是一所享誉世界的私立研究型大学,也是常春藤盟校成员。哈佛大学在学术界享有崇高的地位,并且在世界范围内具有广泛的社会影响力。哈佛大学孕育了8位美国总统,158位诺贝尔奖获得者(世界第一)和18位菲尔兹奖得主(世界第一),在2019/2020年U.S.News世界大学排名中位列第一,2018年QS世界大学计算机科学以及电子工程专业排名位列第六。
Pavlos导师现任哈佛大学应用计算科学研究所(IACS)项目主任,负责把控计算机科学、工程与数据科学专业的研究生培养方案与课程体系,教授数据科学核心课程。曾担任国家可扩展集群项目(NSCP)的副主任,这是在网格模型上进行大规模分布式计算的最初尝试之一。同时,在哈佛 - 史密松天体物理中心担任过研究员,并担任由哈佛大学创新计算项目启动的“时间序列中心”的子项目的高级科学家、项目负责人。
经典机器学习算法回顾及神经网络初步 Introduction to Neural Networks, Review of Classification and Regression, and Simple Feed-Forward (FF) Network Neural, Network Architecture, Design Choices
梯度下降算法 Gradient Descent Algorithm
基于反向传播的自动微分算法 Automatic Differentiation using Backpropagation
神经网络优化技术 Neural Network Optimizers
神经网络正则化在防过拟合中的应用 Regularization for Neural Networks
卷积神经网络基本概念和体系结构 Convolutional Neural Networks: Basic Concepts, Padding, Pooling, and CNN Architecture.
感知野与通过池化层的反向传播 Receptive Fields, Backprop through max-pooling
显著图与神经网络最新技术展望 Saliency Maps State Of The Art network
项目回顾与成果展示 Program Review and Final Presentation
论文辅导与投递 Project Deliverables Tutoring
