深度学习的现状和趋势

论坛

活动

新成员

专题

打开CSDN应用程序。

搜索博客帖子/帖子/用户

喜欢打酱油的老鸟。

密切注意

深度学习技术的发展趋势分析

2019-04-09 08:37:11

1喜欢

喜欢打酱油的老鸟。

代码年龄2岁

密切注意

/s/fthikinev 483 HIE 053 rpkg

目前，人工智能的发展已经被深度学习技术的突破所充分关注和推动。世界各国政府都很重视，资本热潮还在加码。各行各业也达成了* * *认识，认为它已经成为发展热点。本文旨在分析深度学习技术的现状，判断深度学习的发展趋势，并根据我国的技术水平提出发展建议。

一、深度学习技术的现状

深度学习是这一轮人工智能大爆发的关键技术。人工智能技术在计算机视觉和自然语言处理方面的突破，迎来了人工智能新一轮的爆发式发展。而深度学习是实现这些突破的关键技术。其中，基于深度卷积网络的图像分类技术已经超过人眼的准确率，基于深度神经网络的语音识别技术已经达到95%的准确率，基于深度神经网络的机器翻译技术已经接近人类的平均翻译水平。准确率的大幅提升，使得计算机视觉和自然语言处理进入产业化阶段，带来了新兴产业的崛起。

深度学习是大数据时代的算法武器，近年来成为研究热点。与传统的机器学习算法相比，深度学习技术有两个优势。第一，深度学习技术可以随着数据规模的增大不断提升性能，而传统的机器学习算法很难利用海量数据不断提升性能。第二，深度学习技术可以直接从数据中提取特征，减少了为每个问题设计特征提取器的工作，而传统的机器学习算法需要人工提取特征。因此，深度学习已经成为大数据时代的热门技术，学术界和工业界都对深度学习进行了大量的研究和实践工作。

深度学习的各种模型全面赋能基础应用。卷积神经网络和循环神经网络是两种广泛使用的深度神经网络模型。计算机视觉和自然语言处理是人工智能的两个基本应用。卷积神经网络广泛应用于计算机视觉领域，在图像分类、目标检测、语义分割等任务中的性能大大超过传统方法。循环神经网络适合于解决与序列信息相关的问题，在自然语言处理领域得到了广泛的应用，如语音识别、机器翻译、对话系统等。

二、深度学习的发展趋势

深度神经网络呈现出层次越来越深、结构越来越复杂的发展趋势。为了不断提高深度神经网络的性能，业界从网络深度和网络结构两个方面不断探索。神经网络的层数已经扩展到数百层甚至数千层。随着网络层数的加深，其学习效果越来越好。2015年，微软提出的ResNet以152层的网络深度，首次超过了图像分类任务的精度。新的网络设计结构不断被提出，使得神经网络的结构越来越复杂。比如2014，Google提出了初始网络结构，2015，微软提出了剩余网络结构，2016，黄高等人提出了密集连接网络结构。这些网络结构设计不断提高了深度神经网络的性能。

深度神经网络节点的功能不断丰富。为了克服当前神经网络的局限性，业界探索并提出了一种新型的神经网络节点，使得神经网络的功能越来越丰富。2017，杰弗里？Hinton提出了胶囊网络的概念，用胶囊作为网络节点，理论上更接近人脑的行为，以克服卷积神经网络的局限性，如缺乏空间分层和推理能力。2018年，来自DeepMind、Google Brain和MIT的学者共同提出了图网络的概念，定义了一类新的具有关系归纳偏向功能的模块，旨在赋予深度学习因果推理的能力。

深度神经网络工程应用技术正在深化。深度神经网络模型大多参数上亿，占用空间数百兆，很难部署到智能手机、相机、可穿戴设备等性能和资源有限的终端设备上。为了解决这个问题，业界采用模型压缩技术，减少模型的参数和大小，减少计算量。目前使用的模型压缩方法包括对训练好的模型进行剪枝(如剪枝、权重分担和量化等。)和设计更精细的模型(如MobileNet等。).深度学习算法建模和参数调整过程复杂，应用门槛高。为了降低深度学习的应用门槛，业界提出了自动机器学习(AutoML)技术，可以实现深度神经网络的自动化设计，简化使用过程。