新一代人工智能技术的发展离不开芯片和深度学习框架的两个基础。
随着中国科研创新能力的提高,技术领域取得了许多突破。
当然,这也是一种技术封锁。
今年出现的华为芯片供应链被完全封锁,工程产品MATLAB被禁止。
这两件事加在一起,迫使我国从基础设施平台转移到应用程序系统。
全面构建具有独立知识的优秀产品。
01开发和深度学习作为人工智能的核心技术,近年来在学术和工业领域都发挥着越来越重要的作用。
在过去的十年中,深度学习领域中涌现了大量算法和应用程序。
这些深度学习算法和应用程序出现的背后是各种深度学习工具和框架。
它们是机器学习革命的脚手架:诸如TensorFlow和PyTorch之类的深度学习框架的广泛使用使许多ML实践者可以使用适当的领域特定的编程语言和丰富的构建模块来更轻松地组装模型。
回顾深度学习框架的发展,我们可以清楚地看到深度学习框架与深度学习算法之间的紧密联系。
这种相互依存的良性循环促进了深度学习框架和工具的快速发展。
02趋势我们正处于人工智能革命的曙光中。
人工智能领域的新研究和应用框架正以前所未有的速度出现。
八年前的AlexNet网络仅包含6000万个参数。
最新的GPT-3网络包含1750亿个参数。
网络规模在八年内增加了3000倍。
但是人脑包含100万亿个突触,这相当于参数。
因此,神经网络之间在达到人类智能水平方面仍然存在很大差距。
这种无法接受的网络规模对现有的模型训练以及推理硬件和软件计算效率提出了巨大挑战。
未来的深度学习框架可能是算法,高性能计算,硬件加速器和分布式系统的跨学科成果。
03挑战但是,对于与深度学习相关的初学者或已经从事相关工作的算法工程师来说,深度学习理论太难学习,开发过程太复杂,许多人被排除在深度学习之外。
一线公司(例如该地区的大型工厂)的需求也迫在眉睫,并且阿里云已正式打开大门,这是业界第一个针对NLP场景的深度迁移学习框架。
对人才的需求如此之大,以至于人才缺口很大。
04机会因此,当我们学习深度学习时,我们会学习哪个框架?我应该学习PyTorch,Tensorflow还是Keras?实际上,对于这样的问题,基于当前的情况,您不应该专注于使用这些工具。
重要的是要了解其原理。