智能计算系统 第一章

整个系统的重要性

• 谷歌的AI领导人是做系统的

从系统的角度理解人工智能
什么是智能计算系统？

智能计算系统是智能的物质载体。现阶段的智能计算系统通常是集成CPU和智能芯片的异构系统，软件上通常包括一套面向开发者的智能计算编程环境（包括编程框架和编程语言）

智能计算系统的形态

超级计算机（商业分析、药物研制）、数据中心（广告推荐、自动翻译）、智能手机（语音识别、图像分析）、嵌入式设备（机器人、消费类电子）

应用驱动、全栈贯通

• 智能算法
• 编程语言
• 系统软件
• 体系结构

课程提纲

1. 概述
2. 神经网络
3. 深度学习
4. 编程框架使用
5. 编程框架机理
6. 深度学习处理器原理
7. 深度学习处理器架构
8. 智能编程语言
9. 实验

人工智能的三个流派

• 行为主义：基于控制论
• 符号主义：基于符号逻辑的方法
• 连接主义（最热门）：基于大脑中神经元细胞连接的计算模型

深度学习的局限性

• 泛化能力有限
• 缺乏推理能力
• 缺乏可解释性
• 鲁棒性差

异构智能计算系统

主要原因

• 通用 CPU 计算能力增长近乎停滞，而智能计算系统能力需求在不断以指数增长，二者行成了剪刀差。

异构系统在提高性能的同时，也带来了编程上的困难。

• 智能计算系统一般会集成编程环境
• 常用的如 MXNet 和 TensorFlow 等
• 深度学习编程语言包括 CUDA 和BCL 语言

三代智能计算系统

GEN 1 面向符号主义智能处理的专用计算机 in the 1980s
GEN 2 本课重点 面向连接主义智能处理的专用计算机（深度学习计算机）in the 2010s

• 工业应用，产业体系
• 摩尔定律失效，通用 CPU 性能增长停滞

GEN 3 未来强人工智能/通用人工智能的载体

• 大量独立的智能主体，足够丰富的虚拟世界，背后的无限计算能力
• 智能体将在其中成长，通过和环境的交互，行成感知、认知和逻辑能力，甚至理解虚拟世界、改造虚拟世界，从而具备通用智能
• 结合强化学习、神经网络和感知

driving example: 图画风格迁移

输入->建模->实现->运行->输出