1、命令式和符号式混合编程
命令式编程，它使用编程语句改变程序状态：
def add(a, b):
return a + b
def fancy_func(a, b, c, d):
e = add(a, b)
f = add(c, d)
g = add(e, f)
return g
fancy_func(1, 2, 3, 4)
在运行语句e = add(a, b)时，Python会做加法运算并将结果存储在变量e中，从而令程序的状态发生改变。类似地，后面的2条语句f = add(c, d)和g = add(e, f)会依次做加法运算并存储变量。
与命令式编程不同，符号式编程通常在计算流程完全定义好后才被执行符号式编程的程序需要下面3个步骤：
- 定义计算流程；
- 把计算流程编译成可执行的程序；
- 给定输入，调用编译好的程序执行。
对比这两种编程方式：
- 命令式编程更方便。当我们在Python里使用命令式编程时，大部分代码编写起来都很直观。同时，命令式编程更容易调试。这是因为我们可以很方便地获取并打印所有的中间变量值，或者使用Python的调试工具。
- 符号式编程更高效并更容易移植。一方面，在编译的时候系统容易做更多优化；另一方面，符号式编程可以将程序变成一个与Python无关的格式，从而可以使程序在非Python环境下运行，以避开Python解释器的性能问题。
大部分深度学习框架在命令式编程和符号式编程之间二选一。
- TensorFlow使用了符号式编程
- PyTorch使用了命令式编程
- Gluon提供混合式编程
- 在混合式编程中，我们可以通过使用HybridBlock类或者HybridSequential类构建模型。
- 默认情况下，它们和Block类或者Sequential类一样依据命令式编程的方式执行。
- 当我们调用hybridize函数后，Gluon会转换成依据符号式编程的方式执行。
2、 异步计算
异步计算：当你调用一个使用GPU的函数时，操作会排队到特定的设备上，但不一定要等到以后才执行。
在诸多的深度学习框架中，
- MXNet和TensorFlow之类则采用了一种异步编程（asynchronous programming）模型来提高性能，
- 而PyTorch则使用了Python自己的调度器来实现不同的性能权衡。对于PyTorch来说GPU操作在默认情况下是异步的。
通过后端异步处理
