Parallelism

并行是多任务物理上同时执行（多核/多机），区别于逻辑同时的并发。

用途

利用多核/多机加速计算密集任务。

数据并行：SIMD/GPU 对不同数据执行相同操作。任务并行：多核执行不同任务。MapReduce：分布式数据并行。需注意 Amdahl 定律限制（串行部分瓶颈）。