广播（并行模式）

广播是并行编程中的一种集体通信原语，用于将编程指令或数据分配给集群中的节点。它是reduce的反向操作。广播操作在并行算法中被广泛使用，如矩阵-向量乘法、高斯消除和最短路径。消息传递接口在MPI_Bcast中实现了广播。

长度为是一个消息到达另一个节点所需的时间，与它的长度无关。因此，从一个节点到另一个节点发送一个包的时间是节点数和处理器数。是节点的数量和处理器的数量。

通过二叉树广播，整个消息被一次性发送。每个已经收到消息的节点再把它发送出去。随着每个时间步长，发送节点的数量翻倍，这将呈指数级增长。这种算法对于短信息来说是理想的，但对于长信息来说就显得不足了，因为在xxx次传输的时候，只有一个节点在忙。

运行时间不仅取决于消息的长度，还取决于发挥作用的处理器的数量。当消息的长度远远大于处理器的数量时，这种方法会大放异彩。

这个算法结合了二叉树广播和线性管道式广播，这使得该算法对短信息和长信息都能很好地工作。其目的是让尽可能多的节点工作，同时保持快速发送短信息的能力。一个好的方法是使用斐波那契树来分割树，这是一个很好的选择，因为一个消息不能同时发送给两个孩子。这就形成了一个二叉树结构。我们将在下文中假设通信是全双工的。

这个算法的目的是改善带管道的树形结构模型的一些缺点。通常在带管道的树形结构模型中，叶子只接收他们的数据，而不能对发送和传播数据作出贡献。