如何将单个全连接层应用于图像中的每个点

Question

我正在尝试使用 keras 设置一个非常规神经网络，但在有效设置时遇到了麻烦。

前几层是标准的卷积层，这些层的输出有 d 个通道，每个通道的图像形状为 nx n。

我想要做的是使用单个密集层将这个 dxnxn 张量映射到大小为 nx n 的单个图像上。我想定义一个单一的密集层，输入大小为 d，输出大小为 1，并将此函数应用于输入上的每个“像素”（输入跨通道深度获取）。

到目前为止，我还没有找到一个有效的解决方案。我曾尝试首先定义一个完全连接的层，然后循环输入中的每个“像素”，但是这需要很多小时来初始化模型，而且我担心它会减慢反向传播的速度，因为计算可能没有正确并行化.

有没有一种有效的方法来做到这一点？

Answer 1

您所描述的是输出深度为 1 的 1x1 卷积。您可以像实现其余卷积层一样实现它。您可能想在tf.squeeze之后应用以去除深度，深度应为 1。