Day 18 Spatial Transformer Layer

因为单纯的cNN无法做到scaling（放大）and rotation（转），所以我们引入；

实战中也许我们可以做到 是因为 我们的training data 中包含了对data 的augmentation；

有一些 translation的性质，是因为 max pooling

这张ppt好好理解，我感觉它说明了spatial Transformen的 本质

1. 专门训练一个layer 对图像进行旋转缩放
2. 由于本质上还是一个神经网络结构，所以可以和CNN join it to learn 就是一起训练嘛（End to End）
3. 不仅可以对input image 做变换（transform），也可以对CNN 的feature map进行

ok 以上说的三点就是它的特性了，应该没有哪一个是不懂的吧~

至于 why 1 ,下文来介绍它的工作原理

这张图我自己又加了一些笔记， 这里说的 是全连接的工作原理； hope you learned

我们可以用全连接来做transform ，例如

好了，基本学会了，就是数字图像处理学的那点东西，就是乘一个变换矩阵就好了

好了，没什么了不起，就是用神经网络 训练出三个变换矩阵

举例：

max pooling（IOU 连接网络？） 如何用Gradient Descent 解呢？

这里老师判断的角度应该是 对于参数的 $\Delta$ w 会有一个 $\Delta$y 与其对应,但是这个case 里面$\Delta$y = 0； 梯度为0 消失~

这样也能理解为什么老师认为max pooling 可以用来解，因为随着参数的变化，max的值一定会有变化，则可以进行梯度；即使max （）本身是不可微的

Interpolation – 双线性插值

详情请参照 《数字图像处理》

固定了两个参数， 有点focus 的味道， 因为无法做旋转嘛智能做缩放