近日，来自 MIT、港中文、IBM 等机构的 David Bau、朱俊彦、Joshua B. Tenenbaum、周博磊等人在论文《GAN Dissection: Visualizing and Understanding Generative Adversarial Networks》上放出的示意工具一时惊艳了众人：只要鼠标划过，GAN 就可以立即在你指定的地方画出云彩、草地、门和树等景物，并直接改变构图以保持图像的「合理性」。 在 MIT CSAIL 主导的这项工作中，研究者展示了在单元、对象和场景级别上可视化和理解 GAN 的框架。研究者首先通过基于分割的网络剖析方法（network dissection method）识别出一组和对象概念很相关的可解释单元。然后通过评估人类干预（控制输出中的对象）的能力来量化可解释单元的因果效应。最后，通过将发现的对象概念嵌入到新图像中来测试这些单元和周围事物之间的语境关系。研究者展示了通过该框架实现的多种实际应用，从对比不同层、模型和数据集的内部表征，到通过定位和移除导致失真的单元来改善 GAN，从而实现交互式地控制场景中的对象。