如何解释轮廓图

在2D轮廓图中可视化3D表面

三维绘图是不方便的，等高线图是在2D空间中表示绘图的有用替代方案。轮廓图使用轮廓或颜色编码区域帮助我们在二维中可视化3D数据。轮廓图还用于可视化深度学习/机器学习优化技术中的误差表面，如梯度下跌，动量梯度下跌，亚当等…

在本文中，我们将看到如何解释轮廓图并使用等高线图可视化3D梯度下跌误差曲面。

引文注：本文的内容和结构基于第四实验室 – Padhai的深度学习讲座。

我们假设我的3D Error表面从前视图看起来像这样，

3D误差曲面的前视图

图中的x轴表示两个参数w的组合，b表示为一个参数theta，y轴表示误差值。假设我沿着垂直轴取这个误差表面的水平切片。从顶部看错误表面如何？

顶视图的水平切片

内椭圆对应于第一切片，外椭圆对应于从顶部开始的误差表面上的第二切片。每个水平切片就像一个像错误表面一样切割这个帽子的平面，并且切片帽子的整个周边的损失函数值将是相同的。这意味着围绕内椭圆的整个周长的损失函数值将是相同的。类似地，围绕外椭圆的整个周长的损失函数值将是相同的。

请记住，无论何时在等高线图中看到边界，都要盲目地遵循整个边界周围的损失值。

如果您从顶部注意到错误曲面，则两个椭圆之间的距离不相等。在左侧，距离越多，在右侧，距离越小。其原因在于，以红色标记的两个椭圆之间的最短距离对应于误差表面中斜率非常陡的区域。

类似地，以黄色标记的两个椭圆之间的最长距离对应于误差表面中斜率稍微平缓的区域。

这个分析的关键是，

• 轮廓之间的小距离表示沿该方向的陡峭斜率。
• 轮廓之间的大距离表示沿该方向的缓坡。

现在，使用这种直觉，我们将看到一些2D等高线图并理解如何解释它们。

让我们假设我们有一个3D表面误差表面的2D等高线图，如下图所示，现在你能想象3D表面会是什么样子吗？

猜猜3D表面

红色阴影越暗表示损失值越高，蓝色阴影越暗表示损失值越低。对于本文中显示的所有等高线图，我将遵循相同的颜色模式。

您在等高线图中看到的每条成角度的线表示沿垂直轴的一个切割，这意味着沿线的误差（损失值）是相同的。如果您查看绘图最左侧的轮廓（下图中标有黄色），左侧没有其他边界或轮廓曲面，而右侧则可以看到一组轮廓表面彼此非常接近。

Contour Extremes

由于左侧没有轮廓，我可以说两个轮廓之间的距离（标有黄色的轮廓和远离左侧的一些其他轮廓，如果存在）非常大，因为我看不到任何轮廓在附近。如果轮廓之间的距离很大，则意味着该区域中的坡度非常平缓，因此3D图中的该区域将是平坦区域。

它是低平坦区域还是高平坦区域？

它将是一个高平坦区域，因为颜色为红色表示该区域的误差值很高。同样地，如果我们看一下曲线右边的轮廓（下图中用黑色标记），右侧没有边界，这意味着这个区域的坡度也很平缓，它将是一个平坦的区域，它将是一个低平坦区域，因为该区域中的颜色是蓝色，表示该区域中的误差值将很低

看看中部地区

现在我们来看两个极端之间的区域（上图中用紫色标记），它表明我们正在从高平坦区域过渡到低平坦区域，并且过渡非常迅速。如果你看一下这个中间区域的轮廓，它们彼此非常接近，我们知道如果轮廓之间的距离非常小，则意味着轮廓之间存在非常陡峭的斜率。

现在让我们看看3D表面的样子，

3D表面

我们从高平坦表面（深红色）开始，并且损耗值长时间保持不变，因为表面是平坦的。我们正在从暗红色区域快速过渡到深蓝色区域，因为该区域的斜坡非常陡峭。这就是我们如何解释轮廓图并想象3D表面从相应的2D表面看起来如何。

我们将看到另一个用于练习的轮廓图，然后我们将移动到可视化梯度下跌误差表面。

猜猜3D表面

我们将从图的角落开始，找出平坦表面或高原所在的位置，然后我们将确定山谷的位置。首先，通过查看下图中标有（黑色）的区域，我们可以看到轮廓之间的距离很大，这意味着这些区域的坡度将是平缓的，这些是平坦的表面。

而且，相应轮廓之间的阴影差异不大，这意味着它们彼此靠近并且损失值在轮廓之间没有减少那么多的减少。这些平坦区域将是高区域，因为它们的颜色用红色编码，表明这些区域的误差值很高。

现在来到标有黄线的图的蓝色区域，轮廓之间的距离很大，这意味着这些区域中的坡度将是平缓的，并且这些将是平坦的表面。这些区域中的误差值将位于较低的一侧，因为它们以浅蓝色进行颜色编码。图中的白色区域表示当我们从某个地方的红色过渡到蓝色时，我们会看到白色。白色区域中的误差值将是中等，不高且不低。

该白色区域的拓扑也是平坦的平台，因为两个连续的橙色轮廓之间的距离很大。让我们看看3D表面的外观，

3D表面

正如我们所解释的那样，我们根据误差值在不同高度处有四个平台，所有这四个平台都快速会聚到误差最小的山谷（深蓝色区域）。

在2D轮廓图上可视化梯度下跌

为了生成3D梯度下跌损失表面，我已经获取了一些玩具数据并在所有数据点上迭代了1000个时期并计算了不同w和b值的损失。一旦我得到w和b的所有可能组合的损失值，我就能够生成一个动画，显示渐变下跌规则。

行动中的梯度下跌规则（动画）

底部的点表示w＆b（参数）的不同组合，轮廓上的点表示相应参数值的损失值。通过查看3D绘图尝试可视化2D轮廓图的外观，从梯度下跌损失动画，您可以观察到前几次迭代，而曲​​线仍然在平坦的浅红色表面上，更新正在移动慢慢地意味着我们会期望轮廓之间的距离很大。

一旦曲线到达高原边缘，它就会迅速收敛到深蓝色的山谷，这意味着我们可以预期连续的轮廓彼此非常接近。现在让我们看看2D轮廓是怎样的，

正如预期的那样，在梯度下跌曲线开始的区域中，连续轮廓之间的距离很大。一旦曲线开始向深蓝色区域移动，我们可以看到连续轮廓之间的距离非常小，表明沿着该方向存在陡峭的斜率。

现在我们将看到一个动画，显示梯度下跌更新如何在2D等高线图上移动。

动画有点慢

这是关于它，这是我们如何解释等高线图。

结论

在这篇文章中，我们已经看到使用轮廓之间的距离我们可以告诉梯度如何沿着该方向移动，然后我们继续解释几个等高线图。然后，我们使用等高线图可视化3D梯度下跌误差表面并对其进行解释。

在我的下一篇文章中，我们将讨论梯度下跌优化算法的不同变体，如Momentum，Adagrad，Nesterov Accelerated等。我们还将使用等高线图来显示每种优化技术中的误差表面。因此，请确保您在Medium上关注我，以便在它下跌后立即得到通知。

和平:)

NK。

Niranjan Kumar是HSBC Analytics部门的实习生。他热衷于深度学习和人工智能。目前，他是人工智能中的顶级作家之一。在LinkedIn上与我联系或在Twitter上关注我，了解有关深度学习和人工智能的即将发表的文章的更新。

照片由Rashtravardhan Kataria在Unsplash上​​拍摄