第22章 想法撞车
85年出生的伊恩最近几年的压力有点大。</p>
对于一个普通的博士生来说，他其实并没有什么做的不好的地方，相反，他聪慧努力，也一直就读于名门。</p>
本科，硕士均毕业于斯坦福，恩师是谷歌大脑的创办人吴恩达，博士就读于蒙特利尔，在AI三巨头之一的本吉奥指导下学习。</p>
他的学业经历，个人智慧说是万里挑一也不为过，不过如果要与他的导师们去做对比，确实稍显暗淡了一些。</p>
28岁的伊恩已经读到了自己博士的最后一年，数据的生成算法是他博士时期一直在思索的方向。</p>
许多研究者们也已经在尝试使用神经网络去模拟人脑，来生成新的数据。</p>
只可惜目前为止，这些数据通常存在很大的问题，完全无法使用。</p>
并且一个很大的阻力是，生成出来的图像往往不可名状。这些无用的克系图像缺乏利用的手段，也不好去评估它们。</p>
而前几日，IMAGENET上模型性能超越人类标准的结果让他有了新的灵感。</p>
如果说，深度网络已经可以在一些图像类任务上达到人类水平的话，是否就可以避免生成式网络结果不好评判的问题，通过两个网络的相互对抗来完成这样的过程呢？</p>
伊恩越想越觉得合理，他昨晚甚至没顾得上睡觉，而是直接花了一晚上的时间实现了一个生成-对抗的雏形版本，并尝试训练了一下，发现结果似乎和预期的基本一致。</p>
按捺不住激动的心情，他想要尽快和导师讨论这里面的原理和做法。</p>
伊恩在本吉奥的办公室门口来回徘徊了二十多分钟，本吉奥这才从远处大步流星地走了过来。</p>
如果忽略头发和一把络腮胡中掺杂的白色，今年49岁的本吉奥其实看着相当年轻，只论这個面相的话，最多是一个三十五六的男人。</p>
尤其是两道形状有些像憨豆先生的浓眉，让他显得更加忠厚，平易近人。</p>
伊恩连忙往前跨了几大步，同时将自己手中的笔记和实验记录展开。他指着上面的几行核心的式子，正要开口的时候，却被本吉奥无情打断了。</p>
“我知道你很急，但是你先别急。”本吉奥看着伊恩这个火急火燎的样子，调侃道，“我们做学术讲究的就是根基扎实，稳扎稳打。着急有什么用？着急没用呀。”</p>
“有什么话不能等我们进去了坐下慢慢聊呢？”本吉奥说着，掏出自己的钥匙，打开了办公室的门。“进来吧，这才七点多你就蹲在了我办公室的门前，想来一定有了什么重大的发现吧？”</p>
“很急，我真的很急。”伊恩深耕生成领域已经有段时日，在他昨天想到这个思路的时候，他就已经意识到了这将会是整个模式上的重大变革。</p>
从本科开始到现在，十年磨一剑，伊恩非常兴奋。他有不错的学术嗅觉，能感觉到这个想法的不同凡响。自己的出头之日就要到了吗？</p>
就在此时此刻，他可以感觉到这是一个绝佳的契机，能够凭借自己的实力，去摆脱吴恩达弟子，本吉奥弟子这一即是光环又是阴影的经历。</p>try{ggauto();} catch(ex){}
让世人真真正正地认识到他自己，通过自己提出的技术和算法来重新看待自己。</p>
“两个网络的相互对抗吗。”本吉奥听完之后沉吟了一会，不像伊恩的几个朋友那样急着提出反对和怀疑的态度，本吉奥对富有想象力，富有创意的点子一直都是非常鼓励的态度。</p>
“同时训练两个模型，而不是一个。生成器和判别器两者可以左脚踩右脚地螺旋相互提升。你是想通过这种模式，去让生成器的分布最终尽量接近于提供的真实数据。”</p>
“这样，我们也摆脱了寻常的思路，我们训练判别器，不是为了让它可以百分之百地判断图片是不是生成的。反而，我们的目的是为了让判别器再也不清楚到底哪些是真，哪些是假。”伊恩补充道。</p>
“对抗只是一种形式，其本身的目的还是为了训练一个生成式的网络。我有信心，这种方式可以摆脱对数据标签的依赖，大量的其他数据可以在不需要额外处理的情况下被利用起来。”</p>
伊恩直到此时，激动的情绪还没有平息。</p>
“不仅仅是如此，生成只是最初步的应用。”本吉奥思索了一会儿，说道，“它完全可以通过对数据的筛选来达到特别的目的。只需要少量的代码调整，我相信它可以很好地处理布局简单的图案，尤其是在人脸这样的方向，这是非常危险的技术。”</p>
“你打算给它取一个怎样的名字？”本吉奥一边说着一边打开了电脑，给技术起名字是一个难题，也是一门艺术。</p>
名字取不好，工作全白搞。</p>
一个响亮的名字，一个有趣而简洁的缩写，都很有可能会提升工作的知名度，受欢迎程度和应用范围。</p>
“生成...与..对抗。要不，就叫它生成式对抗网络？”伊恩也还没有仔细去想这个问题，便将这个想法中最关键的两个元素给添加到名字当中。</p>
“GenerativeAdversarial吗，我来看一看。”取名的第一步，自然是检索，看看有没有人已经占了坑位。</p>
本吉奥这一检索，远在天边的孟繁岐突然打了个喷嚏，心说这大夏天的，怎么还着凉了呢？</p>
“这个名字好像已经被人给占用了，就在前两天，非常不巧啊。”本吉奥此时还没有意识到问题的严重性，“看来我们要换另一个名字了。”</p>
一边说着，本吉奥一边点开了这个预印本。</p>
“DreamNet是什么网络，好像之前没有看到过。”本吉奥依稀觉得这个名字似乎这两天有谁提过，但他忙于别的研究事宜，倒也没有太在意。</p>
但刚刚看完摘要，本吉奥的眼神便犀利了起来，表情也变得非常严肃。</p>
伊恩此时还在苦思冥想，到底用个怎样的名字会好一些。</p>
而本吉奥则用一句话，无情地击穿了他的防御，“伊恩，看样子我们不能使用的可不只是一个名字啊。”</p>
“什么？我们的想法撞车了？”伊恩大惊失色，学术想法撞车，这对科研人员来说可能是最倒霉的事情之一了。</p></div>
对于一个普通的博士生来说，他其实并没有什么做的不好的地方，相反，他聪慧努力，也一直就读于名门。</p>
本科，硕士均毕业于斯坦福，恩师是谷歌大脑的创办人吴恩达，博士就读于蒙特利尔，在AI三巨头之一的本吉奥指导下学习。</p>
他的学业经历，个人智慧说是万里挑一也不为过，不过如果要与他的导师们去做对比，确实稍显暗淡了一些。</p>
28岁的伊恩已经读到了自己博士的最后一年，数据的生成算法是他博士时期一直在思索的方向。</p>
许多研究者们也已经在尝试使用神经网络去模拟人脑，来生成新的数据。</p>
只可惜目前为止，这些数据通常存在很大的问题，完全无法使用。</p>
并且一个很大的阻力是，生成出来的图像往往不可名状。这些无用的克系图像缺乏利用的手段，也不好去评估它们。</p>
而前几日，IMAGENET上模型性能超越人类标准的结果让他有了新的灵感。</p>
如果说，深度网络已经可以在一些图像类任务上达到人类水平的话，是否就可以避免生成式网络结果不好评判的问题，通过两个网络的相互对抗来完成这样的过程呢？</p>
伊恩越想越觉得合理，他昨晚甚至没顾得上睡觉，而是直接花了一晚上的时间实现了一个生成-对抗的雏形版本，并尝试训练了一下，发现结果似乎和预期的基本一致。</p>
按捺不住激动的心情，他想要尽快和导师讨论这里面的原理和做法。</p>
伊恩在本吉奥的办公室门口来回徘徊了二十多分钟，本吉奥这才从远处大步流星地走了过来。</p>
如果忽略头发和一把络腮胡中掺杂的白色，今年49岁的本吉奥其实看着相当年轻，只论这個面相的话，最多是一个三十五六的男人。</p>
尤其是两道形状有些像憨豆先生的浓眉，让他显得更加忠厚，平易近人。</p>
伊恩连忙往前跨了几大步，同时将自己手中的笔记和实验记录展开。他指着上面的几行核心的式子，正要开口的时候，却被本吉奥无情打断了。</p>
“我知道你很急，但是你先别急。”本吉奥看着伊恩这个火急火燎的样子，调侃道，“我们做学术讲究的就是根基扎实，稳扎稳打。着急有什么用？着急没用呀。”</p>
“有什么话不能等我们进去了坐下慢慢聊呢？”本吉奥说着，掏出自己的钥匙，打开了办公室的门。“进来吧，这才七点多你就蹲在了我办公室的门前，想来一定有了什么重大的发现吧？”</p>
“很急，我真的很急。”伊恩深耕生成领域已经有段时日，在他昨天想到这个思路的时候，他就已经意识到了这将会是整个模式上的重大变革。</p>
从本科开始到现在，十年磨一剑，伊恩非常兴奋。他有不错的学术嗅觉，能感觉到这个想法的不同凡响。自己的出头之日就要到了吗？</p>
就在此时此刻，他可以感觉到这是一个绝佳的契机，能够凭借自己的实力，去摆脱吴恩达弟子，本吉奥弟子这一即是光环又是阴影的经历。</p>try{ggauto();} catch(ex){}
让世人真真正正地认识到他自己，通过自己提出的技术和算法来重新看待自己。</p>
“两个网络的相互对抗吗。”本吉奥听完之后沉吟了一会，不像伊恩的几个朋友那样急着提出反对和怀疑的态度，本吉奥对富有想象力，富有创意的点子一直都是非常鼓励的态度。</p>
“同时训练两个模型，而不是一个。生成器和判别器两者可以左脚踩右脚地螺旋相互提升。你是想通过这种模式，去让生成器的分布最终尽量接近于提供的真实数据。”</p>
“这样，我们也摆脱了寻常的思路，我们训练判别器，不是为了让它可以百分之百地判断图片是不是生成的。反而，我们的目的是为了让判别器再也不清楚到底哪些是真，哪些是假。”伊恩补充道。</p>
“对抗只是一种形式，其本身的目的还是为了训练一个生成式的网络。我有信心，这种方式可以摆脱对数据标签的依赖，大量的其他数据可以在不需要额外处理的情况下被利用起来。”</p>
伊恩直到此时，激动的情绪还没有平息。</p>
“不仅仅是如此，生成只是最初步的应用。”本吉奥思索了一会儿，说道，“它完全可以通过对数据的筛选来达到特别的目的。只需要少量的代码调整，我相信它可以很好地处理布局简单的图案，尤其是在人脸这样的方向，这是非常危险的技术。”</p>
“你打算给它取一个怎样的名字？”本吉奥一边说着一边打开了电脑，给技术起名字是一个难题，也是一门艺术。</p>
名字取不好，工作全白搞。</p>
一个响亮的名字，一个有趣而简洁的缩写，都很有可能会提升工作的知名度，受欢迎程度和应用范围。</p>
“生成...与..对抗。要不，就叫它生成式对抗网络？”伊恩也还没有仔细去想这个问题，便将这个想法中最关键的两个元素给添加到名字当中。</p>
“GenerativeAdversarial吗，我来看一看。”取名的第一步，自然是检索，看看有没有人已经占了坑位。</p>
本吉奥这一检索，远在天边的孟繁岐突然打了个喷嚏，心说这大夏天的，怎么还着凉了呢？</p>
“这个名字好像已经被人给占用了，就在前两天，非常不巧啊。”本吉奥此时还没有意识到问题的严重性，“看来我们要换另一个名字了。”</p>
一边说着，本吉奥一边点开了这个预印本。</p>
“DreamNet是什么网络，好像之前没有看到过。”本吉奥依稀觉得这个名字似乎这两天有谁提过，但他忙于别的研究事宜，倒也没有太在意。</p>
但刚刚看完摘要，本吉奥的眼神便犀利了起来，表情也变得非常严肃。</p>
伊恩此时还在苦思冥想，到底用个怎样的名字会好一些。</p>
而本吉奥则用一句话，无情地击穿了他的防御，“伊恩，看样子我们不能使用的可不只是一个名字啊。”</p>
“什么？我们的想法撞车了？”伊恩大惊失色，学术想法撞车，这对科研人员来说可能是最倒霉的事情之一了。</p></div>