为什么神经网络难以理解生命游戏?

发布:武汉新闻网

来源:段永朝读书 

以下文章来源于集智俱乐部 ,作者Ben Dickson 搜163 http://www.so163.cn

导语

生命游戏是一种简单的符号表示模型,却可以产生复杂的结果。我们可以发现对生命游戏显然有效的,几组神经网络的初始参数解;但随机输入初始参数和选择样本的神经网络,却极难理解生命游戏,成功收敛到最优解需要一定“运气”。我们也可以选择,提高神经网络的复杂性,得到较优解,但这使资金和能耗水涨船高,不可持续。这种现状要求我们探索新的学习算法。

武汉新闻网 http://www.wh-edu.cn/

原文题目:
Why neural networks struggle with the Game of Life
原文地址:
https://bdtechtalks.com/2020/09/16/deep-learning-game-of-life/

本文属于我们的《AI研究综述》(reviews of AI research papers)——一系列追踪、探讨人工智能领域最新发现的报道。 一折特卖 http://m.1ytm.cn

武汉新闻网 http://www.wh-edu.cn/

生命游戏,是一种在科学、计算和人工智能领域广泛应用的网格自动机,这个模型所产生的行为表现出,简单的规则可以产生复杂的结果。

BBTI论文 http://www.bbti.cc

尽管生命游戏设定简单,但对于人工神经网络仍是一个挑战,来自斯沃斯莫尔学院和洛斯阿拉莫斯国家实验室的AI研究人员在他们最近的一篇论文中指出了这一点。

以 It's Hard for Neural Networks To Learn the Game of Life 为题,他们研究了神经网络学习生命游戏的过程,以及神经网络经常错过正确解的原因。

原文题目:
It's Hard for Neural Networks To Learn the Game of Life
原文地址:
https://arxiv.org/abs/2009.01398

他们的研究结果强调了深度学习模型的一些关键问题,并对AI研究的下一步方向,提供了一些有趣的线索。

生命游戏是什么?

英国数学家John Conway于1970年发明了生命游戏。

一般来说,生命游戏通过一个随时间演化的元胞网格呈现,每个元胞都具有两种状态:“存活”或“死亡”。

在每一个时刻,整个元胞网格,都会遵循一组简单规则进行演化——通过确定哪些元胞下一时刻转向“存活”或保持“存活”,以及哪些元胞下一时刻转向“死亡”或保持“死亡”,即以下四条规则:

1、如果一个“存活”元胞的“存活”元胞邻居少于两个,则因为种群密度过低,该元胞转为“死亡”元胞;

2、如果一个“存活”元胞的“存活”元胞邻居多于三个,则因为种群密度过高,该元胞仍转为“死亡”元胞;

3、如果一个“存活”元胞的“存活”元胞邻居恰好有两个或三个,该元胞仍保持“存活”;

4、如果一个“死亡”元胞的“死亡”元胞邻居恰好有三个,该元胞转为“存活”元胞;

基于这一组规则,我们可以通过设定元胞网格的初始状态,生成各种稳定的、振荡的和移动的斑图。

例如,下面就是被称为“滑翔机枪”的斑图,“滑翔机枪”可以不断地产生“滑翔机”斑图,“滑翔机”斑图是一种典型的移动斑图(经过一个固定的时间步周期,斑图变回原来的形状,且位置离开原处),“滑翔机枪”本身则是一种振荡斑图(周期变化的斑图)。

滑翔机枪

我们可以用生命游戏生成非常复杂的斑图,例如下面这个:

有趣的是,不论一个元胞网格有多复杂,我们都可以用同一组规则预测,下一个时间步上每个元胞的状态。

鉴于神经网络是一种强大的预测模型,研究人员想探究深度学习模型能否学会生命游戏的内在规则。

人工神经网络 vs 生命游戏

生命游戏之所以被选为神经网络的实验对象,原因众多。斯沃斯莫尔学院的计算机科学学员,也是这篇论文的共同作者 Jacob Springer 对 TechTalk 的采访人员说:“我们已经得出了一些结论。”

“我们可以人工编写一个能实现生命游戏的神经网络模型,然后再和通过训练生成生命游戏的神经网络模型进行对比。这不是问题所在。”

在生命游戏中,通过控制是时间步数就可以灵活的修改深度学习模型要预测的目标斑图。

神经网络处理生命游戏的方式,与在计算机视觉或自然语言处理这些领域的表现并不一样。因为,如果神经网络学会了生命游戏的规则,就可以达到百分之百的预测精度。

Springer谈到:“这种预测不会有任何模糊,换句话说,神经网络的预测只要错了一次,就意味着,它没有正确地学会生命游戏的规则。”

《姜子牙》为什么要胜天尊半子?

自从《哪吒》火了之后,人们就开始憧憬中国动漫会迎来复苏,同为神话系列的《姜子牙》自然被寄予厚望。从动画制作和细节处理层面来看,《姜子牙…

PayPal黑帮创投教父霍夫曼:为什么独角兽只在中国和硅谷出

文章来源 | 融中财经(thecapital) 作者丨吾人 天使投资人雷德·霍夫曼(Reid Hoffman),一个不太修边幅、办公室经常乱成一团的胖子。他1967年8月5日出生,毕…

姬安定:莫迪为什么要对中国耍流氓?

自从1947年印度建国以来,就开始对中国耍流氓,一直耍了73年,估计到100年、500年也不会停止! 而与此同时,印度的流氓手段也用在了周边国家上——吞…

朗读亭来武汉了!16日起连续72小时直播

长江网10月14日讯 10月16-18日,在北京国家图书馆、武汉江滩公园、厦门音乐厅广场3个地方的朗读亭,将进行72小时不间断直播。 14日,长江网记者见到,…

iPhone 12来了!外观致敬iPhone 4 新机或掀“超级周期”?

这个10月,手机圈好不热闹。 华为Mate 40系列新机将于10月22日晚上20点全球发布,一加8T也将于10月15日发布。 北京时间14日凌晨,苹果公司召开新品发布会…

Facebook将禁止明确劝阻人们接种疫苗的广告

Facebook周二表示,该公司将开始禁止那些明确劝阻人们接种疫苗的广告,同时还宣布推出一项新的新冠病毒疫苗宣传活动。 该公司发表博文称,支持或反…

点击阅读更多媒体报道