多年以后,面对AI顶会,尼古拉斯.耳洞打三金上校将会回想起淼兄带他去见识不平凡高中生的那个遥远的下午。
作者 | 耳洞打三金、淼兄
大家好我是三金,前两天我在Reddit上无聊闲逛时,发现有一位美国高中数学&CS老师的求助贴在好像挺火。
这位老师在帖子里讲到他的一个高中学生,Isaac Krementsov,正在开展一个[AI是否可以创造“真实艺术”]的研究项目,并向他寻求帮助。
这位名叫Isaac Krementsov的高中生还专门维护了一个博客网站,以此来记录他自己的项目进度:
Isaac博客网站截图
这位老师前期帮了Isaac一些忙,但是他对机器学习的知识也是不甚了解,可是又觉得这位学生潜力很大,以后定能做出一番成就,因此,想发帖让社区朋友来帮帮忙。
在Reddit上这条帖子下面的留言非常的多,有鼓励称赞这位高中生的,也有说小瞧他说他做的AI项目比较Toy的,还有键盘侠不知道搁那说道啥的。
但是三金我,向来对于这种学习认真、动手编程、大胆实践、执行力高的同学是大力赞扬的,他才是个高中生唉,独立研究AI项目,别管做的如何,都是值得鼓励的对不对,大家还要求什么自行车?
我这就准备写篇文章报道宣传一波这种超前学习的努力天才少年,于是我接下来手贱地谷歌了一下,搜到了Isaac的照片:
啊这???顿时我沉默了。。。
片刻后,我拿起手机的黑屏照了照自己,再对比对比了上面的Isaac,我感觉到了颜值伤害,我低下了平时骄傲的头颅
我寻思着,他平时上课是不是会经常出小差啊?他一个高中生没事研究啥AI啊?老老实实准备美国的高考呗,高中生做的AI项目肯定很水很Toy对不对?
他的老师也真是的,发什么求助帖啊,为啥不多给他发几套模拟试卷做做。。。
我只好安慰自己,哼╭(╯^╰)╮,其实和我颜值也不相上下嘛
Isaac具体研究工作
说回Isaac,他目前就读于美国弗蒙特州Champlain Valley Union高中,是该州排名比较靠前的一所公立高中,目前是12年级,相当于我国的高三。
从今年9月开始,Isaac制定了自己关于机器学习的研究项目且命名为NEXUS,Isaac表示这是他认真学习机器学习的第一年,他目前的计划是为他的[AI是否可以创造“真实艺术”]项目提供三个独立的算法组件:
1、机器学习算法:用于模拟由时间相关的微分方程建模的物理状况(示例包括流体湍流、波浪运动、热流、弹丸运动);
2、动画算法:学习使运动看起来自然所必需的照明等效果;
3、艺术算法:根据学习的艺术风格应用着色和纹理。
最终的目标则是对真实世界的运动进行艺术描绘。
下图是他在项目开始做的思维导图:
之后他把思维导图简化为下图:
简单来说,Isaac认为整个项目将从物理神经网络开始,该神经网络可能需要也可能不需要训练数据,具体取决于测试无数据时解决方案的结果。然后,解决方案数据将传递到动画显示过程中,该过程将运用现有的绘图工具和其他一些修改,以呈现PDE(偏微分方程)解决方案的动画化和抽象化的表示形式。
最后该动画视频以及现有的艺术照片将分别通过艺术神经网络传递,艺术神经网络将使用神经网络将现有艺术照片的样式融合到动画的每个帧中。最后导出一个一个程式化的艺术动画。
看到这里,三金我寻思这不就是利用GAN进行神经风格迁移吗,还用得着研究吗?
果然,在Isaac后来在自己的博客上平均每周一更来展示目前进度的时候,他好像也发现了名为GAN的东西:
但是Isaac在这几个月当中好像陆续找教艺术的老师学习了大量的艺术知识,然后好像是想将神经网络求解PDE(偏微分方程)运用到风格迁移后的“运动”上,后来还用到了傅里叶变换来求数值解、用数值逼近方法来生成物理模拟?
其实我对于Isaac的操作是有些困惑的,毕竟我也不懂,三金我只是个外行,但这并不妨碍我继续
Isaac后来又研究了一阵GAN,说是效果有了不错的提升,可是恕我直言,这前后的效果差别很大吗,应该只是训练迭代数稍微加大了一些吧?
之后Isaac把包含物理数据的东西加进了原有的GAN网络中:
之前的网络:
之后的网络:
之后Isaac去请教了大学的一位前辈,大学的前辈告诉他:神经网络模型是很难真正产生艺术的,因为艺术家的绘画行为是由各种复杂的经验决定的,但神经网络只是在学习模仿现有数据中的模式而已,且艺术是非理性的,并且受艺术家的自发想法和个人倾向的驱动。
Isaac表示在很大程度上,他同意上面的观点,但他同时又确实相信,从理论上讲将来有可能将生活经验提供给模型。
在Isaac看来人工智能驱动艺术的真正障碍是这样一个事实,即当前的算法仅设计为执行具有有限输入集的有限任务集。而人类的不同之处在于,他们可以处理恰巧遇到的任何输入并以任何方式做出响应。但他又又坚信从理论上讲将来有可能将生活经验提供给神经网络模型。
不知道大家有没有Get到Isaac的意思,反正这个瓜我打算就此止住,截止到12月13日,Isaac仍然在更新博客,并已经在学习利用StyleGAN和StyleGAN2等模型,大家感兴趣的可以自行查看:http://isaackrementsovnexus2.weebly.com/
最后当然是希望Isaac的研究能够有所收获,哪怕没有收获,Isaac在别的地方也是有大大的表扬之处的,比如他的自学能力和驱动力执行力:Tensorflow和pytorch都是他现学的虽然可能只限于调包,但是管用不就行了吗,还比如他压根没学过高等数学,但是面对偏微分方程、傅里叶变换这些玩意儿竟然没有发怵,三金我不才,大学期间最怕这些玩意儿了,每次遇到都是能躲就躲。
另外值得一说的是,他老师对他积极帮助这个态度,兴许能成就一回伯乐和千里马的佳话呢,毕竟数学王子高斯就是个例子,高斯十岁的时候数学天赋被其数学老师发现,然后早日踏上了数学研究之路。当然Isaac和高斯两人就不用做个比较了,懂得都懂。
此高中生并不是天才,他也只是对编程对AI感兴趣的一个正常高中生,很多专业知识也都没有掌握,大家理性看待就是。
正常来说这篇文章到此就结束了,但其实才刚刚开始
这位高中生确实不是天才,但是他热爱研究且敢于动手尝试的精神却是打动了我,顿时一片回忆涌上心头,三金我高中的时候在做什么呢?
难道是研究永动机和相对论?还是说研究图灵机和脑机接口?
哦都不是,似乎是整天被小滑块和斜坡折磨吧……
我脑海思绪万千,唉,没有对比就没有伤害,别说神经网络,我高中的时候连C语言是个啥都不知道,我对计算机的认知就基本处于能上网冲浪的阶段(打打游戏看看火影海贼)……
想了一下我还是把这个位高中生做神经网络研究的事情告诉了我的好同事淼兄,淼兄听到之后只是敷衍地点了点头:“哦,就这?这算啥?高中生都有发AI顶会的,这你都不知道吗?”
纳尼?我对淼兄的这个回应有些不爽,一是他这嘲讽的态度,似乎在彰显他知道的比我多,二是他竟然给我发“哦,就这?”!!!这三金我可真是忍不了
于是我只好礼貌地回复他一句“呵呵”。
具体是哪些高中生发了AI顶会,这事简单,我当然不会去问他,谷歌搜一下不就知道了,既然已经被伤害,那就索性伤害到底吧!
高中生顶会一作
三金我首先搜到的就是下面这位Kevin Frans同学。
Kevin Frans目前已经是麻省理工学院的本科二年级学生,搜到此消息,我表面上带着嘲讽:谁当年念的不是个学院是的,内心实则:MIT牛逼!!!
在2018年,年仅17岁的Kevin Frans获得了到OpenAI实习的机会,并以一作的身份发表了一篇顶会论文,而那时的他已经拥有7年多的自学编程经验
。该论文被提交到了机器学习顶会ICLR 2018,最终论文被接受为Poster,当时程序主席对这篇论文的评价是:
“本文提出了一种相当简单的算法,用于学习一组可以在任务之间重复使用的子控制器。对于以相对清晰的方式发展这些概念,本文做出了不错的贡献。”
论文链接:https://openreview.net/forum?id=SyX0IeWAW
除了OpenAI,他还曾到独立游戏工作室Sizigi和开发出CAD的Autodesk旗下的研究院实习过,这两个机构也在探索人工智能的技术应用。
业余时间,除了喜欢玩一些奇怪的游戏,他自己也会开发。比如,这款在Steam上发布的《RAIN Project》。
此外,他也在开发Omakase的系列小游戏,涉及冒险、射击等主题。
至于学术研究,他目前发表四篇论文,Google Scholar页面显示他已经拥有215的论文引用量,其中在OpenAI发表的那篇论文《Meta learning shared hierarchies》有174的引用量。
Kevin Frans在15岁的时候训练了自己的第一个神经网络,用于识别人脸或语音。他还部分复现过Atari游戏相关的AI论文,以及AlphaGo。
关于那篇在OpenAI发表的论文,其诞生经过是这样的。Frans独自解决OpenAI实验室的一个问题,在过程中请教了OpenAI研究员John Schulman。John Schulman惊讶于Frans的学识,并在之后Frans申请实习生职位时面试并接收了他。
《Meta Learning Shared Hierarchies》这篇论文旨在解决一个对于人类而言非常简单的问题:如何利用已有知识解决新问题。他在研究中开发了一个算法,可以帮助腿式虚拟机器人学习将步行、爬行等肢体运动应用于多个任务。
Frans的父亲在赛灵思做硅芯片设计,但是Frans表示,自己的研究并没有得到父亲的帮助。
普林斯顿大学的机器视觉教授 Olga Russakovsky 曾经说道,像Frans这样从高中开始就开始做AI学术研究是非常罕见的,比如计算资源就是一个非常大的障碍。Frans采用的办法,其实就是申请谷歌的云计算服务,他也鼓励其他对机器学习感兴趣的同学,“多动手就是最好的学习方式。”
Kevin Frans个人主页:http://kvfrans.com/
哈佛女孩Amy Jin
三金我又搜到了一位名叫Amy Jin的同学,她如今已是哈佛大学计算机科学专业的大三的本科生。自2016年以来,她曾分别在斯坦福人工智能实验室、Facebook等机构做过实习工作。
Amy Jin在高中时期,发表过一篇NeurIPS Workshop论文《Tool Detection and Operative Skill Assessment in Surgical Videos Using Region-Based Convolutional Neural Networks》,研究的是用CNN网络评估外科手术的技能,建立这个研究项目的初衷是:医学生做外科手术练习时经常得不到反馈,从而影响医学生的学习效率。
通过参加李飞飞创立AI4ALL组织的活动,Amy在Serena Yeung(李飞飞的学生)和斯坦福医学院医生Jeffrey Jopling的指导下,完成了这篇论文。该论文从NeurIPS医疗机器学习(ML4H)Workshop上的120多篇投稿中脱颖而出,成为10篇入选论文之一,并最终获得最佳论文。
在研究过程中,Amy旁听了斯坦福本科生的计算机视觉课程,和Serena Yeung、Jeffrey Jopling进行频繁的短信、邮件交流,研读医学与计算机视觉交叉研究的论文,Jeffrey Jopling还亲自向Amy展示了腹腔镜手术技术。Serena Yeung评价道,Amy在各方面都超出了他们的期望。
她还曾登上《斯坦福医学》杂志报道,被李飞飞三度公开表扬,获得ACM/CSTA Cutler-Bell Prize大奖、IEEE计算机视觉应用冬季会议(WACV)的最佳论文、医药公司Regeneron科学人才搜索奖、英特尔ISEF的二等奖、戴维森奖学金等。
Amy现在希望将自己在CS、AI和道德方面的研究兴趣结合起来,以实现社会公益,并持续作为具备社会意识的创新者来解决复杂的问题。
以上Kevin Frans和Amy Jin还年轻,他们以后是做出大成就来还是泯然众人矣都是有可能的,大家理性吃瓜就行。
另外高中阶段谁说一定要研究AI的,搞好编程功底,到了大学如果想再学AI那岂不是得心应手。
接下来三金要介绍的这位William大神在编程上实在了得,他在高中期间拿到了IOI的冠军!
IOI冠军 William
William Lin在今年的国际信息学奥赛(IOI 2020)上,以唯一的满分成绩夺冠。他其实很早就开始在YouTube上讲奥赛了,现在已经是YouTube上坐拥十几万粉丝的网红up主了。(有人说IOI本来就是中学生参加的比赛,冠军当然也是中学生拿,这个大家知道就好,别说出来)
他曾经参加Google Kick Start编程竞赛,在A轮中,他以16分5秒的时间解答出了赛题,距离那场比赛结束还有两个多小时(总3小时)。当然,他轻松地拿下了第一名。他的解题过程被录屏并上传到了YouTube上,这段没有任何旁白的视频已累计总播放量220万
关于如何成为一个好的程序员,William Lin的回答简单粗暴:大量练习,大量参赛。他没有在敷衍人,而是用行动来证明“不存在捷径”。
另外三金了解到,为了准备今年的IOI,William Lin从今年1月到8月的大部分时间都在刷题。除了IOI以外,William Lin今年还分别参加过谷歌举办的团体编程竞赛HashCode、Code Jam,以及CodeChef等等。他还通过自建服务器,与编程爱好者讨论有趣的竞赛题目。
William Lin目前已经被MIT计算机科学专业录取。(又是MIT
本文到现在,有人告诉我说三金老师,你这举的都是国外的例子,难道国内就没有一些从高中时期就很厉害的人物吗?
当然是有的啊
,单说信息学竞赛领域,我们AI科技评论之前就简单整理过《从 IOI 竞赛走出的黄金一代:王小川、楼天城、鬲融、陈丹琦、胡伟栋…》一文,
这批从 IOI 走出来的顶尖高手各个都很棒
,有的以改变产业为己任,以 96 年金牌得主搜狗公司 CEO 王小川为例,在时代的浪潮中贡献出自己的一份力量;
有的醉心于科研,以 04 年金牌得主鬲融为例,源源不断地为计算机学界贡献一篇又一篇富有洞见的研究成果,甚至夺下计算机领域的重要大奖;
也有一直从事AI研究的,如陈丹琦在NLP圈子想必人人皆知;
有的甘于平淡,04 年的另一名金牌得主胡伟栋,则在自己最热心的奥林匹克竞赛教育领域自得其乐。
也还有陈立杰大神,他那年在清华特奖答辩说出要成为一名理论科学家解决NP猜想的雄心壮志想必鼓舞了很多科研人了吧。
当然了,高中时期不显山不露水并不代表以后没有潜力和成就,反之亦然。
发文之前,淼兄向我提到了高中生内卷这个事,我说岂止是高中生啊,我国的某些小学生都能做生物解剖、研究蛋白质/细胞等等发表论文了,这个事情其实要去怪,怪的东西那可真的多的去了。
发AI顶会、拿IOI冠军…..这些高中生其实三金我不应该去恐惧,他们只要是自发地由兴趣驱动的去努力,那当然是大力鼓励和提倡啊。
那什么时候高中生不再内卷呢?
似乎是在那样一个社会:在那里,每个人的自由发展是一切人的自由发展的条件。
直到那一天,高中生不再内卷,菜鸡如三金我终于可以直面高中生……
原文链接:https://baijiahao.baidu.com/s?id=1686165441650000588&wfr=spider&for=pc