【中枢教育】伯克利学长浅谈统计学与概率、机器学习、运筹等之间的联系
- 格式:docx
- 大小:23.22 KB
- 文档页数:7
【伯克利学长浅谈统计学与概率、机器学习、运筹等之间的联系】
主讲人:Z学长
北大数学本科,Berkeley统计学硕士在读
内容简介
1. 大学期间统计学的学习和科研经验分享
2. 统计学与概率、机器学习、运筹等之间的联系
3. 伯克利统计学专业的学习经验分享及申请经验分享
一、大学感悟及科研经验分享
在大三的时候,在选择专业和方向的过程中,我走了很多的弯路。当时没有老师和长辈来指导我如何选专业,多数时候我都在闭门造车,凭空想象。那段时间心烦意乱,心思很难放在学习上。当我回过神来的时候,周围的同学已经比我多学了很多。有的同学早早开始了本科生科研,有的同学已经提交了海外交换的申请。
真正想要向统计学方向发展的,应该是我大三下学期的事情了。引领我走向这条路的,是我最最尊敬的吴老师。她是我本科生科研的导师,我的本科生科研做的是金融数学。记得那时,我和我的组员以正在以传统的概率统计学工具来研究我们的题目,例如随机模拟,随机分析,假设检验等等。
在一次讨论课的时候,吴老师提了一句:“要是用这些方法做下去,我觉得我们会举步维艰,能不能将一些现代的统计学习方法运用到我们的研究上来?”之后,吴老师发给了我一本书《The Elements of Statistical Learning》,她说这是伯克利的研究生教材,和我们的国内的统计学教材完全不一样。一扇大门从此打开。吴老师给的那本书对我来说实在太难,我在论坛里闲逛时找到了另外一本书:《Machine Learning: A probabilistic perspective》。这本书是机器学习的启蒙教材。当时买不起原版的图书,看电子版看得头晕眼花。这本书的每一章我都看过。就这样,我自学了机器学习里的基本理论、模型和方法。之后,我又学习了学院里的《统计学习》这门课,从统计学习的民科变成了学院派。
所以,我这里建议学弟学妹们能够尽早开始本科生科研。科研的方向不一定要十分合乎你的胃口,重要的是要和自己的导师多多交流,了解未来学科的发展方向,找到自己的学习目标。我的本科生科研有一些成果,但没有论文。不过我相信,这样一段科研经历也一定能给申请带来积极作用。我申请中最最遗憾的事情,就是没有海外交流的经历。因为海外交流需要我们大二的时候就要开始着手准备,等我反应过来的时候已经追回莫及。我的很多海外交流的同学都得到了海外教授的那封价值连城的推荐信。
我们12级数院的概率统计系大概有60名同学,大家感兴趣的科研方向也大相径庭。有学概率的,有去研究测度论、随机过程和随机微分方程的。统计在科学众多领域的广泛应用(如生物、农业、医学)一直是统计的强大生命力。近二十年,统计与计算机(如机器学习)、应用数学、优化等领域有很多交叉。生物是统计运用历史最久的一个领域,因为时间很久影响广泛,很多学校都有单独的生物统计系。金融那边也大量用统计模型。
二.机器学习的学习路线
数据科学是当下很时髦的名词,如果能在PS里呈现自己做的机器学习方面的相关工作,对于申请来将是一个很大的加分。尤其是申请硕士,注重就业导向的统计硕士项目很希望招来的学生有数据科学方面的背景。就我的经验而言,学习Machine Learning(机器学习)需要在掌握理论知识的同时,同时训练相应的编程技巧。
在理论知识方面,懂得基本的数理统计和概率论的知识之后,就可以开始学习Machine Learning(ML)了。如学有余力,掌握随机过程、多元统计和回归分析对理解ML帮助极大。在这之后,可以从ML逐步走向Deep Learning。Bengio的《Deep Learning》是一本很好的教材。
编程能力方面,做机器学习和深度学习的主流语言是C++和Python。但是,我希望学弟学妹们如果有时间的话,还是不要一上来就学Python,Matlab和R。因为这三门语言都过于“方便”和过于“灵活”,其掩盖了编程最重要的东西—逻辑。我当时花了很长的时间学习C语言。C语言的“包”很少,一个简单的矩阵操作就能把人难死,不过正是在这样的纠结过程中,我对编程的理解逐渐深入,所以清晰的逻辑是编程的根本。当然了,如果之前有一定的编程基础,那么直接去学Python这些还是没问题的。
三、伯克利的学习及申请经验
不论是来美国读博士还是硕士,个人能力都是学术研究和找工作的关键。从本科高年级开始,就要开始注重自己能力的培养和提高。大家去搜搜Leetcode和Hacker rank,两个都是Online Judge,编程练习的好地方,尤其是硕士项目,非!常!重!要!大家一定不能忽视。
关于学习方面,这里我想强调两点:
1. 把知识转化为记忆:大学高年级阶段,很多同学学习一门课就学一个星期,考完试之后就全部忘记,根本不走心,这样的做法是极不可取的。我也曾多次干过这样的傻事。直到来美国,参加各种面试之后,才发现面试官问我的大学阶段的东西很多都忘记了。学习一门课程之后,尤其是概率论、数理统计、随机过程和回归分析,这四门课的基本理论、定理和运用值得大家牢牢记住。
2.编程能力的培养:在美国,不论是课业还是面试,熟练的编程机巧能够为你增光添彩。有些人认为,只有聪明的人才能把程序写好,而我觉得这样的理解是片面的。我认为编程更像当时初高中时的1000米测试,只要坚持不懈,就能练到炉火纯青。因为编程和跑1000米一样,是一个让自己的身心不断调整、不断适应的过程,每天写一小段程序,一个月之后你写程序、Debug的速度就会有大的提高,再不会在写Project的时候还在百度如何将int转化为string之类的基本问题。
生活部分
在美国的生活比想象中要难很多,所有大小事务都需要自己料理。周一到周五都在学校,周末在家自己做饭。在美国很少能有唱歌、打球、看电影之类的娱乐活动,最大的爱好就是做饭和锻炼。每每在微信里和本科同学聊天,都会发现大家的厨艺都在飞速提高。
我这学期还在做助教,同时还要花费大量时间在Career Fair找实习上。对了,说一句,如果要做助教的话,口语一定要好。托福的口语一定要刷高一点,不然的话,你在这边是当不了助教的。在国内学车感觉没有必要,美国大多数州都需要重新考驾照。旧金山的公共交通比较发达,所以也不用担心交通问题。在美国最大的好处就是没有雾霾。
问答环节
请问学长:统计硕士和PhD出路有啥不同?有没有必要读PhD?
答:我也在考虑这个问题,因为PhD在美国这边是非常难毕业的,一般五年能准时毕业的人,都是非常牛的。如果你以后想工作的话,我觉得读硕士已经足够了,但是PhD的话会多一条出路。
请问学长:可以介绍一些伯克利统计教授做机器学习的么?
答:伯克利做的最好的应该是Michael I. Jordan,是机器学习和深度学习的大牛;还有郁老师,郁彬老师做机器学习做的非常好;还有一个叫做Martin J. Wainwright,这位教授做机器学习也是大牛。
请问学长:请问你本科期间在哪里做过哪些实习?
答:在本科大四的时候,我在Asia info亚信做过Data Application的实习,大四下的时候我在一家金融公司做的实习。
请问学长:请问机器学习和统计到底什么关系啊?是不是统计只是一种工具,机器学习是真正的研究方向?
答:现在学术界也很难回答这个问题,因为这个问题真正很难,传统统计像是贝叶斯统计,因果推断之类的,他们不需要用到太多机器学习方面的东西,但是你做现代统计的话,像是做高维统计之类的,机器学习是必不可少的。
请问学长:统计中的机器学习和EECS项目中的有什么区别?
答:现在统计中的机器学习和EECS中的差别已经越来越小了,统计基本上是从数学和理论的角度出发的,他会着重的讲一些他的理论和模型部分,而EECS的话更注重于讲他怎么实现。
请问学长:学长你好,如果只学了C和python,打算学习data science,还需要再学习java吗
答:做data science的话不需要学习java,但是如果你要接触一些并行计算等更高级的内容的话,java是需要的。
请问学长:学长,Linux在相关的学习和工作中有没有什么作用? 答:Linux在实际学习和工作中非常有用,因为很多数据是要在服务器上跑的,那上面都是Linux的操作,你如果懂得Linux的操作和show的话,对你的工作和研究学习是非常有用的。但是工作面试应该不会考这方面的知识。
请问学长:金融和机器学习差的挺远的啊,你有换导师吗?
答:金融和机器学习,其实现在结合的比较紧密,如果你未来想做quant方面的,比如说做量化方面的工作的话,那么金融和机器学习其实是结合起来的,在美国做quant的公司,很希望招的员工能有机器学习的背景。