用户
 找回密码
 立即注册
发表于 2011-11-8 17:54:56
36590

褚艳利

  2009年CUDA校园程序设计大赛三等奖获得者,全球第一本CUDA书籍主要作者,总编撰,现任阿里巴巴公司平台架构工程师。

陈羽北

  2010年CUDA校园程序设计大赛二等奖获得者,最年轻获奖者,现为清华大学四年级学生。


视频访谈地址:http://cuda.it168.com/topic/2011/11-8/hjxs/index.html

2011年10月23日上午9:00

褚艳利 阿里巴巴公司平台架构工程师
陈羽北 清华大学大四学生

主持人:
各位网友朋友们,大家好,欢迎收看IT168专家访谈节目,我是CUDA频道的编辑王玉圆,今天我们有幸邀到CUDA校园程序设计大赛的往届获奖选手。先请他们给我们做一下自我介绍。

陈羽北:
大家好,我是来自清华大学的本科四年级学生陈羽北。

褚艳利:
大家好,我是2009年,第一届CUDA程序设计大赛的获奖选手,我是三等奖。现在是阿里的一名普通的开发工程师。

主持人:
两位作为CUDA校园程序设计大赛的获奖选手,能不能给我们介绍一下,当时的获奖作品呢?

陈羽北:
我们当时是在清华大学(邓仰东)副教授的指导下,做了一个逻辑仿真程序的加速在GPU上,因为现在当代SOC设计,70%的时间都花在逻辑仿真验证上,非常的消耗时间,我们当时采用一个比较主流的CMB算法进行加速,借助GPU比较强大的平台,获得了平均十几倍到二十几倍一个加速效果。

褚艳利:
我当时做的是一个基于CSR格式的一个稀疏矩阵矢量乘这样一个基础算法,然后为什么会选择做这个题目,因为在一些大型的线程系统和特征值问题解决方面,每次在迭代的过程中,其实大部分的时间都用在这个稀疏矩阵的乘法上面,非常耗时一个操作,所以我们集中解决这个点。当时也是获得一个差不多十五倍的加速比,觉得还比较的不错。

主持人:
我们这次做这个项目,然后获得了加速比之外,还有没有什么应用价值?

陈羽北:
这个项目主要就是我们希望把它后续的,做成一款专门的加速器,因为本身SOC的市场还是很大的,我们都希望把很多有一些那种专门进行电路设计,以及逻辑仿真的公司,他们都面临这样一个时间消耗的问题,我们其实后续继续的把它发展称为一个可以用的,专门用来加速的一个平台。

主持人:
相当于一个应用程序是吗?

陈羽北:
对,其实希望把它借助GPU做成一个可以发布的供其他研究者和工业界的一个使用的东西,我们现在正在进行这个项目。

褚艳利:
我这个作为基础算法,最终还是希望放到库里面,各个方面都可以用得到。

主持人:
两位在参加CUDA校园程序设计大赛时候,有没有遇到什么困难?

陈羽北:
我觉得当时遇到一个比较大的困难,因为也是刚接触GPU编程这一类问题,当时调试对我来说是比较新的问题,以前一直是用gdb,现在当CUDA出来之后,我们面临多线程调试的时候,可能比如说写的程序有死锁,可能很多时候不按你想象的那样执行,你需要用CUDA的gdb,一个线程一个线程一步一步的看,当你线程非常多的时候,这可能就是一个很麻烦的工作,因为你可能找很久很久,连续的调十几个小时,二十几个小时,发现一个bug,非常的兴奋,这是一个问题。
第二个问题是对CUDA当时的架构理解还不是那么清楚,即使现在也不是那么清楚,但是比当时好很多,当时由于不是很清楚,涉及到这些内存应该怎么用,怎么分配,访存的模式应该是什么样的。如果做不好的话,很有可能一个不小心的疏忽,没有进行合并访存,或者进行了合并访存,可能一下程序四五倍的性能就差出去了。所以可能这是当时遇到两个比较大的困难。

褚艳利:
我当时因为其实是业余时间做这个,时间是我最大困难,我们当时做的时候,先是查的很多的论文,然后我们发现,其实这个东西做的比较成熟的在CPU上,然后效率还不错,然后有相关数据结构的设计等等,都有一些比较成熟的,比较好的设计,我们做的时候想怎么能比人家更好,更快,所以当时也是从三个方面着手。
你能不能让你的占用率,GPU最大化占用率最高,最大化存储器的吞吐量,这几个方面,然后就不断的优化你的程序,不断的跟它比较,然后就做成一个效果比较好的这样一个作品,大概这样子。

主持人:
我们知道两位都是获奖选手,陈羽北是最年轻的获奖者,CUDA程序竞赛是最年轻的获奖者。然后褚艳利也是获得了三等奖,而且写了一本CUDA方面的书。《GPU高性能计算之CUDA》,应该是主编?

褚艳利:
对。

主持人:
我想问一下,你们对获奖的有没有什么秘诀?经验什么的谈一谈。

陈羽北:
我其实觉得,因为我当时也是在实验室参与这个小组项目,我觉得合作的人很重要,因为当时的学长帮助,他们也做出非常多的比较卓越的贡献,一个是合作人很重要,第二是指导老师非常重要,你选择一个合适的题目,我们且不说这个事情是不是最后一定会做的非常的漂亮,但是我们说它的题目选择也是非常关键,直接涉及你是不是可以做,做出来的结果可能会是怎么样的,解决的问题是不是够好,我觉得这个是一个很重要的经验,选择合适的合作者,以及合适的指导老师。
第二个经验,要很耐心,因为程序做加速的时候,因为你可能一个很小很小问题,真的很小的问题,最后看到这个问题的时候你想笑,但是你如果不耐心的调试二三十个小时,你就找不到它。
第二个就是要认真的学习,因为接触这些新的平台,我们要尝试一些新的想法,可能和以前完全不一样,在接触一些新的问题的时候,不要保守自己以前的知识什么的,要去研究这种新的问题。

主持人:
创新?

陈羽北:
主要是接受新的概念。

主持人:
褚艳利呢?

褚艳利:
我的获奖秘诀其实说白了就是两个字“尝试”,不断的进行尝试,要把CPU那种思维走出来,然后逐渐的进入到一种并行的思维里面去,除了数据几个并行,我当时还尝试了“流”,就是比较偏任务级这样一个并行,当时也是GPU有七八种内存,一个庞大的内存模型,我当时我跟我的战友们,基本上八种都有用到,觉得这个尝试过程还是蛮美妙,有的时候你觉得可能用Texture Memory更好,但是出来的结果却很让失望,然后自己写一些Benchmark进行测试,不断的调用,这个过程很重要,跟自己的战友一起合作,很享受这个过程。
最大的秘诀就是“尝试”,并且几个人共同的努力。

主持人:
两位都是团队作战是吗?

陈羽北:
都是团队。

主持人:
团队之间有没有什么矛盾?

陈羽北:
矛盾?我觉得我们一向的很和谐,只是可能对有些问题会有一些争论,但是这仍然不是什么问题。

褚艳利:
我觉得我们分工比较多一点。

主持人:
主要怎么分工?

褚艳利:
比如说我,主要是提出一些我的想法,实践会分成不同的阶段怎么样,有的写Benchmark做测试,有的就是具体负责编码等等的。最大的问题就是时间,因为是业余时间在做。

主持人:
大家都是业余时间?

褚艳利:
都是业余时间做。

主持人:
你当时是这个团队负责人?

褚艳利:
算是。

主持人:
你分配任务给大家?

褚艳利:
自己闷着头做也不行,你得看看人家做这个题目的同学,他们做的是一个什么样子,同时翻阅非常多论文,你看看人家之前做的效果,如果你现在做的效果还没有之前做的好,一切都白费了,没有任何的价值。

主持人:
两个人在学习CUDA过程当中,开始怎么接触到CUDA的?

陈羽北:
CUDA,主要是根据我研究的兴趣有关,因为我当时在实验室里面,我们实验室主要是做的GPU架构的研究,你做GPU架构研究,如果不真正用GPU做一些程序,你真的谈不上GPU架构的研究,因为你说你没有用过它,你不能凭空想象它是怎么样的,你必须有一些第一手经验,我做这个程序的时候,出现了什么问题?我怎么解决它,这个过程中我认识它有什么问题,我怎么样对它进行改进,于是我拿仿真器怎么着了,再做一些改进,我再测试。所以这样看来我来接触CUDA就是一个比较自然而然。
第二个比较重要的问题,CUDA当时是在所有GPU里面,它的编程模型做的是最好的一个,让我们感觉非常的容易上手,这个就是很大的一个优点,因为你说一个编程语言是不是好用,是不是能用,这个真的区别很大。CUDA因为当时已经做的非常好用,利于我们上手,然后也达到接触GPU的目的,我们当时选择了CUDA这个程序。
由于我们当时其实是CUDA和清华一个合作研究中心。

主持人:
CUDA卓越中心是吗?

陈羽北:
是。

褚艳利:
我之前一开始接触还是大四时候,在翻译一本程序员杂志,上面写了一篇文章,不记得作者是谁了,但是那篇文章一看,觉得学习曲线很低,然后可能是年轻人对这种新技术比较的敏感一些,好像说的是这个曲线很低。我也会C,学习CUDA C会不会很简单,就是技多不压身,试一下,后来入门的时候,开勇、张舒、陈石他们都带着我学,所以学起来很开心不觉得一点累,慢慢的就明白了。

主持人:
当时的时候有没有什么一些学习的方法呢?

陈羽北:
虽然我后来看了很多GPU编程的书,包括胡文美老师他们写的这一类的书,当时我还读了你们写过的那本书,但是我感觉回过头来,如果要是没有太多的时间,因为CUDA是很好学,很好用一个东西,你只用Programming Guide也可以把上面知识吸收了,也能达到我的目的了。我们后面追求卓越,我们可以来看一些其他的书,如果我们真的没有时间,可以不必看那么多书,就是看Programming Guide就可以了,因为这个做的非常好。

主持人:
就是NV的一个官方文档?

陈羽北:
对,这个官方文档做的非常好,我知道很多的学长他们上手都是从这个官方文档开始的。之后,再遇到一些问题,再强化自己的知识,然后看待其他的研究者的经验,还有老师的一些心得。

褚艳利:
其实我跟他的经验是差不多的,一开始先看文档,我记得我们08年那回没有特别简短一个文档,就是直接的NVIDIA给了一个学习文档,大概有一两百页,那个时候我真的看完了,现在孩子比较幸福了,他有那个Best Guide,就是挺简短的。

陈羽北:
对,我看的时候就要比你好很多。

褚艳利:
我看的时候,真的是两百页的文档我看完了。

主持人:
现在好像是分好几类,比如说Best Guide或者Programming Guide。

褚艳利:
我觉得先看一下Best Guide对于CPU加GPU的异构编程有一个整体了解,对它内存模型,里面的Wrap等等有一些基础的概念有一些基本的了解,这是第一步。
第二步的话,像NVIDIA SDK包里面有非常多的Demo程序,我觉得这几个程序看下来基本上对CUDA程序已经算入门了。
但是说需要一些优化手段,那个必须结合你自己的应用,走进里面,不断做测试,不断的用Profiler工具不断的对你程序调优这样一个过程,前面学习起来还是蛮容易入门的,曲线很低,但是在优化过程中就会比较的痛苦一点。

主持人:
优化是一个比较难的工作?

褚艳利:
有时候那个寄存器的量你把握不好,有时候你觉得你写一个int i=0放在那里没有问题,但是其实寄存器是在使用的,所以要把无用的量都删掉,等等一些细节,还有一些循环的处理,数据结构的设计等等。
其实入门真的很简单,我觉得可能作为一个女孩子来讲,一周差不多,只要你有C的基础,一周可以入门,基本上半个月可以写出来基本的CUDA程序,但是你要调优的话,我认为没有一两个月的这样一个积累,做不出什么非常优秀的程序,优化还是一个比较困难的,所以如果想学好优化,还是应该把技术文档,一些书上给的优化经验多看一下。

陈羽北:
我补充一点,其实有一个挺重要的,因为我们那个文档固然很详细,里面介绍很全面的,各种各样的知识,实际上这些文档里面并没有哪一个程序员,就是说我这一个程序里面把所有东西都用到,学程序一个很重要特点,我没有必要完全把这个程序所有语法都学完了以后,我再开始,其实我需要的只是很基本的,很基本的通常都在前面,我们只要把前面看完以后,就能写出一个很基本的程序,这个时候开始犯错了,你就开始比较快速的这种学习的速度。这个步伐很好的,就是这样。

主持人:
当时在学习过程当中,有没有遇到什么困难?

陈羽北:
学习过程中。遇到什么样困难?我刚才其实在上一个问题说到了,我觉得文档写的很好,我当时一直在看那个文档,感觉如果不试一下,其实理解不太深刻,然后你可能产生疑问,你如果要是一直看,不动手,因为你动手写一个程序很简单,但是你一直看,不动手的话,你会产生各种各样的疑问,后来疑问就多了,所以我的一个学长,汪博学长,于浩学长,他就给我建议,你马上开始写一个程序,不用看,有疑问,那些东西很可能对你来说不是问题,因为你可能不会用到他们,你先写出来一个程序,以后你就知道,可能它原来就是这么简单,然后之后再逐渐的积累就好了。

主持人:
两位在学习过程当中,都有一些贵人相助。陈羽北是那个学长?

陈羽北:
对,这两个学长确实非常非常强,因为当时也是我刚开始进入实验室做研究,然后这两个学长可以认为是实验室的两个顶梁柱一样人物,他们现在分别在斯坦福大学和奥斯汀大学,计算机系的,也非常不错的。他们当时带我入门,也是把我引入这个领域,在一开始让我有一个比较快的成长速度。

主持人:
羽北应该还是有老师教是吗?

陈羽北:
对,邓老师就不用说了,我们所有都是在邓老师的带领下成长的,所以因为老师指导一开始就说,是非常关键的,可能整个的都会说,他们两个是邓老师太出来的。

主持人:
羽北来说比较幸福,有邓老师带?那褚艳利?

褚艳利:
是,因为我是我们实验室个人对这个比较感兴趣,也是第一个学这个,而且是女孩子,没有老师带,比较痛苦的一个处境,但是还好,有开勇和张舒他们带我。我记得当时学的最困难一个点,就是学shared Memory的问题,还有在显存里面的问题,这个当时因为毕竟我学过CPU,学这个比较容易的语言,我考虑这么底层,这个十六个区怎么搞,我转不过来,我记得当时开勇陪了我一个晚上,我们远程调试,他带我一个晚上,我大概在凌晨五点的时候,我终于知道原来这个就是,现在想想干这个挺简单的。

陈羽北:
熬夜对身体很不好的。

褚艳利:
但是真的,2008年那个时候一个情况,当时我们还非常的感谢他们带我这一程,那个概念解决以后,其实后面走的比较的顺,比较的平坦,挺感谢他的。

主持人:
在学习过程中,有没有觉得有困难的地方?

褚艳利:
没有特别困难的地方,其实我觉得CUDA C还是很容易上手的,C基础比较好,CUDA一周学了大概没有什么问题,就入门。

主持人:
女生学这个编程有没有困难?

褚艳利:
入门大家都可以入门,但是做下来,走的远的不是特别多的感觉。

陈羽北:
其实感兴趣的比较少了。我们换句话来说,女生对代码感兴趣也偏少。
但是对代码可能感兴趣的相比男生要少一些。

褚艳利:
我庆幸我是这个队伍的一员。

主持人:
女生做到这个地步很强了,还有一个问题,学习CUDA对大学生就业有什么帮助吗?这个得问艳利了。

褚艳利:
对。我是去年找工作的时候,这个对我帮助特别大,因为跟张舒合作了一本书,他们认为一个女孩子,也是一个年轻人,对技术保持高度的敏感性,他们觉得非常不错,而且对并行这样一个概念也不是说一无所知,因为像我们现在在阿里做的话,尤其是支付宝,追求是高性能,高可靠,并发绝对是很高的,你有这样一个并行的基础,所以当时有比较大的加分。

主持人:
羽北呢?

陈羽北:
我的想法,当然我还没有具体经验,我感觉从学长,因为实验室也有研究生学长毕业这一类的,还有出去找实习之类的经验。
实际上GPU带给我们最底层架构的一种认识,这种认识因为现在是一个计算的时代,什么样公司可能都面临计算的问题,从游戏公司,到EDA公司,你们做的网络公司,我们大家全都在讨论计算的问题,我们所有人都在讨论大数据,每天产生很多数据怎么进行处理?有这样对并行架构一个理解,确实像你说的很容易的,可能给我们提供一些更多的手段,更多的机会来进行处理我们的数据,让我们的东西更好用,所以我感觉他们在找实习的时候,他们的这种知识对他们是一个很大的加分,他们通常这些有这样经验的学长,还有做的不错的学长,他们在实习找工作都是不错的。
比如说有去谷歌,有去英特尔,还有一些是游戏公司,当然可能我们联系不是那么近,但是它也是和GPU在直接打交道,我觉得这个也是属于很不错的。

主持人:
像做游戏的,像PhysX都是用CUDA在做的。

陈羽北:
也有一些学者,可能这些方面来就业,还有在网络方面也有一个学长,最后去了百度,也是很不错的公司,他们去哪里就是做专门的并行的研究,因为我知道他们每天要跑很多很多的那种数据分析的程序,可能一到后半夜他们服务器开始忙了,跑这些数据,他们有这样的经验,在公司就业还是不错的。

主持人:
羽北也是,刚去了斯坦福实习是吗?

陈羽北:
对。

主持人:
是不是有CUDA这个经验?

陈羽北:
不是直接的CUDA的作用,因为可能也是做GPU研究,在并行方面做了一些研究,当时在我们斯坦福这是一个项目,我们实际上把材料提交给对面的教授,对面教授可能觉得你有这么多程序调试经验,我简历上,他说你有一个连续六十个小时的调试经验,因为他们实验室做的事情经常需要调试,工程量很大,你有这样的经验,对我来说是很不错的。
第二个,你对并行架构的理解,因为他们实验室实际上是非常希望加速,但是不指望我一个月过去把他们大的程序加速,但是可能希望你过来了解了解,你了解这个应用,对你将来成长也是很不错的。
因为可能并行计算涉及几个问题,一个是架构设计,中间的语言提供,以及上层的应用,我这个暑假做的是上层的应用,我来了解这个应用,以后是否能给他们加速,进行进一步的合作。

主持人:
有没有之后有可能去斯坦福大学深造呢?

陈羽北:
这个现在还不好说,但是我觉得还是要努力的。

主持人:
我觉得有这个实习的经验,应该更容易一些。

陈羽北:
谢谢。

主持人:
这次GPU大会亚洲站会在北京,12月14到15日举行,你们有没有机会参加呢?

陈羽北:
我们实验室可能组织大家参加,如果要是组织的话,我们非常可能去,那我们就可能一起去了。这是可能到时候还得看我们组里面的安排。
当然我粗略看了一下它的题目,还是有很多题目我是非常感兴趣的。

褚艳利:
我也是比较期待,我最期待的就是会有一些还是加减密方面的一些算法的加速,尤其是数挖方面,数据挖掘,之前加速的算法,我觉得像淘宝现在购物人特别多,希望这种能够把GPU这样一个架构引入进来,更快速的分析用户的一个消费习惯,这是非常有意义的。

主持人:
就是数据挖掘,数据分析?

褚艳利:
对,这是我最最感兴趣的一个方面。

主持人:
淘宝,现在也是大数据。

褚艳利:
对,数据库里面东西肯定在,完了之后你怎么分析这个数据,得到一个比较有预测性,或者是一个比较有意义的结果。

主持人:
给决策来做一下。

褚艳利:
是,这个很重要。

陈羽北:
我比较关注的问题,我感觉也分为两个部分,其实是三个部分,我觉得第一个部分是说,刚才说的应用,在这样一个计算时代,GPU现在能力变的很强以后,有没有一些非常非常有趣的应用出来,这个可能需要一些专家,他们来提供一些比较有趣的想法,来把这种编程人员引入进来,我们想他们比较的有想法,可能石油勘探或者是基因计算这些新的命题,他们有没有这样新的命题提出来。
第二个,因为我之前做的研究里面,我感觉这种CUDA虽然好用,但是让每个人很容易用还是有困难的,不可能是让所有人都会C一样,是不是对这样并行的时代有没有一些新的语言的改进。我们有没有合适的语言,最好用的我们说的有很多很多的Memory然后我们是不是可以把底层的细节隐藏下来,当然可能有些专家他们不同意,但是可能对一些比较的那种初级的程序员,或者没有时间进行仔细学习的人员,比如说一些Mapreduce编程模型,对我们实际上是很重要的,我觉得是给大家提供更好的方式来使用GPU,我很关注他们的语言。
还有一些架构上面非常新颖的改进,因为我们知道它可能有一些新的特性,就像点对点通信,就是在这种情况下是不是可以给我们一些很激动的特性。

主持人:
我这里还有一个网友的问题,他是问对于有效带宽计算,有没有相关软件进行详细分析?

褚艳利:
好像还没有一个专门软件用来做这个,我们如果有一个Kernel程序,如果测他的有效带宽还是用公式来做,就是这个公式,就是读时间加写,然后除以这个执行总实际就是有效的带宽。
这个带宽算出来了这个值是真正的值,真实的值,但是你用Profiler测出来有一个参数是Prof,这样一个参数,你对比一下你会发现,用Profiler测出来比较高这个值,就是带宽比较高。这个跟它的硬件设计有关系。
你真正的做的就是去显存里面读一个Byte的数据,但是实际上不可能的,一次可能读回来一块,实际有一些百分比浪费掉,这个值测试出来比较大,我们把你自己计算出来的值,和这个参数做对比,其实你就能看到有多少是有用的,有一个百分比,有百分之多少是你现成要用到数据,百分之多少是你相当于白取了。
如果你再把这个值跟理论值进行比较,你就能看到自己现在优化到什么程度,还有多大空间要走。

陈羽北:
我感觉是这样的,我们在做GPU程序设计的时候,我通常的感觉,GPU我们做加速器的时候,通常我们先准备好数据再开始算,我们准备数据时候,我们通常不倾向于把很多很多的数据,分每一个小块每一个小块开始拷,我们经常是一个大块一个大块的来创建拷贝,这样因为它涉及到一个API启动延迟的问题,如果要是符合我刚才说的这个方法,可能我们并不需要一个专门的测试软件,因为我们可以写出来非常简单的程序,我们自己来测试。这个实际上是一个非常简单的,我们用CUDA,因为不是那么困难,我们可以用一些时间来检测,我们加一个时间的那种检测的程序。然后两个语句,我们做两步,第一步是做一个,大的数据块拷贝过去,这个时间里面我们如果简单的认为是一个API启动和一个拷贝的时间。
第二个就我做一个非常小的数据块,可能数据量我们觉得不是很大,我们把两个剪掉,分别得到是API时间,第二个是得到了我们数据块时间,这个可以做,第二个还有一个方法。但是这个是比较的麻烦一点,GPU有一些比较好的仿真器,这个仿真器虽然不能百分之百的帮我们把它再现出来,但是对我们访存提供一个直观的印象,我们拿这个仿真器,这样的东西,我们用它来进行我们程序的分析,也可以得到一个带宽的数据,但是我觉得我提到前者是我比较建议的,比较倾向的。

主持人:
两个人认为CUDA有哪些优势?

褚艳利:
首先我觉得CUDA最大的优势,在于它学习曲线低,这对于女孩子来讲就是一个特大的优势。然后第二点如果你现在面临一个应用就是计算密集型的,然后它逻辑又相对比较简单,没有那么多的分支等等,当你做完这个CPU程序的时候,我建议你不妨真的就是在GPU上试一下,改成CUDA程序非常简单的,你再花一天时间可以做完,就是一个中等规模的一个应用。希望花一两天时间,可以把它移植到GPU上来做,你看一下效果,可能达到一个非常惊人的效果,不妨试一下,移植性非常好。

陈羽北:
其实我们刚才一直在谈CUDA优势,我们谈过好多次,其实就是再说一遍。

主持人:
总结一下。

陈羽北:
我觉得CUDA,因为作为一种编程模型,我们可以认为CUDA是一种编程的框架,给我们一个最直观的印象就是说它已经非常非常好用,然后而且我们可以看到CUDA的发展速度非常非常快,从我们刚才开始,你们当时用的应该是CUDA 1.0。就是我们可以说很古老的,那个时候可能调试什么都非常困难,那个时候只有一些非常专门的CUDA程序员,我们才在用,甚至高性能领域,他们可能不愿意用,觉得那个时候可能不是很好用,我们看它发展速度,一直到现在,连Visual Stdio提供一整套的这种非常好用的工具链,所以门槛是不断的降低,结果就是语言越好用我们愿意用,越高层的语言,比如说java什么的,我们肯定愿意用,因为现在容易写,所以我觉得最大一个优势是它的易用性,而且以它现在这样的发展速度,我可以觉得后来可能和C没有什么区别。
第二个优势,我觉得它把硬件的细节,很多其实还是隐藏了很大一部分,在这里面CUDA其实也可以认为是易用性一个展开,我们认为是说,你用CUDA可以写很复杂很复杂的程序,但是你想简单也很简单,因为我们优化手段可能有各种各样的优化手段,但是我们归根到底,到最初级,我们可以想几个方针,一个是合并访存,我们是不是写的那个程序可以能够合并访存,如果写的合并访存,本身内存带宽就很高了,当然我们不是说合并访存到多么完美。
第二个是说它的这个Shared Memory是不是能够合理使用,就像一块我们可以自主控制的有LE Cache那样速度的存储器,我们如果可以合理的使用它,学会如何合理使用它,把我们的任务比较常用的数据安排在里面,我们可以减少访问外存时间。
第三个是寄存器,我们是不是能够全都让它存在于寄存器里面,而不至于放到全局内存里面,如果放在全局内存里面可能比较慢,但是我们如果优化好这一点,满足以上三点的话。然后同时我们甚至不考虑Cache这些问题,它本身已经能达到很高的性能,这三点非常非常容易。
如果再复杂,我们可能考虑这个Cache的一些效率,我们可以搞的很复杂。你想搞的很好,你想搞好的话,可以用很简单的方法,但是你想追求卓越,还可以有更深的方法,所以我觉得适合不同人入门。

主持人:
CUDA还是比较容易学是吗?入门很简单?

陈羽北:
语言最大的优势就是易用性,第二个就是效率,易用性其实我觉得可能是最重要的。

主持人:
感谢两位今天来到我们的访谈节目。我们下次再见。

(结束)

使用道具 举报 回复
发新帖
您需要登录后才可以回帖 登录 | 立即注册