当前位置：网站首页 » 导读 » 内容详情

alphago论文直播_李世石和alphago对弈(2024年12月全新视觉)

内容来源：合毅科技所属栏目：导读更新日期：2024-12-02

alphago论文

DeepMind 【DeepMind推出芯片领域的“AlphaGo”，几小时搞定设计，已被联发科等采用】一直以来，计算机芯片是驱动 #AI# 发展的重要基础。现在，AI 也能够加速和优化芯片的设计了。近日，#谷歌# DeepMind 公布了一项名为 AlphaChip 的强化学习方法，可以大幅加速和优化芯片布局设计过程。而且，已被谷歌、联发科等公司采用，该方法的实用性得到了广泛验证。 DeepMind⠥œ襍š客中写道：“AlphaChip 是首批用于解决实际工程问题的强化学习方法之一。它可以在数小时内生成超越人类设计或同等水平的芯片布局，而无需耗费数周或数月的人力，其布局已应用于数据中心、手机等产品中的芯片。” 实际上，DeepMind 早在 2020 和 2021 年就分别发布了相关的论文，介绍了这种强化学习方法。戳链接查看详情：

何凯明加盟MIT，深度学习新星✨ Kaiming He最近更新了官网，确认了自己将加入MIT的消息。让我们回顾一下他在计算机视觉和深度学习领域的卓越成就。 He在深度残差网络（ResNets）方面的论文是2019年、2020年和2021年Google Scholar Metrics中被引用次数最多的论文之一。他的工作为现代深度学习模型的基础组件（如Transformers、AlphaGo Zero、AlphaFold）奠定了基础。在视觉对象检测和分割方面，He的Faster R-CNN和Mask R-CNN论文产生了重大影响，是这些领域被引用次数最多的论文之一。他在视觉自监督学习方面的作品也是CVPR 2020、2021和2022年发表的高被引论文。截至2023年7月，他的论文引用次数超过46万次，并且每年以超过10万次的速度增长。 He还获得了多个知名奖项，包括2018年PAMI青年研究员奖、CVPR 2009、CVPR 2016、ICCV 2017最佳论文奖、ICCV 2017最佳学生论文奖、CVPR 2009最佳论文荣誉奖、ECCV 2018、CVPR 2021、ICCV 2021的Everingham奖。 He的加入无疑将为MIT的深度学习研究注入新的活力，期待他在未来带来更多创新性的工作。

昨天，诺贝尔物理学奖颁给了Geoffrey Hinton（杰弗里ⷨ𞛩`𜉯𜌥‡𚤹Ž不少人的意料。不管有没有争议，辛顿在深度神经网络领域的地位毋庸置疑，而且他不是那种只待在象牙塔里的人，跟产业的连接也很密，现在全球AGI领域各条战线上的明星，或者明星公司，基本都能跟他搭上线。关于他的故事我们写过很多，这里摘录一些： 1. 2012年10月，辛顿带两个学生ImageNet图像识别比赛上夺冠，然后把自己和两个学生打包成一家公司（图1），起名叫DNNresearch，给自己估值1200万美元，邀请几家科技大厂来拍卖。是谁促成这件事的呢？是百度。 2. 当时百度多媒体部的负责人，拿过第一届ImageNet大赛的冠军，所以在读了论文后，马上意识到辛顿团队的巨大价值，就给辛顿发邮件要合作，这个人就是余凯，就是汽车芯片和智驾领域的独角兽“地平线”的创始人（图2）。 3. 过了多年苦日子的辛顿，看到邮件后一口答应，顺带提出100万美元的合作经费，余凯向李彦宏请示，后者爽快地答应。然后辛顿意识到产业界如此饥渴，干脆多问几家，于是合作就变成了竞标，邀请四家公司参与：Google、微软、百度，和当时还没做出阿法狗的DeepMind。 4. 拍卖在加州和内华达州交界处的太浩湖（Lake Tahoe）举行，这个地方就是《教父2》开头科里昂家族开派对的地方。 5. 起价1200万美元，每抬一次价格是100万美元，然后四家公司迅速抬到了4400万美元，把辛顿搞的有些头晕，果断喊停，把公司卖给最后的喊价者Google。百度尽管没能夺标，但这件事足够余凯和李彦宏吹一辈子。 6. 当时代表微软参与竞标的，是邓力（图3）。邓力是语音识别领域的大神级人物，跟辛顿相识多年，深度神经网络用到语音领域，这两人贡献巨大。提到语音识别，你是不是就想起了科大讯飞？是的，邓力的母校就是中科大，科大讯飞创始人刘庆峰在1998年拿到ISCSL最佳学生论文奖，就是邓力给发的奖，他之后也多次回合肥跟讯飞团队交流。 7. 代表Google参与竞标的，是谷歌的传奇大神Jeff Dean（图4）。虽然最后夺标，但Jeff Dean心情复杂，因为辛顿在2012年6月曾经短暂参与了Google的The Cat Neurons项目（即“谷歌猫”），然后辛顿一眼就指出了这个项目的缺陷——使用16000块CPU来，但没有使用GPU。 8. 当年推荐辛顿去“谷歌猫”项目的，是另一位人工智能领域的大神吴恩达（图5）。他后来经过余凯的牵线，去百度待了一段时间。 9. 正是受谷歌猫项目的启发，辛顿就带着学生搞出了AlexNet算法，里面只用了4块英伟达的GPU。而夺冠之后，全球学术和产业界终于意识到了GPU在深度神经网络训练方面的独特优势，订单像雪花一样向英伟达飘去——所以ImageNet这场比赛，其实也改变了黄仁勋的命运。 10. 但讽刺的是，2009年辛顿给英伟达写了一封邮件，想要一块免费的显卡：“我刚刚告诉一千名机器学习研究人员，他们应该去买英伟达的显卡。你能免费送我一个吗？” 然后英伟达……拒绝了。AlexNet算法用的那两块英伟达GTX580，是辛顿拿出紧张的经费自己买的。 11. 当然，ImageNet这场比赛还链接到另外两个人——一个是大赛的创办者李飞飞（图6），是华人在AI学术领域最至高的存在；另一个是辛顿团队两名学生之一的Ilya Sutskever（图7），后面是OpenAI的创始人兼首席科学家。这里就不多赘述了。 12. 参与竞标的DeepMind，拿到了马斯克的投资，然后马斯克又推荐给Google创始人拉里ⷤ𝩥凯𜌤𚎦˜ogle就让辛顿参与收购评估。由于辛顿腰不好（只能躺，不能坐），所以他们包了一架私人飞机，改造了座椅，让辛顿躺着飞过去。最后Google花4亿美金收购DeepMind，之后DeepMind做出了震惊世界的AlphaGo。 13. Google对辛顿团队的竞标，其实引发了一场科技大厂抢夺教授的风潮，思路很奇特：先把老师挖过来人，然后期待他们把学生也带过来。于是Facebook挖了杨立昆（图8），亚马逊挖了Alex Smola（图9），苹果挖了Ruslan Salakhutdinov（也是辛顿的学生）。这个几个人都带了很多学生加入，“带徒入组”。 14. 总之，从2012年6月的“谷歌猫”项目，到10月的ImageNet大赛，再到12月的太浩湖竞拍，差不多6个月的时间里，围绕着杰弗里ⷨ𞛩Ῠ🙤𘪤𚺯𜌥…觐ƒAI领域最重要的公司和人，几乎都串了起来。历史就是这么有意思。 15. 我们之前根据这段历史，写过一篇「2012，改变人类命运的180天」，链接附上评论里，大家有兴趣可以一看。另外，关于辛顿家族，还有很多趣事，这个大家可以看刘群老师写的这篇博文刘群MT-to-Death 16. 这个故事其实还有一个启发，就是中国的科技大厂，一定要参与对全球人才的盘点和追逐，虽然现在这个国际环境下越来越难，但你不参与，很多时候就可能连外面正在发生什么都不知道；你参与了，能第一时间感受到温度。越是这种环境，国内大厂越不能闭门造车。

𐟓š Day 2 阅读记录与心得分享 𐟎‰ 周末愉快！今天我们来聊聊如何高效地记录和整理阅读过的学术文章。𐟓– 𐟔 深度学习：LeCun et al (2015) 在《Nature》上发表的这篇论文，详细介绍了深度学习的基础概念、发展历程和成功应用。深度学习是一种特殊的机器学习方法，利用神经网络进行数据表示和学习。 𐟌𓠩š机森林：Breiman (2001) 在《Machine Learning》上发表的论文，介绍了随机森林算法，这是一种基于决策树的集成学习方法。随机森林在分类和回归任务中表现出色，具有高准确性和稳定性。 𐟓𘠥›𞥃分类：Krizhevsky et al (2012) 在《Advances in Neural Information Processing Systems》上发表的论文，提出了一种基于深度卷积神经网络的图像分类方法，大幅提升了ImageNet竞赛的性能。 𐟒ᠨ‡꦳覄力：Vaswani et al (2017) 在《Advances in Neural Information Processing Systems》上发表的论文，提出了Transformer模型，引入了自注意力（self-attention）机制。Transformer模型在自然语言处理任务中取得了显著成果。 𐟎𒠥›𔦣‹AI：Silver et al (2016) 在《Nature》上发表的论文，介绍了AlphaGo，一种结合深度神经网络和蒙特卡洛树搜索的围棋AI。AlphaGo在2016年战胜了世界围棋冠军李世石，成为了人工智能领域的一个里程碑。学术研究需要认真对待，如果有任何问题，欢迎大家指正和交流！𐟤

𐟌Ÿ顶尖计算机研究团队最新动态𐟌Ÿ 𐟔 探索国际顶尖计算机研究团队的最新研究成果，这些团队在官网不断更新他们的最新进展，值得关注！ 𐟏† DeepMind DeepMind，位于伦敦，由人工智能专家戴密斯ⷥ“ˆ萨比斯（Demis Hassabis）等人创立，隶属于Google旗下。他们将机器学习和系统神经科学相结合，开发了围棋机器人AlphaGo和蛋白质折叠预测系统AlphaFold。 𐟧 Google Brain 谷歌大脑项目始于2011年，由Jeff Dean、Greg Corrado和斯坦福大学教授Andrew Ng共同研究。谷歌大脑结合了深度学习、人工智能研究和大规模计算机资源，为谷歌内部多个AI项目提供研究工具，谷歌翻译中就应用了谷歌大脑的自然语言理解技术。 𐟤– OpenAI OpenAI是一家在美国成立的人工智能研究公司，致力于实现安全的通用人工智能（AGI）。由马斯克、Y Combinator总裁阿尔特曼和PayPal联合创始人彼得ⷨ’‚尔等硅谷科技大亨创立。最近，他们的DPT-3大模型和图像生成器DELL-E引起了广泛关注。 𐟓𑠍etaAI MetaAI（原名FAIR）是Facebook的人工智能研究团队，专注于基础科学和长期研究。他们发表了大量学术论文，涵盖计算机视觉、自然语言处理和对话型AI等领域。

深度学习的发展历程：从黑暗到光明深度学习的发展可以追溯到上世纪60年代，当时罗森布兰特创建了马克一号感知机，这是最早的神经网络之一。然而，早期的神经网络并没有得到主流学术界的认可，许多学者如杰夫辛顿、杨立昆、约书亚本吉奥等，在不被理解的情况下，坚信深度学习会改变世界，持续探索。 1986年，辛顿与鲁梅尔哈特、威廉姆森共同发表了“反向传播”论文，扩展了神经网络的功能。同年，杨立昆也创造了一个可以识别手写数字的神经网络LeNet。到了1989年，波默洛基于辛顿的研究，制造了基于神经网络的自动驾驶汽车ALVINN。然而，20世纪90年代到21世纪第一个十年，人工智能经历了第二次寒冬。 2007年，辛顿创造了术语“深度学习”，标志着这一领域的正式命名。2010年，戴密斯哈撒比斯和莱格、苏莱曼创立了DeepMind。2012年，辛顿与Alex Krizhevsky、Ilya Sutskever发表了AlexNet论文，并成立了DNN research公司，最终以4400万美元卖给了谷歌。同年，百度也成立了IDL（深度学习实验室），而facebook则在2013年成立了人工智能实验室。 2015年，Open AI成立，而到了2016年，Deepmind的Alphago在韩国首尔击败了李世石，名声大噪。2018年，马斯克离开了Open AI，而微软则在2019年向Open AI投资了10亿美元。 Open AI的故事大家耳熟能详。2022年11月，Open AI发布了ChatGPT，上线5天用户数就突破了100万。到了2024年2月，文生视频大模型Sora发布；同年5月，GPT-4o推出，能够更自然流畅地处理文本、图像和音频。深度学习的发展历程充满了挑战和机遇，从早期的黑暗探索到现在的广泛应用，每一次的突破都离不开那些坚持和努力的科学家们。

传统科学意义上最看重的理论和创新在深度学习领域也开始变得可疑，性能似乎是绝对的指标，但也因此，让工程和科学的界限变得模糊。我个人喜欢的计算机研究是在有复杂且精巧的工程的同时，又有方法上的合理与惊艳，最后带有思想的简洁有力，我心目中最符合条件的论文一个是Unix，一个是AlphaGo 5/

#alphafold拿下诺贝尔化学奖# 【独家专访诺奖得主DeepMind CEO哈萨比斯：我们将看到一种全新的科学复兴】注：本文系旧文重发，首发于2022年02月17日。近日，《#麻省理工科技评论# 》独家专访了 DeepMind 的 CEO 兼联合创始人戴密斯ⷥ“ˆ萨比斯（Demis Hassabis），从他的学生时代聊到创业历程，亦从 AlphaGo 聊到了 AlphaFold。尽管 AlphaFold 在 2021 年名声大噪，但很明显这是哈萨比斯的起点，而不是终点。他对《麻省理工科技评论》说：“我们将看到一种全新的科学复兴，这些 AI 技术将继续变得更加复杂，并被应用到广泛的科学领域。随着 AI 浪潮的兴起，更多的问题将变得可以处理。” 如他所言，2 月 16 日，DeepMind “果真”公布了 AI 用于核聚变的新成果。当天，该公司与瑞士等离子体中心（Swiss Plasma Center，SPC）宣布，双方训练出一种深度强化学习算法，可用于核聚变研究中的等离子体磁控制。相关论文以《通过深度强化学习对托卡马克等离子体进行磁控制》（Magnetic control of tokamak plasmas through deep reinforcement learning）为题发表在 Nature 上 [1]。戳链接查看详情：

今年真是AI大年，科学领域连拿物理化学这两个可以说是最重磅的奖项，商业领域老黄成为三万亿龙头，一度登顶…hinton还有三巨头加上Schmidhuber就不说了，哈萨比斯可以说是年轻一辈里我最喜欢的AI科学家，AlphaGo（不是拿奖的fold）至今还是我最喜欢的ai论文，甚至没有之一 1/

LLaMA版o1开源，数学大提升！最近，上海AI Lab团队发布了他们的最新成果——LLaMA版o1项目。这个项目的目标是复刻OpenAI的o1推理大模型，并且已经将相关代码开源了。LLaMa版o1采用了蒙特卡洛树搜索、Self-Play强化学习、PPO以及AlphaGo Zero的双重策略范式，使得模型在数学能力上有了显著的提升。其实，这个项目早在2024年6月就开始了，当时团队就在探索如何通过蒙特卡洛树搜索来提高大模型的数学能力。他们的研究在开发者社区中引起了不小的关注。随着OpenAI o1系列的发布，团队进一步升级了算法，专注于解决数学奥赛问题，作为OpenAI草莓项目的开源版本。到了10月初，团队发布了一篇新论文，介绍了他们使用成对优化的方法来提高Llama模型在数学奥赛中的表现。在AIME2024基准测试中，优化后的LLaMA-3.1-8B-Instruct模型在30道题中做对了8道，超过了除o1-preview和o1-mini之外的其他商业闭源方案。到了10月底，团队宣布他们在复刻OpenAI o1的努力中取得了重大进展。他们成功使模型在学习过程中通过与搜索树交互获得高级思维能力，且无需人工标注。项目在不到一周的时间内就完成了开源。目前，LLaMA版o1已经开源了预训练数据集、预训练模型和强化学习训练代码。OpenLongCoT-Pretrain数据集包含超过10万条长思维链数据，每条数据都包含一个完整的数学问题推理过程，包括思考内容和评分结果。这样的数据集使得模型能够读取和输出类似o1的长思维链过程。尽管预训练代码尚未发布，但推荐使用LLaMaFactory作为替代。在预训练模型的基础上，可以继续进行强化学习训练。训练过程包括使用蒙特卡洛树搜索进行自我对弈、将经验存储在优先经验回放缓冲区中、从缓冲区采样批次数据进行训练以及更新模型参数和经验优先级。训练代码中还使用了LoRA进行参数高效微调、PPO算法作为策略优化方法、GAE算法用于计算优势函数以及优先经验回放提高训练效率等关键技术点。 LLaMA-O1的代码发布在名为SimpleBerry的GitHub账号下，该账号并没有特别简介，显得相当神秘。与SimpleBerry相关的账号和官网只透露其为一个研究实验室，并未透露更多研究方向信息。

专栏内容推荐

954 x 473 · png
AlphaGo: How AI Mastered the Game of Go | by Diego Unzueta | Towards ...
素材来自:towardsdatascience.com

600 x 795 · jpeg
Knowing and Doing: Personal Archives
素材来自:cs.uni.edu
1440 x 1415 · jpeg
【论文详解】—AlphaGo中用到的3个关键技术_apalphago论文-CSDN博客
素材来自:blog.csdn.net

733 x 508 · png
【2017最佳机器学习论文】AlphaGo Zero最赏心悦目（一文读懂大咖论文）-CSDN博客
素材来自:blog.csdn.net
600 x 338 · jpeg
深度解读AlphaGo - 知乎
Nature Cover
Go Game
Move 37

1080 x 570 · jpeg
谷歌AlphaGo论文作者离职创业，或将获得2.2亿美元首轮融资|人工智能|谷歌|DeepMind_新浪科技_新浪网
素材来自:finance.sina.com.cn

905 x 843 · png
AlphaGo论文解析-第01篇 - 黎明程序员 - 博客园
素材来自:cnblogs.com
1603 x 871 · png
AlphaGo论文解析-第01篇 - 黎明程序员 - 博客园
素材来自:cnblogs.com

1090 x 333 · png
【AlphaGo】【论文阅读】_alphago探究论文怎么写-CSDN博客
素材来自:blog.csdn.net

767 x 173 · png
【AlphaGo】【论文阅读】_alphago探究论文怎么写-CSDN博客
素材来自:blog.csdn.net

600 x 563 · jpeg
AlphaGo 论文详细解读，为什么 AlphaGo的算法就好使？ - 知乎
素材来自:zhuanlan.zhihu.com
428 x 463 · jpeg
AlphaGo 论文详细解读，为什么 AlphaGo的算法就好使？ - 知乎
素材来自:zhuanlan.zhihu.com

408 x 73 · png
【AlphaGo】【论文阅读】_alphago探究论文怎么写-CSDN博客
素材来自:blog.csdn.net

447 x 73 · png
【AlphaGo】【论文阅读】_alphago探究论文怎么写-CSDN博客
素材来自:blog.csdn.net

255 x 399 · jpeg
AlphaGo 论文详细解读，为什么 AlphaGo的算法就好使？ - 知乎
素材来自:zhuanlan.zhihu.com
1801 x 649 · png
AlphaGo论文解析-第01篇 - 黎明程序员 - 博客园
素材来自:cnblogs.com

667 x 444 · jpeg
AlphaGo重出江湖，又发了一篇Nature
素材来自:sohu.com
2288 x 844 · png
Alpha Go论文解析 | 蘑菇先生学习记
素材来自:xtf615.com

2128 x 1914 · jpeg
深入浅出看懂AlphaGo Zero （文章最后有原AlphaGo Zero论文地址）_alphago论文讲解-CSDN博客
素材来自:blog.csdn.net
600 x 400 · jpeg
深度 | 从AlphaGo的成功说起 - 知乎
素材来自:zhuanlan.zhihu.com

3086 x 850 · jpeg
深入浅出看懂AlphaGo Zero （文章最后有原AlphaGo Zero论文地址）_alphago论文讲解-CSDN博客
素材来自:blog.csdn.net

600 x 411 · jpeg
AlphaGo的胜利：人工智能的历史性跨越 - 纽约时报中文网
素材来自:cn.nytimes.com
3170 x 1542 · jpeg
深入浅出看懂AlphaGo Zero （文章最后有原AlphaGo Zero论文地址）_alphago论文讲解-CSDN博客
素材来自:blog.csdn.net