819
5呆板之心报道编辑：张倩、泽南从一行行代码、解释中感受AlexNet的诞生，大概老代码中还藏着开导将来的「新」知识。想知道AlexNet2012年的原始代码长什么样吗？如今，时机来了！刚刚，谷歌首席科学家JeffDean公布，他 ...
|
呆板之心报道 编辑：张倩、泽南
想知道 AlexNet 2012 年的原始代码长什么样吗？如今，时机来了！刚刚，谷歌首席科学家 Jeff Dean 公布，他们与盘算机汗青博物馆（CHM）互助，共同发布了 AlexNet 的源代码，并将恒久生存这些代码。  开放后的代码库如下：  GitHub 链接：https://github.com/computerhistory/AlexNet-Source-Code AlexNet 是一个人工神经网络，用于辨认照片内容。它由其时的多伦多大学研究生 Alex Krizhevsky 和 Ilya Sutskever 以及他们的导师 Geoffrey Hinton 于 2012 年开辟。 在盘算机汗青上，AlexNet 的出现有着划期间的意义。在它出现之前，很少有呆板学习研究职员利用神经网络。但在 AlexNet 出现之后，险些全部研究职员都会利用神经网络。从 2012 年到 2022 年，神经网络不停取得进步，包罗合成可信的人类声音、击败围棋冠军选手、模仿人类语言并天生艺术作品…… 终极，OpenAI 于 2022 年发布 ChatGPT…… 它是这一系列故事的紧张出发点。 「谷歌很高兴将具有开创性意义的 AlexNet 项目标源代码贡献给盘算机汗青博物馆，」Jeff Dean 说，「这段代码是 Alex Krizhevsky、Ilya Sutskever 和 Geoffrey Hinton 撰写的标记性论文《ImageNet Classification with Deep Convolutional Neural Networks》的底子，该论文革新了盘算机视觉范畴，是有史以来被引用次数最多的论文之一。」  Google Scholar 数据表现，AlexNet 相干论文被引量已经凌驾 17 万。 除了代码自己的代价，HuggingFace 团结首创人 Thomas Wolf 还发现，代码中的解释也非常有开导性。他说，「大概真正的汗青记载是 AlexNet 代码中每个实行设置文件末端的实行记载解释。一个开创性的神经网络正在诞生……」 另有人说，「AlexNet 代码的发布对于 AI 爱好者来说是一个宝库，这是一个向深度学习先驱学习的绝佳时机」。 AlexNet，人工智能汗青的迁移转变点 在人工智能范畴，AlexNet 可谓发作的出发点。就在本周的英伟达 GTC 大会上，黄仁勋先容起 AI 的发展进程，将来的一头是智能体、物理天下的 AI，已往的一头就是 AlexNet。  AI、呆板学习、深度学习的概念可以追溯到几十年前，然而它们在已往的十几年里才真正盛行起来，这大概简直要归功于 AlexNet。 在 2012 年，来自多伦多大学的 Alex Krizhevsky、Ilya Sutskever、Geoffrey Hinton 等人提出了一个名为「AlexNet」的深度神经网络，赢得了 2012 年大规模视觉辨认挑衅赛 ImageNet 的冠军。  三位都是 AI 范畴里响当当的人物。Geoffrey Hinton 被誉为「深度学习之父」，厥后得到了 2018 年的图灵奖、2024 年的诺贝尔物理学奖；Ilya Sutskever 是 OpenAI 的团结首创人及前首席科学家，也是 AlphaGo 论文的浩繁作者之一。冠名该模子的 Alex Krizhevsky 也是 CIFAR-10 和 CIFAR-100 数据集的创建者，不外他却渐渐对研究失去了爱好，于 2017 年 9 月脱离了谷歌。 在形貌当年的 AlexNet 项目时，Geoffrey Hinton 总结道：「Ilya 以为昨们应该做这件事，Alex 让它乐成了，而我得到了诺贝尔奖。」  当年用于练习 AlexNet 的家用盘算机和 GPU。 在 ImageNet 比赛中，参赛者必要完成一个名叫「object region」的使命，即给定一张包罗某目的的图像和一串目的种别（如飞机、瓶子、猫），每个团队的实现都必要辨认出图像中的目的属于哪个类。 在当年的角逐中，AlexNet 的体现颇具颠覆性，团队初次利用一种名为卷积神经网络（CNN）的深度学习架构，并充实使用了英伟达 GPU 的本领。由于体现过于惊艳，之后几年的 ImageNet 挑衅赛冠军都相沿了 CNN。 AlexNet 的论文被 2012 年的 NeurIPS 大会吸收并发表，早先也受到了一些盘算机视觉研究者的质疑，但出席集会的 Yann LeCun 公布这是人工智能发展的迁移转变点。厥后发生的事变昨们也都知道了：在 AlexNet 之前，险些没有一篇领先的盘算机视觉论文利用神经网络。在它之后，险些全部论文都会利用神经网络。 这是盘算机视觉史上的一个关键时候，也引发了人们将深度学习应用于其他范畴（如天然语言处置惩罚、呆板人、保举体系）的爱好。 开放源代码，历时五年 AlexNet 源代码顺遂发布的故事，还要从五年前提及。 2020 年，CHM 软件汗青中央馆长 Hansen Hsu 接洽了 Alex Krizhevsky，盼望得到发布授权。不外，Alex Krizhevsky 并没有直接回应，而是将 Hansen Hsu 先容给了其时还在谷歌工作的 Hinton。由于，在谷歌收购了 Hinton、Sutskever 和 Krizhevsky 开办的公司 DNNresearch 之后，AlexNet 的知识产权就归了谷歌。 之后，Hinton 在 CHM 和谷歌的团队之间斡旋，推动整件事的历程。两边花了五年的时间，协商发布事件，以及详细的发布版本。 究竟上，自 2012 年论文发布后，AlexNet 的源码已经有了多个版本，GitHub 上也有不少名为「AlexNet」的代码库，但此中很多并不是原始代码，而是根据那篇论文重新创建的。此前，Krizhevsky 开辟的 AlexNet 前身 ——cuda-convnet 也曾作为开源代码发布，但它是在较小的 CIFAR-10 数据集上练习的。 CHM 发布的代码库包罗了 2012 年赢得 ImageNet 比赛时的原始 AlexNet 源代码，还包罗在 ImageNet 数据集上练习的参数文件。 感爱好的同砚可以前往翻看。 参考链接： https://computerhistory.org/blog/chm-releases-alexnet-source-code/ |
