首页 > 其他分享 >**AI的三大支柱:神经网络、大数据与GPU计算的崛起之路**

**AI的三大支柱:神经网络、大数据与GPU计算的崛起之路**

时间:2024-11-06 22:47:23浏览次数:5  
标签:李飞飞 AI 神经网络 AlexNet ImageNet GPU 三大

  每周跟踪AI热点新闻动向和震撼发展 想要探索生成式人工智能的前沿进展吗?订阅我们的简报,深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同,从行业内部的深度分析和实用指南中受益。不要错过这个机会,成为AI领域的领跑者。点击订阅,与未来同行! 订阅:https://rengongzhineng.io/

在普林斯顿攻读计算机科学研究生的第一个学期,我选修了COS 402课程:人工智能。在学期接近尾声时,有一节课讨论了神经网络。这是在2008年秋季,那堂课和教材都给我留下了深刻印象,似乎神经网络已经变成了一个“无人问津”的领域。

神经网络在20世纪80年代末和90年代初取得了一些令人瞩目的成果,但后来进展停滞。到2008年,许多研究人员已经转向了支持向量机等更具数学美感的方法。

当时我并不知道,就在我听课的同一栋计算机科学大楼里,普林斯顿的一个团队正在开展一个即将颠覆这一传统观点的项目。该团队由李飞飞教授领导,他们的目标并不是改进神经网络,事实上,他们几乎没有考虑神经网络,而是致力于创建一个远大于以往的图像数据集:1400万张图像,每张都标注了约2.2万个类别之一。

李飞飞教授在她的回忆录《我所见的世界》中讲述了ImageNet的故事。她在2007年开展该项目时,面临了很多朋友和同事的质疑。

“我认为你这个想法走得太远了,”一位导师在2007年对她说,“关键是要跟随领域的发展,而不是超前太多。”

不仅仅是因为创建如此庞大的数据集在后勤上是个巨大挑战,人们还怀疑当时的机器学习算法是否能从如此大量的图像中获益。

“ImageNet之前,人们根本不相信数据的价值,”李在计算机历史博物馆的采访中说道,“当时所有人都在研究完全不同的AI范式,数据量极少。”

尽管有负面反馈,李飞飞坚持了两年多,这不仅消耗了她的研究预算,也考验了她研究生团队的耐心。2009年她在斯坦福大学开始新工作时,带着ImageNet项目和几个学生一起搬到了加州。

ImageNet在2009年发布后的头几年并未受到广泛关注。然而在2012年,多伦多大学的一支团队使用ImageNet训练了一个神经网络,在图像识别方面取得了前所未有的表现。这个被称为AlexNet的突破性AI模型开启了延续至今的深度学习浪潮。

AlexNet的成功离不开ImageNet数据集,同时也得益于英伟达的CUDA平台,使GPU得以用于非图形应用。当英伟达在2006年发布CUDA时,许多人对此持怀疑态度。

因此,过去12年间的AI热潮得益于三位坚持不懈的先驱。第一位是杰弗里·辛顿,多伦多大学的计算机科学家,他几十年来推广神经网络,尽管几乎普遍受到了质疑。第二位是英伟达的CEO黄仁勋,他早在创立GPU之初就意识到GPU不仅仅适用于图形处理。第三位是李飞飞,她创建了一个看似荒谬的巨型图像数据集,最终成为神经网络在GPU上成功应用的关键要素。

辛顿和他的同事们在1986年发表了一篇具有里程碑意义的论文,描述了反向传播技术,使得训练深层神经网络成为可能。他们从网络的最后一层开始,逐层反向传播梯度,从而逐步调整每一层的参数。这一创新重新激发了对神经网络的兴趣。

与此同时,黄仁勋则在1999年发明了GPU,大大提高了平行计算能力。英伟达在2006年推出CUDA平台,尽管起初反响平平,但最终为深度学习的崛起奠定了基础。2009年,辛顿的团队首次利用CUDA平台训练神经网络,使神经网络的训练速度提升了数百倍。

李飞飞通过ImageNet项目提供了神经网络所需的大规模数据。她在斯坦福大学的头几年,尽管遭遇了项目初期的冷淡反响,但通过ImageNet挑战赛吸引了广泛关注。2012年,多伦多大学团队的AlexNet模型在ImageNet比赛中遥遥领先,引发了计算机视觉领域的震动。该模型由数千万个参数组成,其表现证明了深层神经网络的潜力。

AI界迅速意识到AlexNet的重要性。辛顿的团队成立了一家公司,并在几个月后被谷歌以4400万美元收购,辛顿成为谷歌AI团队的一员。而Nvidia的GPU则成为训练神经网络的行业标准。到2012年,Nvidia的市场估值不到100亿美元,如今,Nvidia已经成为世界上最有价值的公司之一,市值超过3万亿美元。

正如李飞飞在9月一次采访中所言,现代AI的三大支柱——神经网络、大数据(ImageNet)和GPU计算——在那个时刻首次交汇。如今,主流AI实验室认为,训练超大规模模型和海量数据集是推动AI进步的关键。这似乎符合AlexNet的经验教训,但我们也要小心,不要让这些经验变成不可撼动的教条。

标签:李飞飞,AI,神经网络,AlexNet,ImageNet,GPU,三大
From: https://blog.csdn.net/2301_79342058/article/details/143581824

相关文章

  • AI时代将很快来临
    AI时代即将很快来临openai的ceo在个人网站上发了一篇文章,链接是:sam个人网站页,重点如下:Howdidwegettothedoorstepofthenextleapinprosperity?Inthreewords:deeplearningworked.In15words:deeplearningworked,gotpredictablybetterwithscale,andwe......
  • 【AIGC】如何充分利用ChatGPT:有效提示框架与基本规则
    概述在使用ChatGPT进行内容创作时,遵循结构化的提示框架和基本规则可以显著提升AI响应的质量。本文探讨了五种结构化的提示框架,并详细介绍了基本规则和进阶技巧,帮助您更有效地与ChatGPT互动。基础规则规则1:指令放在开头,使用``或"""分隔上下文确保指令清晰明确,通过反引号`......
  • 5种AI合同审查方法,免费开源,提升50%法律文件比对效率
    一、系统概述在法律行业,合同和法律文件的版本审查是确保合规与降低风险的重要步骤。然而,手动对比文档各版本间的差异不仅耗时,且易产生误判。思通数科的AI多模态能力平台专为法律文件审核设计,结合了先进的Diff算法与Levenshtein距离算法,支持字符、单词、段落的精确对比,兼容PDF、W......
  • AIGC:人工智能生成内容的未来
    文章目录一、AIGC的定义与背景1.1AIGC的起源与发展1.2AIGC的核心技术二、AIGC的核心技术解析2.1生成对抗网络(GANs)2.2变分自编码器(VAEs)2.3自然语言处理(NLP)与文本生成三、AIGC的应用场景四、AIGC的挑战与未来趋势总结:引言随着人工智能技术的飞速发展,尤其是在......
  • AI预测福彩3D采取888=3策略+和值012路+胆码+通杀1码预测11月6日新模型预测第132弹
             经过100多期的测试,当然有很多彩友也一直在观察我每天发的预测结果,得到了一个非常有价值的信息,那就是9码定位的命中率非常高,100多期一共只错了12次,这给喜欢打私房菜的朋友提供了极高价值的预测结果~当然了,大部分菜友还是走的正常渠道,因此,得想办法进行缩水,尽......
  • AI预测体彩排3采取888=3策略+和值012路+胆码+通杀1码测试11月6日升级新模型预测第126
             经过100多期的测试,当然有很多彩友也一直在观察我每天发的预测结果,得到了一个非常有价值的信息,那就是9码定位的命中率非常高,已到达90%的命中率,这给喜欢打私菜的朋友提供了极高价值的预测结果~当然了,大部分菜友还是走的正常渠道,因此,得想办法进行缩水,尽可能少的......
  • yolov8目标跟踪与行人车辆计数+YOLOv8 Object Detection with DeepSORT Tracking(ID +
    YOLOv8目标检测与DeepSORT跟踪技术简介在计算机视觉领域,目标检测和跟踪是两个至关重要的任务。目标检测旨在识别图像或视频中的特定对象,并确定它们的位置;而目标跟踪则是在连续的帧之间保持对这些对象的身份和位置的一致性跟踪。本文将详细介绍YOLOv8作为先进的目标检测算法......
  • P1090 [NOIP2004 提高组] 合并果子 / [USACO06NOV] Fence Repair G:贪心
    [NOIP2004提高组]合并果子/[USACO06NOV]FenceRepairG题目描述在一个果园里,多多已经将所有的果子打了下来,而且按果子的不同种类分成了不同的堆。多多决定把所有的果子合成一堆。每一次合并,多多可以把两堆果子合并到一起,消耗的体力等于两堆果子的重量之和。可以看出,所有的......
  • AI大模型重塑软件开发:流程、优势、挑战与展望
    ......
  • 基于langchain的RAG问答(QA)链实现
    文章目录概要整体架构流程1.加载JSON数据2.创建文档对象并添加元数据3.初始化嵌入模型4.初始化Chroma向量存储5.向向量数据库添加文档6.基于相似度检索文档7.通过嵌入向量检索相似文档8.初始化检索器9.加载RAG提示模板10.定义RAG链并生成回答总结技......