首页 > 其他分享 >人工智能基础设施转变:重新定义应用交付

人工智能基础设施转变:重新定义应用交付

时间:2024-11-17 23:44:04浏览次数:3  
标签:基础设施 人工智能 应用程序 AI 交付 客户端

很明显,整个人工智能颠覆就是其中一种颠覆。你知道,这种颠覆不仅改变了我们做事的方式和我们用来做事的应用程序,就像疫情一样。

它改变了用于交付和保护新型应用程序和技术的技术基础。我们需要的是人工智能基础设施的转变

原因何在?我们过去构建解决方案、选择数据中心和构建网络的方式源自对 IT 基础设施和应用程序交付的关键假设,而这些假设如今已不再适用。

吞吐量优化:假设系统针对吞吐量而不是延迟或抖动进行了优化,重点关注视频流、自动驾驶汽车和实时游戏等用例的高数据传输速率,而不是实时性能。

同质客户端和一致的延迟:客户端被认为是同质的,具有一致的延迟预期和有限的安全威胁,通常来自黑客行动主义、有组织犯罪或民族国家攻击,而不是更复杂或多样化的攻击方法。

简化的 IT 基础设施:IT 环境被认为是简单的,具有可预测的应用程序交付和安全要求,而混合 IT 资产的采用和生成性 AI 工作负载的复杂性导致了对支持异构架构和部署模型的需求。

这些假设基于更简单、更可预测的格局。然而,随着生成式人工智能的兴起、混合 IT 环境(涵盖公有云、本地和边缘)的广泛采用以及应用程序交付和安全的日益复杂化,这些假设不再成立。

实施人工智能基础设施以跟上应用程序变化的步伐

如今,我们拥有传统客户端、移动客户端、物联网设备、AI 代理、应用和脚本,它们都充当着应用程序或 API 的合法客户端。

企业认为,“工具和 API 太多”是管理多云资产时面临的最大挑战,这使向更自主的运营 ( AIOps ) 迈进的努力变得复杂。

由于生成式 AI,多模式、非确定性输入成为常态,网络和应用程序交付现在必须实时平衡吞吐量、延迟和抖动——通常缺乏有效实现这些目标所需的可见性。

可以这么说,我们正在尝试利用最新一代的技术来交付和保护新一代的应用程序。

这意味着是时候认真考虑应用程序交付需要进行哪些改变,以满足新的应用程序架构、新的性能期望以及在所有环境中无缝运行的需求。

对于应用程序交付,这意味着支持多云网络,通过对延迟、吞吐量和 AI 特定性能等关键指标生成遥测实现实时可观察性,并扩展交付和安全功能以不仅支持传统应用程序,而且还处理生成 AI 的大规模数据需求——例如模型训练和推理所需的海量数据集。

认识到人工智能作为基础设施颠覆者的深远影响并非易事。很明显,应用程序交付和基础设施的格局正在发生根本性变化。面对生成式人工智能、混合 IT 资产和现代企业的复杂需求,曾经指导我们如何构建、部署和保护应用程序的假设已不再适用。

为了保持领先地位,企业必须接受新的范式——优先考虑多云灵活性、实时可观察性以及处理人工智能所需的海量数据和动态工作负载所需的可扩展性。

关于新 AI 基础设施需求的最后说明

生成式人工智能的兴起不仅仅是一场技术变革,它促使我们重新思考如何处理应用程序架构、安全性和性能。

就像十年前云计算的出现重新定义了 IT 基础设施一样,人工智能现在正在推动我们重新思考整个应用程序交付方法,从网络边缘到数据中心。

在这个新世界中,成功取决于快速适应、不断创新的能力,以及确保基础设施能够以曾经无法想象的方式扩展和运行的能力。

能够成功应对这种颠覆的组织将引领下一个技术时代。现在是采取行动的时候了——因为未来已经到来。

标签:基础设施,人工智能,应用程序,AI,交付,客户端
From: https://blog.csdn.net/qq_29607687/article/details/143841335

相关文章

  • 好文转载: "在大型科技公司如何交付项目?"
    原文链接在过去大约10年的科技行业中,我交付了各种不同的项目。当需要确保项目成功时,我经常被指派领导新的项目,因为我在这方面很擅长。在大型科技公司交付项目是一项与编写代码截然不同的技能,许多擅长编写代码的人在项目交付方面却表现得很差。以下是我在领导项目时的思考以及......
  • 好文转载: "在大型科技公司如何交付项目?"
    原文链接在过去大约10年的科技行业中,我交付了各种不同的项目。当需要确保项目成功时,我经常被指派领导新的项目,因为我在这方面很擅长。在大型科技公司交付项目是一项与编写代码截然不同的技能,许多擅长编写代码的人在项目交付方面却表现得很差。以下是我在领导项目时的思考以及......
  • 探索训练人工智能模型的词汇大小与模型的维度
    前一篇:《人工智能同样也会读死书----“过拟合”》序言:你看,人工智能领域的专家都在做什么?他们其实只是在不断试错,因为并没有一种“万能药”——一种万能的算法可以一次性设计出任何人工智能大模型来实现客户的需求。所有的模型在设计和训练过程中都是——验证结构——修改架......
  • 人工智能同样也会读死书----“过拟合”
    上一篇:《“嵌入”在大语言模型中是解决把句子转换成向量表示的技术》序言:我们常常会说某某人只会“读死书”,题目稍微变一点就不会做了。这其实是我们人类学习中很常见的现象。可是你知道吗?人工智能其实更容易“读死书”。不过在人工智能领域,我们有个听起来高大上的说法,叫“过......
  • 探索训练人工智能模型的词汇大小与模型的维度
    前一篇:《人工智能同样也会读死书----“过拟合”》序言:你看,人工智能领域的专家都在做什么?他们其实只是在不断试错,因为并没有一种“万能药”——一种万能的算法可以一次性设计出任何人工智能大模型来实现客户的需求。所有的模型在设计和训练过程中都是——验证结构——修改架构—......
  • 【IEEE出版、八大高校联合举办、稳定EI检索】第四届人工智能与智能制造国际研讨会(AIIM
    第四届人工智能与智能制造国际研讨会(AIIM2024)The4thInternationalSymposiumonArtificialIntelligenceandIntelligentManufacturing2024年12月20-22日中国成都重要信息大会官网:www.isaiim.com大会时间:2024年12月20-22日大会地点:中国-成都二轮截......
  • 人工智能同样也会读死书----“过拟合”
    上一篇:《“嵌入”在大语言模型中是解决把句子转换成向量表示的技术》序言:我们常常会说某某人只会“读死书”,题目稍微变一点就不会做了。这其实是我们人类学习中很常见的现象。可是你知道吗?人工智能其实更容易“读死书”。不过在人工智能领域,我们有个听起来高大上的说法,叫“过拟......
  • 如何通过优化服务器和基础设施来降低pcdn的成本(贰)?
    要通过优化服务器和基础设施来降低PCDN(P2PContentDeliveryNetwork)的成本,可以采取以下策略:1.高效利用用户设备资源(1)纳入更多用户设备:PCDN技术的一大优势在于能够利用用户设备的闲置带宽和存储资源来缓存和分发内容。因此,通过激励措施(如提供奖励或积分)鼓励更多用户参与,可以......
  • 人工智能:原理与技术 学习笔记
    Lecture2Supervisedlearning:regression,classification,...Unsupervisedlearning:clustering,dimensionalityreduction,...Thecanonicalmachinelearningproblem:Givenasetoftrainingdata\(\{(x_i,y_i)\}_{i=1}^m\)andalossfunction\......
  • 微软利用BitNet最终把1000亿参数人工智能模型塞进了智能手表
    序言:斯坦福大学利用LoLCats技术将1000亿参数模型的训练成本降低到20美元;微软则通过BitNet技术进一步将模型量化,使其能在消费类电子产品中运行,例如个人电脑、手机、智能手表等嵌入式设备。人工智能就这样顺理成章的进入了大家的日常生活。关联的文章:《斯坦福大学推出线性前......