• 2024-07-03HiAI Foundation开发平台,加速端侧AI应用的智能革命
    如果您是一名开发者,正在寻找一种高效、灵活且易于使用的端侧AI开发框架,那么HarmonyOSSDKHiAIFoundation服务(HiAIFoundationKit)就是您的理想选择。作为一款AI开发框架,HiAIFoundation不仅提供强大的NPU计算能力和丰富的开发工具,还提供完善的技术支持和社区资源,帮助您快速构建
  • 2024-04-06端侧需要向量数据库吗
    最近参与的向量数据的技术分析项目什么的基本告一段落了,简单总结一下,在Edge侧实现向量数据的应用场景以及一些问题挑战。背景问题:手机上需要不需要一个向量数据?如果需要,需要什么样的数据库?支持哪些算法,有哪些约束?是不是需要?对于第一个问题显然是成立的。近年来各大手机
  • 2024-03-16苹果AI的答卷:iOS 18
    从去年下半年开始,手机行业就刮起了一股AI风,踏在风口浪尖的手机厂商,纷纷开始布局AI领域。自此,生成式AI、端侧AI大模型、AI手机等名词,开始弥漫整个消费市场。目前,国内头部厂商基本都推出了自己的AI大模型,例如vivo的蓝心大模型,OPPO的安第斯大模型、魅族的FlymeAI大模型等,都是当前比
  • 2024-01-09探索大模型在端侧应用的新形态
    随着人工智能技术的不断发展,大模型已经成为研究的热点。大模型具有海量的参数和强大的表示能力,能够处理复杂的任务,如自然语言处理、图像识别等。然而,大模型的训练和推理需要大量的计算资源和存储空间,这使得大模型在端侧的应用面临诸多挑战。首先,让我们了解一下大模型的端侧应用现状
  • 2023-12-18端侧显著性检测新高度,OPPO提出面向真实场景的PSUNet
    前言 在高分辨率场景下,现有的显著目标检测方法难以同时满足快速推理和准确结果的要求。它们受到用于高分辨率图像的公共数据集和高效网络模块的质量的限制。为了缓解这些问题,本文构建一个显著对象匹配数据集HRSON和一个轻量级网络PSUNet。考虑到移动部署框架的高效推理,设计了对称
  • 2023-12-01RISC-V内核突破百亿颗 RVV1.0如何解锁端侧AI市场应用潜能
    RISC-V内核增长迅猛,2022年就实现了破百亿颗出货量。作为一款开源的RISC架构,其凭借轻量化、优秀的可扩展性与不断增强的软件兼容性吸引越来越多的企业采用。不断扩张的生态版图之下,RISC-V内核的增长曲线也愈发陡峭。根据RISC-V基金会的数据和预测,2022年采用RISC-V芯片架构的处理器
  • 2023-11-29RISC-V内核突破百亿颗 RVV1.0如何解锁端侧AI市场应用潜能
    RISC-V内核增长迅猛,2022年就实现了破百亿颗出货量。作为一款开源的RISC架构,其凭借轻量化、优秀的可扩展性与不断增强的软件兼容性吸引越来越多的企业采用。不断扩张的生态版图之下,RISC-V内核的增长曲线也愈发陡峭。根据RISC-V基金会的数据和预测,2022年采用RISC-V芯片架构的处理器
  • 2023-11-25ChatGLM3革新:推理速度提升2-3倍,成本降低一半的AI大模型
    引言随着人工智能技术的飞速发展,自然语言处理(NLP)已成为最具挑战性和活跃的研究领域之一。在这个领域,大型预训练模型已被证明是实现卓越性能的关键。智谱AI最近发布的ChatGLM3,作为其第三代对话大模型,不仅在性能上有了显著提升,还在多个方面展现了其技术优势。推理速度和成本ChatGL
  • 2023-10-20手机端侧文字识别:挑战与解决方案
    手机端侧文字识别:挑战与解决方案在手机端侧实现文字识别,考虑资源限制和效率至关重要。1.图像处理在手机端侧进行图像预处理,必须精细权衡资源消耗与效果。其中,快速灰度化是首步,它使用像素加权法(如YUV转换)将彩色图像转化为黑白,目的是减少数据维度,加速后续处理。紧接着
  • 2023-09-23HarmonyOS云开发--测试题
    【判断题】应用的运行离不开云侧支撑。(对)鸿蒙应用可以使用Arkts开发。(对)DevEco中云开发能力和原有端开发能力深度融合。(对)【单选题】端云一体云侧开发推荐开发者使用哪种开发语言(A)    A.ts  B.java  C.js   D.go以下选项关于端云一体组件说法错误的是(
  • 2023-08-14 小米宣布科技战略升级,新一代折叠屏、仿生机器人、端侧大模型等重磅亮相
    8月14日晚,小米新品发布会在北京国家会议中心举行,小米集团创始人、董事长兼CEO雷军第四次做年度公开演讲,分享了他在过去36年中,几次关键成长的经历和感悟。在发布会上,雷军正式宣布小米科技战略升级,并公布了小米的科技理念:选择对人类文明有长期价值的技术领域,坚持长期持续投入。本次
  • 2023-08-12端侧DNN部署——模型转换
    1端侧推理框架经验总结总结下最近用过的一些框架,并介绍他们的主要特点和转换过程。onnxruntimencnnmnntensorflowlitehuaweihiaipaddlelite2模型部署转换过程我们以torchvision库中的resnet50模型为例,介绍模型转换的过程。2.1pytorch转换到otherspytorch是目