• 2024-08-15T-MAC: 突破边缘设备的算力瓶颈,让大语言模型飞入寻常百姓家
    在人工智能浪潮席卷全球的今天,大语言模型(LargeLanguageModels,LLMs)正在成为改变人机交互方式的关键技术。然而,这些模型动辄数十亿参数,对计算资源的需求令人望而生畏。如何将这些"庞然大物"部署到资源有限的边缘设备上,成为了学术界和产业界共同关注的焦点问题。微软研究