网站首页
编程语言
数据库
系统相关
其他分享
编程问答
智域
2024-09-10
Intel智域AI应用平台
1.项目概述本项目基于IntelG8i硬件环境部署了开源大语言模型ChatGLM3-6B以及M3E向量数据库,目标是通过使用Intel®ExtensionforPyTorch*(IPEX)优化模型推理性能,并结合多种应用实现私域知识库的快速部署及外部服务调用。同时,在另一台主机上通过Docker容器部署了IntelOneAPI,完