首页 > 其他分享 >从零开始实践大模型 - 安装系统

从零开始实践大模型 - 安装系统

时间:2024-07-06 16:31:05浏览次数:18  
标签:这里 模型 图形化 选择 从零开始 Linux 安装 Debian

本文地址:blog.lucien.ink/archives/548

本章节将介绍在面向深度学习时,推荐安装的系统以及对应的安装选项。

系统选择

目前主流操作系统有 Linux、macOS、Winodws,如果不考虑日常当作个人电脑来使用的话,强烈建议使用 无图形化界面 的 Linux,因为图形化界面会占用一定的显存(虽然也有不占用显存且同样拥有图形化的方法,这不在本文的讨论范围)。

接下来就是 Linux 发行版的选择,大部分企业(包括 NVIDIA 自己)会选择 Ubuntu,因为内置的东西多,笔者在这里不选择 Ubuntu,也是因为它内置的东西太多了,比如 snap 和 systemd-resolved。

基于笔者的实践经验,推荐使用 Debian 作为操作系统,因为它足够精简,而基于这般精简,也不会在后续使用上产生任何额外的复杂,且行为都足够可控,故在本文包括后续的一系列文章中,都会使用 Debian 作为演示操作系统。

下载安装包

在这里特意注明下 Debian 的下载地址,以免大家被百度的广告误导:Installing Debian via the Internet

安装系统

启动页面

Installer menu

语言

在这里 强烈不推荐 选择中文,除非你准备好应对各种因中文字符而产生的问题。

Select a language

地区

美国或中国都可以,这会影响到安装完成后的时区:

  • 可以在这里先选择 United States 然后进入系统后再更改。
  • 也可以直接去 other 里找 Asia 然后 China

Select location other
Select Region
Select territory or area

编码

一律选 en_US.UTF-8,可以规避很多潜在的问题。

Configure locales

键盘布局

Configure the keyboard

主机名 & 域名

如果只是单台服务器的话,这里随便填就好。
如果打算组建集群,这里就直接起个 node-0 之类的遍于自己区分的名字就好。

The hostname for this system
Domain name

设定用户 & 密码

Set up root password
Set up normal user

硬盘分区

推荐直接用一整块硬盘,不启用 LVM 和加密。

Partition disks
Select disk
Partition Scheme
Disk_part Checkout
Verify disk part

配置 apt

在这里选择国内的镜像,否则会很慢。

Extra media
APT China
APT Tuna mirror
APT HTTP Proxy

是否参与数据采集

Survey

选择预装软件

在这里只选择 SSH 和基础工具就好,没有特殊需求不建议勾选图形化界面(Debian desktop environment)。

Software Selection

安装引导

GRUB
Choose Grub Device

重启进入系统

Complete
Bootloader

标签:这里,模型,图形化,选择,从零开始,Linux,安装,Debian
From: https://www.cnblogs.com/LucienShui/p/18287413

相关文章

  • 基于Qwen2/Lllama3等大模型,部署团队私有化RAG知识库系统的详细教程(Docker+AnythingLLM
    自ChatGPT发布以来,大型语言模型(LargeLanguageModel,LLM,大模型)得到了飞速发展,它在处理复杂任务、增强自然语言理解和生成类人文本等方面的能力让人惊叹,几乎各行各业均可从中获益。然而,在一些垂直领域,这些开源或闭源的通用基础大模型也暴露了一些问题,主要体现在以下3个方面:......
  • centos7服务器yum安装MySQL数据库,以及报错的解决方案
    文章目录1、数据库能做什么?2、数据库由来3、数据库-系统结构4、版本二、部署1、官网地址3.点击[DOCUMENTATION](https://dev.mysql.com/doc/)4.mysql的yum仓库[UsingtheMySQLYumRepository](https://dev.mysql.com/doc/refman/8.4/en/linux-installation-yum-repo......
  • Ubuntu 22.04.4 LTS 安装 php apache LAMP 环境nginx
    1安装php-fpmaptupdateapt-getinstallphp-fpm#配置php-fpm服务启动systemctlenablephp8.1-fpmsystemctlstartphp8.1-fpm#查看服务systemctlstatusphp8.1-fpm#查看版本root@iZbp1g7fmjea77vsqc5hmmZ:~#php-vPHP8.1.2-1ubuntu2.18(cli)(built:......
  • OpenELM:开启开放训练和推理框架的高效语言模型家族
    随着大模型模型规模的增长,这些强大工具的透明度、可复现性和对数据偏见的敏感性也引起了人们的关注。这些问题不仅关系到研究的开放性和公平性,也关系到模型输出的可信度和安全性。为了应对这些挑战,Apple的研究团队发布了名为OpenELM的新一代开放语言模型。OpenELM采用了层级缩......
  • yarn的安装与配置
    Yarn的安装与配置指南Yarn是一个快速、可靠和安全的依赖管理工具,它能取代npm来管理JavaScript项目的依赖关系。以下是详细的Yarn安装与配置指南。1.安装YarnYarn可以通过多种方式安装,具体步骤如下:1.1通过npm安装如果已经安装了Node.js和npm,可以使用npm......
  • centos7 安装openssl
    1.下载openssl官网地址:https://www.openssl.org/source/wgethttps://www.openssl.org/source/openssl-3.0.14.tar.gztar-zxvfopenssl-3.0.14.tar.gzcdopenssl-3.0.142.编译安装yum-yinstallperl-IPC-Cmd./config--prefix=/usr/local/opensslmakemakeinstall3......
  • windows下,用PowerShell安装fnm,并安装Node.js步骤
    1#installsfnm(FastNodeManager)/安装fnm2wingetinstallSchniz.fnm3#重新开启powershell4#!不确定是否需要此步骤!5$profile6#!不确定是否需要此步骤!按照上面的输出,创建缺失的文件夹7#创建$profile文件:粘贴到powershell后,按回车8if(!(Test-P......
  • 一文理解 Treelite,Treelite 为决策树集成模型的部署和推理提供了高效、灵活的解决方案
    ......
  • zadig 安装和使用
    介绍Zadig是由KodeRover公司基于Kubernetes研发的自助式云原生DevOps平台,源码100%开放。Zadig提供灵活可扩展的工作流支持、多种发布策略编排以及一键安全审核等特性。该平台还支持定制的企业级XOps敏捷效能看板,深度集成多种企业级平台,并通过项目模板化批量快速接入,......
  • 将jar可执行文件打包为windows安装包体
    当我们希望将java编写的可执行文件.jar打包为一个.exe供用户直接使用,我们需要将jre/jdk也打包到exe中,这样用户环境就不需要安装jdk,直接运行我们做好的exe文件。整个过程分为两步,为了方便演示,这里使用JMonkeyEngineSDK打包一个jme3游戏的方式来解释。工具首先下载这里的工具:链......