• 2024-06-14如何本地化部署大模型
    为何要本地化部署大模型?因为私有化部署可以解决以下问题:    1.数据安全和隐私保护,你不必担心自己的信息会被拿去训练,不用担心泄漏    2.降低成本,本地化部署后减少了对外部的依赖,降低运营成本。特别是在处理大规模数据和高频次请求时,本地化部署可以避免昂贵
  • 2024-06-05Ollama,在centos7宿主机上,curl http://宿主机IP:11434 提示拒绝访问 ,但是curl http://localhost:11434 正常
    Ollama,在centos7宿主机上,curlhttp://宿主机IP:11434提示拒绝访问,但是curlhttp://localhost:11434 正常 1.使用 netstat 或 ss 命令在宿主机上检查 11434 端口的状态[root@localhost~]#netstat-tulnp|grep11434tcp00127.0.0.1:11434