网页资讯视频图片知道文库贴吧地图采购
进入贴吧全吧搜索
docker吧 关注：5,689贴子：6,108
  • 8回复贴，共1页

docker里面的应用跑ai不调用显卡（gpu）

只看楼主收藏回复

在window上装了docker，看网上教程安了ollama，因为要喂数据，然后又去安了maxkb和open webui去跑ollama里面的大模型，但是跑的时候不调用gpu……这是docker问题还是ollama问题？怎么解决？网上说要搞Nvidia docker或者什么nvidia cuda啥的，看不懂，求求大佬解决#docker##ollama#
IP属地:江西来自Android客户端1楼2024-04-24 00:43回复
    还有一件事，自从下了这2应用，里面又下了模型后c盘直接红了，卸载能卸干净么……有没有办法弄到其他盘上？
    IP属地:江西来自Android客户端2楼2024-04-24 00:54
    回复
      什么年代了，还有人推荐 C 盘小一点？直接电脑只有一个 C 盘就可以了。
      IP属地:湖北3楼2024-04-30 09:32
      收起回复
        要wsl，再裝linux的cuda驅動
        IP属地:中国香港来自Android客户端4楼2024-05-09 10:38
        回复
          https://docs.nvidia.com/cuda/wsl-user-guide/index.html
          IP属地:中国香港来自Android客户端5楼2024-05-09 10:40
          回复
            記得，wsl安裝最普通的預設的Ubuntu （我一開始傻傻的，裝了mint, 以為界面有分別）
            IP属地:中国香港来自Android客户端6楼2024-05-09 10:41
            回复
              雖然這是docker 吧，但我的習慣是能不用docker 的，盡量不用
              感覺更新還方便一點（就怕自己過了一陣子，不少心刪了這docker)
              除非一獨立個docker 就搞好了所有倚賴和環境，共用的環境倚賴，還是直接裝好像易搞點（我是業餘，也可能不太對）
              IP属地:中国香港来自Android客户端7楼2024-05-09 10:49
              回复
                jellyfin怎么非docker安装
                IP属地:江苏来自Android客户端8楼2024-06-12 16:19
                回复

                  扫二维码下载贴吧客户端

                  下载贴吧APP
                  看高清直播、视频！
                  • 8回复贴，共1页
                  发表回复
                  发贴请遵守贴吧协议及“七条底线”贴吧投诉
                  内  容:
                    查看全部
                  发 表
                  保存至快速回贴