docker吧 关注:5,740贴子:6,133
  • 1回复贴,共1

docker里面的应用跑ai不调用显卡(gpu)

取消只看楼主收藏回复

在window上装了docker,看网上教程安了ollama,因为要喂数据,然后又去安了maxkb和open webui去跑ollama里面的大模型,但是跑的时候不调用gpu……这是docker问题还是ollama问题?怎么解决?网上说要搞Nvidia docker或者什么nvidia cuda啥的,看不懂,求求大佬解决#docker##ollama#


IP属地:江西来自Android客户端1楼2024-04-24 00:43回复
    还有一件事,自从下了这2应用,里面又下了模型后c盘直接红了,卸载能卸干净么……有没有办法弄到其他盘上?


    IP属地:江西来自Android客户端2楼2024-04-24 00:54
    回复