而且再次提交的话就会connection error

用cli_demo.py 命令行方式正常，对吧？

类似这样@sdwzh
99

如果web_demo不正常，cli_demo.py正常，那是前端显示的问题，解决办法是卸载高版本gradio，装低版本
但你这个连cli_demo.py都不正常，我就不知道了。

试一下
>>> from transformers import AutoTokenizer, AutoModel
>>> tokenizer = AutoTokenizer.from_pretrained("THUDM/chatglm-6b", trust_remote_code=True)
>>> model = AutoModel.from_pretrained("THUDM/chatglm-6b", trust_remote_code=True).half().cuda()
>>> model = model.eval()
>>> response, history = model.chat(tokenizer, "你好", history=[])
>>> print(response)

能分享一下最新模型吗，我也是这个问题

前端报错了

https://blog.csdn.net/nfkjdx/article/details/135019173?spm=1001.2014.3001.5502 非常详细，可以参考