通义千问吧 关注:663贴子:1,455
  • 5回复贴,共1

Qwen2.5 今天开源了!

只看楼主收藏回复

这场开源的参数量版本非常多!这下很多电脑配置一般的用户都能本地部署了
· Qwen2.5: 0.5B, 1.5B, 3B, 7B, 14B, 32B, 以及72B;
· Qwen2.5-Coder: 1.5B, 7B, 以及即将推出的32B;
· Qwen2.5-Math: 1.5B, 7B, 以及72B。


IP属地:广东1楼2024-09-19 11:37回复
    官方写道:“Qwen2.5 模型总体上对各种system prompt更具适应性,增强了角色扮演实现和聊天机器人的条件设置功能。” 喜欢角色扮演的用户,可以等等无审查版本的微调


    IP属地:广东2楼2024-09-19 11:43
    回复
      其中最让我惊喜的是32B模型,在官方跑分上,Qwen2.5 32B居然跟72B各有胜负,完胜于Qwen2.0 72B。如果有16G显存的显卡的话,部署4-Bit量化的32B模型,生成速度能勉强接受,智商也不会明显下降;而72B就太大了,就算是用2-Bit量化,速度太慢了,回答的丰富程度也阉割过多了。



      IP属地:广东3楼2024-09-19 11:50
      回复
        Qwen2.5的实测结果出来了,4-Bit量化的Qwen2.5-32B竟然比GPT-4o-mini 还要更强!


        IP属地:广东4楼2024-10-01 12:25
        回复
          真挺棒的


          IP属地:上海来自iPhone客户端5楼2024-10-01 23:40
          回复
            真好,就是不会用,好想用


            IP属地:河北来自Android客户端6楼2024-10-20 14:43
            回复