无言以对 发表于 2024-9-20 09:27:51

通义千问2.5(Qwen2.5)7B大模型(语言、数学、代码)聊天机器人 本地一键整合包



通义千问是阿里云开发的一个大型语言模型,是基于的大语言模型的产品,它利用自然语言处理技术,为用户提供智能化的文本语音交互服务,能够回答用户的各种问题,并进行深入的分析和推荐,帮助用户解决各种生活和工作中遇到的疑问和难题。

9月19日,云栖大会上,阿里云CTO周靖人发布通义千问新一代开源模型Qwen2.5,其涵盖多个尺寸的大语言模型、多模态模型、数学模型和代码模型,每个尺寸都有基础版本、指令跟随版本、量化版本,总计上架100多个模型,刷新业界纪录。

从数据上看,Qwen2.5全系列模型都在18T tokens数据上进行预训练,相比Qwen2,整体性能提升18%以上,拥有更多的知识、更强的编程和数学能力,支持128K的上下文长度,可生成最多8K内容。模型能够响应多样化的系统提示,实现角色扮演和聊天机器人等任务。在指令跟随、理解结构化数据(如表格)、生成结构化输出等方面Qwen2.5都进步明显。

专项模型方面,用于编程的Qwen2.5-Coder和用于数学的Qwen2.5-Math都比前代有了实质性进步。Qwen2.5-Coder在多达5.5T tokens的编程相关数据上作了训练;Qwen2.5-Math支持使用思维链和工具集成推理(TIR)解决中英双语的数学题。

多模态模型方面,视觉语言模型Qwen2-VL-72B正式开源,Qwen2-VL能识别不同分辨率和长宽比的图片,理解20分钟以上长视频,具备自主操作手机和机器人的视觉智能体能力。

生态上,通义与海内外的开源社区、生态伙伴、开发者共建生态网络,截至2024年9月中旬,通义千问开源模型下载量突破4000万,Qwen系列衍生模型总数超过5万个,成为仅次于Llama的世界级模型群。


今天的整合包就是基于Qwen2.5的7B大模型的本地一键整合包(如需要其他模型,请自行到官网下载),因为模型较大,所以这次整合包和模型分开了,一键包解压后,双击下载模型,等待自动下载,模型较大(14GB左右),下载时间较长,耐心等待自动下载完成即可。
如果没安装git工具,可以手动从这里下载 https://www.modelscope.cn/models/qwen/Qwen2.5-7B/files 所有文件,然后手动拷贝到 models\Qwen2.5-7B-Instruct 里。

如需其他模型包推荐到阿里的魔塔下载,下载地址:https://www.modelscope.cn/organization/qwen?tab=model,国内下载速度很快。


下载地址:
夸克网盘:https://pan.quark.cn/s/d289b70f46d1
百度网盘
**** Hidden Message *****

simonchen760918 发表于 2024-9-20 13:27:19

之前用过2.0,不知道2.5有多大的进步,值得试试。另外国产语言大模型在一些涉及关键词的方面还是有限制的。

maya2024 发表于 2024-9-20 14:37:14

可以写提示词吗?

无言以对 发表于 2024-9-20 14:40:35

maya2024 发表于 2024-9-20 14:37
可以写提示词吗?

聊天机器人,写什么提示词?

jack 发表于 2024-9-20 15:38:18

gogotry 发表于 2024-9-20 21:09:12

感谢分享

yncncn 发表于 2024-9-20 21:48:06

千问应该国内最强的开源 chat模型了吧

gogotry 发表于 2024-9-21 00:56:38

Qwen2.5我下载不了模型。提示正在下载模型,模型大小14GB,此过程时间略长,请稍等...
'git' 不是内部或外部命令,也不是可运行的程序
或批处理文件。
'git' 不是内部或外部命令,也不是可运行的程序
或批处理文件。

xuyi263 发表于 2024-9-21 07:49:25

非常感谢!!!!!!!!!!!!!

无言以对 发表于 2024-9-21 09:12:52

gogotry 发表于 2024-9-21 00:56
Qwen2.5我下载不了模型。提示正在下载模型,模型大小14GB,此过程时间略长,请稍等...
'git' 不是内部或 ...

需要先安装git
https://github.com/git-for-windows/git/releases/download/v2.46.1.windows.1/Git-2.46.1-64-bit.exe
一路默认即可
或者手动下载 https://www.modelscope.cn/models/qwen/Qwen2.5-7B/files 所有文件,复制到models\Qwen2.5-7B-Instruct下
页: [1] 2 3
查看完整版本: 通义千问2.5(Qwen2.5)7B大模型(语言、数学、代码)聊天机器人 本地一键整合包