通义千问2.5（Qwen2.5）7B大模型（语言、数学、代码）聊天机器人 本地一键整合包

无言***

通义千问2.5（Qwen2.5）7B大模型（语言、数学、代码）聊天机器人 本地一键整合包 ... ... ... ... ...

通义千问是阿里云开发的一个大型语言模型，是基于的大语言模型的产品，它利用自然语言处理技术，为用户提供智能化的文本语音交互服务，能够回答用户的各种问题，并进行深入的分析和推荐，帮助用户解决各种生活和工作中遇到的疑问和难题。

9月19日，云栖大会上，阿里云CTO周靖人发布通义千问新一代开源模型Qwen2.5，其涵盖多个尺寸的大语言模型、多模态模型、数学模型和代码模型，每个尺寸都有基础版本、指令跟随版本、量化版本，总计上架100多个模型，刷新业界纪录。

从数据上看，Qwen2.5全系列模型都在18T tokens数据上进行预训练，相比Qwen2，整体性能提升18%以上，拥有更多的知识、更强的编程和数学能力，支持128K的上下文长度，可生成最多8K内容。模型能够响应多样化的系统提示，实现角色扮演和聊天机器人等任务。在指令跟随、理解结构化数据（如表格）、生成结构化输出等方面Qwen2.5都进步明显。

专项模型方面，用于编程的Qwen2.5-Coder和用于数学的Qwen2.5-Math都比前代有了实质性进步。Qwen2.5-Coder在多达5.5T tokens的编程相关数据上作了训练；Qwen2.5-Math支持使用思维链和工具集成推理（TIR）解决中英双语的数学题。

多模态模型方面，视觉语言模型Qwen2-VL-72B正式开源，Qwen2-VL能识别不同分辨率和长宽比的图片，理解20分钟以上长视频，具备自主操作手机和机器人的视觉智能体能力。

生态上，通义与海内外的开源社区、生态伙伴、开发者共建生态网络，截至2024年9月中旬，通义千问开源模型下载量突破4000万，Qwen系列衍生模型总数超过5万个，成为仅次于Llama的世界级模型群。


今天的整合包就是基于Qwen2.5的7B大模型的本地一键整合包（如需要其他模型，请自行到官网下载），因为模型较大，所以这次整合包和模型分开了，一键包解压后，双击下载模型，等待自动下载，模型较大（14GB左右），下载时间较长，耐心等待自动下载完成即可。
如果没安装git工具，可以手动从这里下载 https://www.modelscope.cn/models/qwen/Qwen2.5-7B/files 所有文件，然后手动拷贝到 models\Qwen2.5-7B-Instruct 里。

如需其他模型包推荐到阿里的魔塔下载，下载地址：https://www.modelscope.cn/organization/qwen?tab=model，国内下载速度很快。


下载地址：
夸克网盘：https://pan.quark.cn/s/d289b70f46d1
百度网盘

游客，如果您要查看本帖隐藏内容请回复

simonch***

之前用过2.0，不知道2.5有多大的进步，值得试试。另外国产语言大模型在一些涉及关键词的方面还是有限制的。

maya***

可以写提示词吗？

无言***

maya2024 发表于 2024-9-20 14:37
可以写提示词吗？

聊天机器人，写什么提示词？

gog***

感谢分享

ync***

千问应该国内最强的开源 chat模型了吧

gog***

Qwen2.5  我下载不了模型。提示正在下载模型，模型大小14GB，此过程时间略长，请稍等...
'git' 不是内部或外部命令，也不是可运行的程序
或批处理文件。
'git' 不是内部或外部命令，也不是可运行的程序
或批处理文件。

xuy***

非常感谢！！！！！！！！！！！！！

无言***

gogotry 发表于 2024-9-21 00:56
Qwen2.5  我下载不了模型。提示正在下载模型，模型大小14GB，此过程时间略长，请稍等...
'git' 不是内部或 ...

需要先安装git
https://github.com/git-for-windo ... t-2.46.1-64-bit.exe
一路默认即可
或者手动下载 https://www.modelscope.cn/models/qwen/Qwen2.5-7B/files 所有文件，复制到models\Qwen2.5-7B-Instruct下