阿里云开源通义千问Qweb2 支持128K上下文 在测试中表现不俗 – 蓝点网
阿里云今天推出了通义千问人工智能模型的蓝点重大升级版本:Qwen2,该模型提供 5 个不同的阿里尺寸、上下文长度最高支持 128K tokens,云开源通义千并且在各项测试中表现不俗。问Q文测网
Qwen2 的上下试中所有尺寸版本均已同步在 GitHub、HuggingFace 和 ModelScope 上开源,表现不俗有兴趣的蓝点开发者可以立即获取模型进行测试。

此次发布的阿里新版本亮点包括:
- 能力较此前版本有较大幅度提升,在开源模型测试中名列前茅
- 提供 5 个预训练和指令微调模型,云开源通义千包括 Qwen2-0.5B、问Q文测网北京海淀(上门服务)上门服务资源vx《1662+044+1662》提供外围女上门服务快速选照片快速安排不收定金面到付款30分钟可到达Qwen2-1.5B、Qwen2-7B、Qwen2-57B-A14B 和 Qwen2-72B
- 在编程领域和数学方面的能力显著提高
- 增加上下文长度,现在最高支持 128K tokens
- 在中文和英语的基础上,增加 27 种语言相关的数据进行训练

在 Qwen1.5 系列模型中只有 32B 和 110B 版使用 GQA,而在 Qwen2 中所有模型都使用 Qwen2,使用 GQA 后有助于提升推理能力和降低显存的占用。
同时诸如 Qwen2-0.5B 和 1.5B 版可以在性能更低的设备上运行,例如在智能手机本地运行 Qwen2-0.5B 而不需要云端处理,这种也是未来的趋势,未来可能所有智能设备都会支持 AI,这就需要更小的模型为本地运行提供支持。
模型评估显示 Qwen2 能力超过 Llama3:
目前人工智能开源 / 开放社区中最重要的两个贡献者就是 Meta 和阿里云,Meta 主要就是 Llama 系列模型最新版本为 Llama3。
在开源 / 开放模型能力评测中,Qwen2-72B 版在各方面超过 Llama3-70B,也超过了 Mixtral-8x22B,所以现在压力给到了 Meta,不知道 Meta 什么时候发布新版本。



阿里云 AI 团队表示:
大规模预训练后,我们对模型进行精细的微调,以提升其智能水平,让其表现更接近人类。这个过程进一步提升了代码、数学、推理、指令遵循、多语言理解等能力。此外,模型学会对齐人类价值观,它也随之变得更加对人类有帮助、诚实以及安全。我们的微调过程遵循的原则是使训练尽可能规模化的同时并且尽可能减少人工标注。我们探索了如何采用多种自动方法以获取高质量、可靠、有创造力的指令和偏好数据,其中包括针对数学的拒绝采样、针对代码和指令遵循的代码执行反馈、针对创意写作的回译、针对角色扮演的 scalable oversight、等等。在训练方面,我们结合了有监督微调、反馈模型训练以及在线 DPO 等方法。我们还采用了在线模型合并的方法减少对齐税。这些做法都大幅提升了模型的基础能力以及模型的智能水平。
限时活动推荐:软购618多款正版软件2折购、QQ超会15月108元、B站大会员88元、腾讯视频128元、爱奇艺138元。
(责任编辑:百科)
- 免费游戏《咩咩启示录:邪恶联盟》将于8月12日上线PS
- 科乐好制定新收止挨算 念要收止更多西圆做品
- 悟饭游戏联袂德克士 开启《终日之光》上海站线下预定
- 悟饭游戏联袂德克士 开启《终日之光》上海站线下预定
- 知名人士爆料《使命召唤3》将在7月24日登陆PC端和XGP
- 带您重温昔日典范 《龙腾:收源》单端公测即将开启
- 冲破自我 足游《约战:细灵再临》齐新细灵试炼弄法掀秘
- 仄台解谜《Vesper:减强版》5月12日出售 支撑免费进级
- 《铁拳8》DLC角色三岛平八预告片公布将于秋季上线
- 重宝助登斗罗岑岭 《新斗罗大年夜陆》本日新版本上线
- 《守看前锋2》BETA阶段中挂横止 玩家吸吁暴雪正视
- 5月新游:鬼域路上百豪杰,沙石镇里悲乐多
- 《战场女武神4》新宣传片公布 全新兵种加入战场
- 《漫威:将去之战》2.0新版本悄悄去袭 开启漫威宇宙新期间
- 帝国模拟养成《我的可爱皇后》8月21日正式发售
- 传华纳念出售旗下流戏部分 微硬、索僧、腾讯等有兴趣
- 《釜山止2半岛》新海报暴光 丧尸大年夜军围攻幸存者
- 同庆乱世佳节 《尘缘》国庆狂悲新版本日上线
- 《暗喻幻想》试玩会活动8月3日大阪站开启
- 大屏市场有看头,传统电视与智能投影鹿死谁手?
- 深圳外围模特预约(外围模特)外围预约(电话微信189-4469-7302)一二线城市真实上门外围上门外围女,快速安排90分钟到达 views+
- 重庆外围预约平台(外围上门)外围预约(微信189-4469-7302)一二线城市外围预约、空姐、模特、留学生、熟女、白领、老师、优质资源 views+
- 常州外围(常州外围女)外围上门(电话微信189-4469-7302)一二线城市外围预约、空姐、模特、留学生、熟女、白领、老师、优质资源 views+
- 广州同城美女预约外围上门外围女(电话微信189-4469-7302)提供全套一条龙外围上门外围女 views+
- 太原外围模特经纪人(外围预约)外围女(微信189-4469-7302)一二线城市可以真实可靠快速安排 views+
- 上海包夜学生妹(微信189-4469-7302)一二线城市外围模特伴游预约、空姐、模特、留学生、熟女、白领、老师、优质资源 views+
- 天津美女包养(电话微信189-4469-7302)提供顶级外围女上门,可满足你的一切要求 views+
- 成都包夜外围上门外围女姐(电话微信189-4469-7302)一二线城市均可安排、高端一手资源、高质量外围女模特空姐、学生妹应有尽有 views+
- 湛头外围上门(湛头外围预约外围上门外围女)电话微信189-4469-7302一二线城市外围预约、空姐、模特、熟女、白领、老师、优质资源 views+
- 天津包夜美女外围上门外围女(微信189-4469-7302)提供全国及一二线城市外围模特伴游预约、空姐、模特、留学生、熟女、白领、老师、优质资源覆盖全国 views+
