开云体育集团:手机也能跑大模型腾讯混元推出多款小尺度开源模型

开云体育手机app下载苹果:

　　8月6日，记者从腾讯得悉，混元正式开源四款小尺度模型，参数分别为0.5B、1.8B、4B、7B，消费级显卡即可运转，适用于笔记本电脑、手机、智能座舱、

　　据了解，这四款模型的推出，是腾讯混元大模型继续开源的一大行动，也进一步丰厚了混元开源模型系统，可为开发者和公司能够供给更多尺度的模型挑选。现在，四个模型均在Github和HuggingFace等开源社区上线，Arm、高通、Intel、联发科技等多个消费级终端芯片渠道也都宣告支撑布置。

　　新开源的4个模型归于交融推理模型，具有推理速度快、性能好价格低的特色，用户可根据运用场景灵敏挑选模型考虑形式——快考虑形式供给简练、高效的输出；而慢考虑触及处理杂乱问题，具有更全面的推理过程。值得一提的是，这四个模型的亮点在于agent和长文才能，跟此前开源的Hunyuan-A13B模型相同，技术上经过精心的数据构建和强化学习奖赏信号规划，提高了模型在使命规划、东西调用和杂乱决议计划以及反思等agent才能上的体现，让模型实践使用中能够轻松担任深度查找、excel 操作、游览攻略规划等使命。

　　此外，模型原生支撑长上下文窗口达到了256k，意味着模型能够一次性记住并处理相当于40万中文汉字或50万英文单词的超长内容，相当于一口气读完3本《哈利波特》小说 ，而且能记住一切人物联系、剧情细节，还能根据这一些内容评论后续故事开展。

　　布置上，四个模型均只需单卡即可布置，部分PC、手机、平板等设备可直接接入。使用层面，四款小尺度模型都能够很好的满意从端侧到云端、从通用到专业的多样化需求，而且已经在腾讯多个事务中使用。在端侧使用上，腾讯手机管家使用小尺度模型提高废物短信辨认准确率，完成毫秒级阻拦，隐私零上传；腾讯智能座舱帮手经过双模型协作架构处理车载环境痛点，充沛的发挥模型低功耗、高效推理的特性。