文档中心
办公用品 > 软件教程 > 通义千问对cpu和内存有什么要求?

通义千问对cpu和内存有什么要求?

时间: 2024-09-20 10:32:10 来源:麦嘉办公

通义千问对cpu和内存有什么要求?

通义千问对CPU和内存的要求是Intel 13代酷睿CPU i5 - 13490F和至少16GB内存。

通义千问配置介绍

1、通义千问作为一个大型的认知智能模型,需要足够的计算资源来支持其复杂的算法和数据处理需求。

2、根据英特尔开发人员专区提供的信息,通义千问在实战部署时使用了Intel 13代酷睿CPU i5 - 13490F,这表明该级别的CPU能够满足其运行需求。

3、此外,部署Qwen 1.8B模型时推荐至少有16GB的内存,这意味着至少需要16GB的内存才能确保模型正常运行。

4、为了降低资源消耗,通义千问还支持通过量化到INT4精度来减少推理时的资源需求,使得在一般的家用PC上也能运行。

分享到: