NVIDIA DGX Spark
NVIDIA推出的紧凑型AI超级计算机,面向本地AI推理和开发场景,具备高带宽显存和GPU计算能力
Timeline (last 90 days)
Embedding Gemma 2在NVIDIA DGX Spark本地测试中为300张动物照片建索引,200次检索命中165次,精度达82.5%
模型训练在一台 NVIDIA DGX Spark 上完成,耗时不到 60 分钟
测试设备为号称性能比英伟达DGX Spark强一倍的128G算力舱(视频中称为雷神索尔T5000)
Perplexity推出了本地版计算机使用智能体Portable Computer,首发独占NVIDIA的DGX Spark设备,全程在本地运行
9B 级别的模型在 DGX Spark 这类小主机上运行相对流畅,而 31B 模型对硬件要求更高
NVIDIA DGX Spark 搭载 GB10 Grace Blackwell 超级芯片,配备 128 GB 统一内存
一套能运行v4.1 Flash的配置需要4台NVIDIA DGX Spark(每台搭载128GB统一内存的GB10 Grace Blackwell芯片),每台售价4699美元,四台合计18796美元
LLM Sizer是一款免费工具,无需注册即可使用,汇编了从M1开始的所有Apple Silicon机型以及NVIDIA DGX Spark,并内置大量按尺寸分类的模型,支持自定义量化等级、上下文窗口、预算和运行时
All Facts (7)
Embedding Gemma 2在NVIDIA DGX Spark本地测试中为300张动物照片建索引,200次检索命中165次,精度达82.5%
50%Unverified模型训练在一台 NVIDIA DGX Spark 上完成,耗时不到 60 分钟
50%Unverified测试设备为号称性能比英伟达DGX Spark强一倍的128G算力舱(视频中称为雷神索尔T5000)
50%UnverifiedNVIDIA DGX Spark 搭载 GB10 Grace Blackwell 超级芯片,配备 128 GB 统一内存
50%Unverified9B 级别的模型在 DGX Spark 这类小主机上运行相对流畅,而 31B 模型对硬件要求更高
50%UnverifiedLLM Sizer是一款免费工具,无需注册即可使用,汇编了从M1开始的所有Apple Silicon机型以及NVIDIA DGX Spark,并内置大量按尺寸分类的模型,支持自定义量化等级、上下文窗口、预算和运行时
50%UnverifiedPerplexity推出了本地版计算机使用智能体Portable Computer,首发独占NVIDIA的DGX Spark设备,全程在本地运行
50%