高性能计算

Cognitora是下一代专为AI智能体设计的云平台。与传统容器平台不同,它利用Cloud Hypervisor和Firecracker等高性能微虚拟机,提供安全、轻量级且快速的AI原生计算环境。它能执行AI生成的代码,大规模自动化智能工作负载,填补了AI推理与现实世界执行之间的差距。其重要性在于为AI智能体提供了强大的计算和运行支持,让AI智能体能够更高效、安全地运行。主要优点包括高性能、安全隔离、闪电般快速的启动时间、支持多语言、先进的SDK和工具等。该平台面向AI开发者和企业,致力于为AI智能体提供全面的计算资源和工具。价格方面,用户注册可获得5000个免费积分用于测试。

FastVideo是一个开源框架,旨在加速大型视频扩散模型。它提供了FastHunyuan和FastMochi两种一致性蒸馏视频扩散模型,实现了8倍推理速度提升。FastVideo基于PCM(Phased-Consistency-Model)提供了首个开放的视频DiT蒸馏配方,支持对最先进的开放视频DiT模型进行蒸馏、微调和推理,包括Mochi和Hunyuan。此外,FastVideo还支持使用FSDP、序列并行和选择性激活检查点进行可扩展训练,以及使用LoRA、预计算潜在和预计算文本嵌入进行内存高效微调。FastVideo的开发正在进行中,技术高度实验性,未来计划包括增加更多蒸馏方法、支持更多模型以及代码更新。

NVIDIA Project DIGITS 是一款基于 NVIDIA GB10 Grace Blackwell 超级芯片的桌面超级计算机,旨在为 AI 开发者提供强大的 AI 性能。它能够在功耗高效、紧凑的形态中提供每秒一千万亿次的 AI 性能。该产品预装了 NVIDIA AI 软件栈,并配备了 128GB 的内存,使开发者能够在本地原型设计、微调和推理高达 2000 亿参数的大型 AI 模型,并无缝部署到数据中心或云中。Project DIGITS 的推出标志着 NVIDIA 在推动 AI 开发和创新方面的又一重要里程碑,为开发者提供了一个强大的工具,以加速 AI 模型的开发和部署。