在搭载AMD Ryzen 7 5800H 处理器和集成显卡 AMD Radeon Vega (gfx90c) 的电脑上运行 Ollama,并进行了优化。
Python中基于张量和动态神经网络的强大GPU加速计算
一种高效且内存利用率高的用于大型语言模型推理和服务的引擎
DeepSpeed是一个深度学习优化库,它使分布式训练和推理变得轻松、高效且有效。
fastai深度学习库
一个使用WebGL加速的JavaScript库,用于训练和部署机器学习模型。
一个高性能、零开销、可扩展的 Python 编译器,内置 NumPy 支持
Open3D:一个用于三维数据处理的现代化库
面向CPU、GPU和专用加速器的开放式深度学习编译器栈
NVIDIA TensorRT 是一个用于在 NVIDIA GPU 上进行高性能深度学习推理的 SDK(软件开发工具包)。这个代码库包含 TensorRT 的开源组件。
GPU 加速的 NumPy 和 SciPy