PredictionWikipediaMathematicsVisitsResearch

一种高效且内存利用率高的用于大型语言模型推理和服务的引擎

SGLang是一个用于大型语言模型和视觉语言模型的快速服务框架。

Kaldi语音识别工具的官方项目地址是kaldi-asr/kaldi。

这是我的博客——冰霜之地

Open3D：一个用于三维数据处理的现代化库

TensorRT-LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and support state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. TensorRT-LLM also contains components to create Python and C++ runtimes that orchestrate the inference execution in performant way.

基于LLVM的、支持NumPy的动态Python编译器

GPU 加速的 NumPy 和 SciPy

OneFlow是一个深度学习框架，旨在易于使用、可扩展且高效。

cuDF：基于GPU的DataFrame库