vllm-project/vllm

vLLM es un motor de inferencia y serving de alto rendimiento para LLMs, destacado por su eficiencia en memoria y throughput.