qmog.cpp

Inférence LLM optimisée pour Apple Silicon.

Exécutez des modèles localement sur Mac avec un moteur natif Metal.

Moteur

Un moteur d'inférence local.