Descargar Osaurus

Osaurus es un servidor de modelos de lenguaje grande (LLM) local, diseñado exclusivamente para chips Apple Silicon. Utiliza el marco MLX de Apple para lograr el máximo rendimiento en Macs con serie M. Proporciona un punto final API compatible con OpenAI, permitiendo la integración con diversas aplicaciones de asistente de IA de escritorio. La aplicación incluye una interfaz SwiftUI para gestionar modelos y un servidor HTTP integrado construido con SwiftNIO.