Conduit — единый Swift SDK для LLM инференса

Conduit — это типобезопасный фреймворк Swift для работы с облачными и локальными языковыми моделями через единый API.

Что это вам даёт:

• Быстрый локальный инференс: оптимизирован для Apple Silicon с первоклассной поддержкой MLX
• Типобезопасный структурированный вывод: макросы Swift 6 проверяют сгенерированные формы во время компиляции
• Одна поверхность для нескольких поставщиков: переключение между моделями Claude, GPT-4o и локальными моделями осуществляется с помощью небольшого изменения конфигурации
• Провайдеры на основе акторов: модель параллельного выполнения остаётся явной и потокобезопасной

Conduit на GitHub: https://github.com/christopherkarani/Conduit
Платформа: iOS
⭐️: 96