[BETA Test]
Каталог штучного інтелекту
Найбільший україномовний каталог інструментів ШІ.
Дослідити каталогСлава Україні! Героям Слава!
🇺🇦 Для українського ринку
Paddler — це платформа з відкритим кодом для ефективного розгортання великих мовних та візуальних моделей. Українські розробники можуть використовувати її для самостійного хостингу AI-моделей, оптимізуючи роботу на CPU та GPU. Інструмент безкоштовний та пропонує простіші розгортання порівняно з аналогами.
Опис
Open-source LLM/VLM load balancer and serving platform for self-hosting LLMs (and VLMs) at scale 🏓🦙 Alternative to projects like llm-d, Docker Model Runner, etc but with less moving parts and simple deployments built around ggml ecosystem. Runs on CPU and GPU.
Рейтинги
Якість41%
Довіра60%
Статистика
Перегляди1
