[BETA Test]
Каталог штучного інтелекту
Найбільший україномовний каталог інструментів ШІ.
Дослідити каталогСлава Україні! Героям Слава!
ipex-llm
Прискорюйте роботу локальних мовних моделей на обладнанні Intel
🇺🇦 Для українського ринку
Це рішення ідеально підходить для українських розробників та дослідників, які хочуть запускати LLM на персональних комп'ютерах з графікою Intel. Інструмент є безкоштовним і дозволяє ефективно використовувати локальні ресурси без потреби у дорогих хмарних серверах.
Опис
Accelerate local LLM inference and finetuning (LLaMA, Mistral, ChatGLM, Qwen, DeepSeek, Mixtral, Gemma, Phi, MiniCPM, Qwen-VL, MiniCPM-V, etc.) on Intel XPU (e.g., local PC with iGPU and NPU, discrete GPU such as Arc, Flex and Max); seamlessly integrate with llama.cpp, Ollama, HuggingFace, LangChain, LlamaIndex, vLLM, DeepSpeed, Axolotl, etc.
Рейтинги
Якість50%
Довіра60%
Статистика
Перегляди2
Схожі інструменти
Всі в категорії →S
Реалізація нейромережі Segformer для сегментації зображень на Pytorch
Безкоштовно
M
Ефективна архітектура нейромереж для значного масштабування мовних моделей
Безкоштовно
N
Дослідження та застосування NLP, графів знань, діалогових систем
Безкоштовно