Руководство по сборке локального AI-стека. Часть 2. Запуск llama-cpp
На этом шаге мы соберём llama.cpp , скачаем компактную модель для теста, разберёмся с ключевыми опциями ( mmap , лимиты памяти, mmproj ) и запустим сервер. После этого у вас будет работающий чат по адресу http://127.0.0.1:8080 — с родным веб-интерфейсом llama.cpp (пока без Open WebUI). Читать далее