Настройка LLM на NanoPi R76S (RK3576)

Published on 28.04.2026

У меня Ubuntu 24, обычный образ с FriendlyElec не подготовленный к нейросетям. Тут есть два пути. Запуск rkllm — специальнособранной сетки для запуска llm на rockchip и запуск форка llama.cpp. Разберу оба. rkllm Официальная документация направляет нас на https://github.com/rockchip-linux/rknpu2. Возможно оно даже работает, но нигде никто не указывает, какие нужны пререквесты. В частности я ловил […]