Edge AI · CV
Jetson AI Lab
Orin Nano Super · CUDA · LLM / CV / STT
NVIDIA Jetson Orin Nano Super запускает локальные CUDA-лаборатории для LLM, компьютерного зрения и распознавания речи рядом с live jtop-телеметрией.
ДоступенЗащищён
jetson.miroslav.diy/
Аппаратная часть
- NVIDIA Jetson Orin Nano Super
- 8 GB unified memory
- 500 GB NVMe
- JetPack 6.2.1 / CUDA 12.6
01 / PURPOSE
Что делает проект
Единая защищённая панель показывает live-телеметрию Jetson и открывает три независимых экспериментальных контура: GGUF/llama.cpp для локальных LLM, TensorRT/OpenCV для компьютерного зрения и whisper.cpp/sherpa-onnx для распознавания речи.
02 / SYSTEM
Архитектура
- JetPack 6.2.1, CUDA 12.6 и MAXN_SUPER на NVMe
- Нативный llama.cpp с отдельным pinned Maple runtime для preview-архитектуры
- Независимые LLM, CV и STT services за одним защищённым app host
03 / LINKS
Ссылки
- Открыть лабораторию https://jetson.miroslav.diy/
- Репозиторий https://github.com/miroslavb/jetson-lab
04 / PROVENANCE
Источники
- README
/root/projects/jetson-lab/README.md - GBrain
projects/jetson-orin-nano-experimental-inference
Описание и технические факты сверены с указанными каноническими источниками. Статус сверён прямой, публичной или LGTM-пробой .