NVIDIA 및 AMD 그래픽 카드를 비롯한 다양한 하드웨어 환경에서 작동하는 새로운 비디오 메모리 및 GPU 모니터링 유틸리티 'gputaskman'이 공개되었습니다.
GameGPU 보도에 따르면, gputaskman은 터미널 기반의 인터페이스를 통해 실시간 지표 변화 그래프를 제공하며, GPU 온도, 전력 소비량, 주파수 등 다양한 하드웨어 지표를 지원합니다. 특히 이 유틸리티는 로컬 신경망 모니터링에 특화되어 있어 CUDA, HIP, Vulkan 등의 소프트웨어 환경을 감지하고, llama.cpp, Ollama, LM Studio 등을 통해 실행되는 모델을 인식합니다. 이를 통해 신경망 가중치, KV 캐시, 컴퓨팅 버퍼 간의 메모리 분배를 평가할 수 있습니다.
다만 개발자는 일부 정보가 모델 메타데이터와 로그를 기반으로 한 근사치이며, 비디오 메모리의 내용을 직접 읽지 못하는 실험적 프로젝트라고 설명했습니다. 본 프로그램은 Windows(NVIDIA 및 AMD), Linux, WSL, macOS(Apple Silicon) 환경을 지원하며, 사용자는 모니터링 결과를 JSON 형식으로 저장하고 비교할 수 있습니다.
