36 lines
2.3 KiB
Plaintext
36 lines
2.3 KiB
Plaintext
백그라운드로 서버를 실행하셨군요! 서버가 정상적으로 구동되어 LLM 모델까지 잘 올라갔는지 확인하기 위해 우분투 터미널에서 다음 4가지 방법을 순차적으로 확인해 보시는 것을 추천합니다.
|
|
|
|
### 1. 실시간 로그 확인 (가장 중요)
|
|
`nohup` 명령어를 통해 모든 출력 로그가 `backend.log` 파일에 저장되도록 설정하셨습니다. 아래 명령어를 치시면 로그가 실시간으로 올라오는 것을 볼 수 있습니다.
|
|
```bash
|
|
tail -f backend.log
|
|
```
|
|
* **성공 시그널**: 로그 중에 `=== 모델 로딩 중 ===`이 뜬 후, 잠시 시간이 지나 `=== 준비 완료 ===` 메시지가 나타나고 `Application startup complete`가 보이면 완벽하게 구동된 것입니다.
|
|
* *(종료하려면 `Ctrl + C`를 누르시면 됩니다.)*
|
|
|
|
### 2. 프로세스 실행 상태 및 메모리 확인
|
|
파이썬 서버가 죽지 않고 잘 살아있는지 확인하는 명령어입니다.
|
|
```bash
|
|
ps -ef | grep uvicorn
|
|
```
|
|
또한, 모델 로딩 중이거나 완료된 후 메모리(RAM)를 얼마나 차지하고 있는지 보시려면 아래 명령어로 시스템 자원을 확인할 수 있습니다.
|
|
```bash
|
|
htop
|
|
```
|
|
|
|
### 3. GPU VRAM 확인 (NVIDIA GPU 사용 시)
|
|
서버에 그래픽 카드가 있고 모델을 GPU에 올렸다면, VRAM이 제대로 할당되었는지 확인해야 합니다.
|
|
```bash
|
|
watch -n 1 nvidia-smi
|
|
```
|
|
* 메모리 사용량 쪽에 수 GB(기가바이트)의 VRAM이 잡혀있고, 프로세스 목록에 `python`이 떠 있다면 모델이 GPU에 정상적으로 올라간 것입니다.
|
|
|
|
### 4. API 동작 테스트 (Curl 명령)
|
|
모델이 준비 완료되었다면, 다른 터미널 창을 열고 우분투 내부에서 API가 제대로 응답하는지 호출해 볼 수 있습니다.
|
|
```bash
|
|
# 장비 목록 불러오기 테스트
|
|
curl -X GET http://localhost:8000/api/machines
|
|
```
|
|
정상적이라면 JSON 형태의 데이터(혹은 빈 배열 `[]`)가 즉시 리턴될 것입니다.
|
|
|
|
로그(`backend.log`)를 보시다가 혹시 `Killed`나 `Out of Memory(OOM)`, 혹은 `CUDA error` 같은 에러 로그가 찍혀서 서버가 죽는다면 알려주세요. 모델 사이즈 대비 메모리가 부족한 경우일 수 있어 로딩 코드를 약간 튜닝해야 할 수도 있습니다! |