docker-ELK, Filebeat, 그리고 docker compose - #2

아래 글에 이어지는 글입니다🐳

docker-ELK, Filebeat, 그리고 docker compose - #1

 

오늘은 Filebeat를 log 파일에 연결하고, 읽어온 값을 Logstash로 보내고, 그 결과를 확인하는 것까지 해보려고 합니다!

일단 시작하기 전에 어제 새벽까지 log 관련 작업하면서 푸념했던 내용을

파이썬 전문가 친구가 아침에 일어나서 읽고 코멘트를 줬는데

- logger가 웹 프레임워크에서 잘 만들어야 하기 때문에 file writer 대신 logger를 쓰는게 좋다

- 파이썬 logging이 원래 복잡해서 심지어 책도 있는 수준이다

- 파이썬은 어떤 놈이 실행시키는지에 따라 메인 엔트리가 바뀐다(__name__ 관련)

- werkzeug는 Flask 내부에 있는 아이라서 검색할 때 파이썬 logging 말고 Flask logging으로 검색해야 했을 것이다

등등.... 하필 이 친구가 그 날 새벽 3시반에 잠들었대서ㅠㅠ

그래도 쓸모있는 난리를 친 것 같아서 나름 만족스러웠습니다.

그리고 폴더 구조 관련해서 다 서버인데 굳이 -server를 붙이지 않아도 될 것 같다는 코멘트와

docker 파일들은 docker/ 폴더에 다 모아두면 좋겠다는 얘기가 있어서 폴더 구조를 수정했구요.

이건 이번에 적용할 내용은 아니지만

Docker Hub

이 친구를 사용하면 Dockerfile을 굳이 작성하지 않아도 파이썬으로 서버를 띄울 수 있다고 하네요.

이건 나중에 쓸 일이 있을까 싶어 올려둡니다.

그리고 지난번에 보셨다시피 워낙 중간중간 삽질이 많아서

지난번에는 작업한 순서대로 쭉 적었는데 그러기엔 고친 내용이 너무 많아 이제부터는 성공한 내용만 적으려고 합니다!

제가 고생한걸 다같이 볼 필요는 없으니까요🤣

 

3. Filebeat 설정

워낙 똑똑한 많은 분들이 Filebeat 설정에 대해 정리해주셔서 참고한 글이 많네요!

일단 Filebeat 설정 관련된 내용도 제가 작업하고 있는 폴더에서 진행하는게 맞는 것 같아서

기존 폴더를 아래와 같이 수정해주었습니다.

morgen-muffel
├─docker
│  └─docker-compose-test.yml
├─test
│  └─... (기존과 동일)
├─log
│  ├─elasticsearch/
│  ├─kibana/
│  ├─logstash/
│  ├─filebeat
│    └─config
│      └─filebeat-test.yml
│    ├─test.Dockerfile
│  └─docker-compose.yml

일단 가장 기본적으로 test.Dockerfile을 작성하기 위해 참고한 내용은 이거구요.

Run Filebeat on Docker | Filebeat Reference [7.13] | Elastic

FROM docker.elastic.co/beats/filebeat:7.13.4
COPY /config/filebeat-test.yml /usr/share/filebeat/filebeat.yml
USER root
RUN chown root:filebeat /usr/share/filebeat/filebeat.yml
USER filebeat

USER 권한 같은 경우에는 필요한지 모르겠지만 일단 넣어두었습니다. 필요없으면 나중에 빼야죠 뭐 ㅎㅎ

 

그리고 filebeat-test.yml 파일을 작성하기 위해서

Configure Filebeat | Filebeat Reference [7.13] | Elastic

이 내용을 참고해 여기서 input과 ouput만 적어주는 식으로 진행했습니다.

input에는 test-server가 로그를 떨궈주는 위치를 적으면 되는데, 아래 docker compose에서 적은 것처럼 볼륨을 공유하게끔 해준 뒤 그 위치를 지정해 주었습니다.

output은 docker-elk 내용물을 보니 5044 포트로 받고 있어서 이를 참고해 작성해 주었습니다.

# ============================== Filebeat inputs ===============================

filebeat.inputs:
- type: log
  enabled: true
  paths:
    - /usr/share/filebeat/test_logs/test.log

# ================================== Outputs ===================================

# ------------------------------ Logstash Output -------------------------------

output.logstash:
  hosts: ["logstash:5044"]

여기서 logstash에 127.0.0.1:5044 처럼 적어주지 않은 이유는 그렇게 해서 제대로 되지 않았기 때문입니다..

이유는 모르겠는데 계속 tcp connection refused가 떠서

아래 docker compose 처럼 elk docker compose에서 사용하고 있는 network에 붙는 식으로 세팅했고,

그래서 logstash:5044로 사용했습니다.

윈도우에서 WSL2로 도커를 띄워서 그런건지... 찝찝하지만 일단은 테스트용이니까 넘어갔습니다.

 

4. docker compose 수정

일단은 지난번에 작성한 docker compose 파일을 수정해주도록 합시다.

지금은 flask를 띄우는 것만 되어있는데, 여기에 Filebeat도 띄운다고 적어줘야 하겠죠.

그리고 바뀐 폴더 구조를 참고해서 빌드 경로 등도 수정해 주었습니다.

관련된 내용은 아래 내용과 지인의 조언을 참고했습니다.

Compose file version 3 reference

version: "3.9"
services:
  web:
    build: ../test
    ports:
      - "8000:8000"
    volumes:
      - test_log:/code/logs
  filebeat:
    build:
     context: ../log/filebeat/
     dockerfile: test.Dockerfile
    container_name: testfilebeat
    volumes:
      - test_log:/usr/share/filebeat/test_logs
    networks:
      - log_elk
volumes:
  test_log:
networks:
  log_elk:
    external: true

저 volumes 부분이 상당히 헷갈렸는데

두 컨테이너가 공유할 수 있는 volume을 생성하고, 각 컨테이너의 내부 폴더에 mount 해주는 형식으로 이해했습니다.

그리고 각 컨테이너에 "app-volume:location_in_the_container" 같은 식으로 적어주는 것이구요.

포트는 5000 포트가 docker-elk에서 점유하고 있어서 8000으로 바꿔주었습니다.

이와 관련해서 Flask의 Dockerfile도 아래와 같이 수정해 주었는데

FROM python:3.7-alpine
WORKDIR /code
ENV FLASK_APP=app.py
ENV FLASK_RUN_HOST=0.0.0.0
RUN apk add --no-cache gcc musl-dev linux-headers
COPY requirements.txt requirements.txt
RUN pip install -r requirements.txt
EXPOSE 8000
COPY . .
CMD ["flask", "run", "--port=8000"]

아직 EXPOSE와 CMD에서 넘겨주는 --port parameter와 docker compose의 ports랑 어떻게 연관되는지 모르겠군요...

이건 차차 알아보도록 하겠습니다....

마지막에 있는 networks가 3번에서 언급한 내용이구요.

새로 만드는게 아니니까 external: true로 해줍니다.

 

이렇게 하고나면 kibana에서 로그가 보입니다!

대신 지난번에 너무 신나게 formatting했기 때문에 로그가 한줄 한줄 쪼개져서 보입니다

지금 너무 지쳐서 컨테이너 볼륨 이미지 다 삭제한 상태라서

다음 글에서 kibana에서 조회하는 내용을 다룰게요!