본문 바로가기

728x90

Elk

ELK에 Search Guard 적용 nginx 인증을 사용하여 사내 직원들에게 kibana에 접속하도록 하고 있던 중 Popit의 Search Guard로 ES, 키바나 인증 구축 포스팅을 보고 적용을 하게 되었다. 적용 과정 중 수차례 삽질을 했었기 때문에 조금 더 상세하게 정리를 해보았다. Elasticsearch에 Search Guard 설치install 명령$ bin/elasticsearch-plugin install -b com.floragunn:search-guard-5:5.5.0-14버전은 아래 버전표 참고tools 디렉토리로 이동$ cd /plugins/search-guard-/toolsinstall_demo_configuration.sh 실행$ ./install_demo_configuration.sh실행권한이 없는 경우 c.. 더보기
[ELK] logback에서 설정한 시간 포맷과 ELK 시간 포맷 동기화 elasticsearch에서는 ISO8601 표준 date 포맷을 사용해야 date 형식으로 변환하는데 오류가 발생하지 않는다. 형식이 맞지 않더라도 logstash에서 date 형식을 지정해주면 되지만 포맷을 통일하는 것이 좋을 것 같아서 ISO8601로 통일했다. 또한 타임존은 기본 UTC를 사용하고 Kibana에서 타임존을 설정하는 방식으로 결정했다. logback 설정기존에 yyyy-MM-dd HH:mm:ss.SSS 포맷으로 사용하던 것을 ISO8601 로 변경 DEBUG ACCEPT DENY Log/debug.log Log/debug-%d{yyyy-MM-dd}.%i.txt 100MB 60 10GB %d{ISO8601} %level %msg %n 가장 하단의 encoder 태그 부분에 %d{ISO.. 더보기
ELK 구성 노트 ElasticSearch 외부에서 접속이 안될 때config/elasticsearch.yml 파일에 바인딩 설정network.bind_host: 0.0.0.0 vm.max_map_count 부족 오류로그에 찍힌 오류메세지max virtual memory areas vm.max_map_count [65530] is too low, increase to at least [262144] 설정되어 있는 vm.max_map_count 값 확인$ sysctl vm.max_map_countvm.max_map_count 값 설정$ sysctl -w vm.max_map_count=262144conf 파일로 설정$ vi /etc/sysctl.conf$ sysctl -pelasticsearch 홈페이지 참고 logstash.. 더보기
[번역] Logstash 배포 및 확장 원문 : Deploying and Scaling Logstash Logstash의 유스 케이스가 발전함에 따라 주어진 규모에서 선호하는 아키텍처가 변경 될 것입니다. 이 포스트에서는 최소한의 설치부터 시작하여 시스템에 요소를 추가하는 등 일련의 복잡한 Logstash 아키텍처에 대해 설명합니다. 이 섹션의 배포 예제는 하나의 Elasticsearch 클러스터를 위해 작성되었지만 Logstash는 다양한 엔드 포인트에 대해서도 작성될 수 있습니다.최소한의 설치최소의 Logstash 설치는 하나의 Logstash 인스턴스와 하나의 Elasticsearch 인스턴스를 포함하고 있습니다. 이러한 인스턴스들은 서로 직접 연결됩니다. Logstash는 Logstash 처리 파이프 라인을 따라 입력 플러그인을 사용하.. 더보기
filebeat를 사용하여 logstash로 파일 수집하기 설치 과정은 여기에 잘 정리되어 있으므로 생략. Logstash로 전달하기 위한 설정filebeats는 file에 저장된 로그 데이터를 실시간으로 수집하여 logstash로 전달한다.파일이 추가되거나 변경되면 실시간으로 logstash에 반영한다.filebeat.yml 설정기본적으로 설정되어 있는 elastic 부분을 모두 주석 처리하고 logstash를 활성화 시킨다.#-------------------------- Elasticsearch output ------------------------------ #output.elasticsearch: # Array of hosts to connect to. #hosts: ["localhost:9200"] # Optional protocol and basi.. 더보기

728x90