피터의 개발이야기

ㅁ 들어가며ㅇ 회사 팀 회의에서 ElasticSearch의 실시간 조회에 대한 이야기를 나누었다. ㅇ 기존에 경험했던 내용을 설명하는 단계에서 기본 개념과 용어가 잘 생각이 나지 않아 다시 종합적으로 공부가 필요했다.ㅇ 이번 글은 ElasticSearch 기본 개념 정리에 대해서 정리하였다.ㅁ ElasticSearch 소개ElasticSearch는 분산형 검색 및 분석 엔진으로, REST API를 통해 모든 기능을 제공한다. 대량의 데이터를 빠르게 저장, 검색, 분석할 수 있는 강력한 도구이다. 쿠버네티스 환경에서 분산된 로그를 수집하여 통합적인 로그 점검을 위해 사용한 적이 있다. 관련글:[Elasticsearch] EFK(Elasticsearch, Fluentd, kibana)란[Elasticsear..

ㅁ 개요 ㅇ Elasticsearch(이후 ES) Data 노드에서 볼륨 유휴시간이 갑자기 떨어지고, ES 내부 로그에서 rejected exception을 확인하였다. ㅇ rejected exception을 분석하고 ES의 thread pool의 개념을 정리하였다. ㅇ 참조 사이트는 여기 ㅁ ES Data-1의 볼륨 유휴시간 지표 ㅇ CloudWatch에 Volume 지표를 모니터링 중에 ES Data-1의 유휴시간에 특이사항을 발견하였다. ㅇ 키바나에서 클러스터 상태를 확인하니 yellow 상태였다. ㅇ 기존에 ES가 Volume에 병목이 종종 발생하는 터라 ES Pod 내부의 로그를 확인하였다. ㅁ ES 에러로그 {"type": "server", "timestamp": "2022-08-29T01:0..

ㅁ 관련 글 ㅇ [Elasticsearch] EFK(Elasticsearch, Fluentd, kibana)란 ㅇ [Elasticsearch] EFK 설치(minikube)-1 ㅇ [Elasticsearch] EFK 설치(minikube)-2 ㅁ 개요 AWS Kubernetes환경에서 EFK(Elasticsearch, Fluentd, kibana) 구축하는 과정을 정리하였다. ㅁ EFK란? EFK란 Elasticsearch + Fluentd + Kibana의 단순말이다. 쿠버네티스환경에서 수많은 컨테이너의 로그를 수집하여 통합적으로 로그를 UI로 확인할 수 있는 인터페이스이다. 오케스트레이션 환경에서 파드가 생성되고 삭제되는 과정에서 로그를 관리하기란 어려운 일이다. 이를 해결하기 위해 쿠버네티스에서 E..

ㅁ 개요 ㅇ Elasticsearch를 이야기 하면서 개념적으로 헷갈리는 부분이 있어서 정리를 하였다. ㅇ index와 indices, node, Documents에 관한 설명이다. ㅁ 용어 개념 정리 ㅇ 도큐먼트는 가장 기본 단위로 로그 한줄을 말한다. ㅇ index는 도큐먼트의 논리적인 한 묶음이다. ㅇ indices는 언어적으로는 index의 복수형을 뜻하고, index의 물리적인 의미로 저장소 단위 개념이다. ㅇ shard는 indices의 분산저장 단위이다. ㅇ 위의 이미지를 참조하여 설명하면, elasticsearch의 인프라는 3개의 master node와 2개의 data node로 구성되어 총 5개 노드가 있다. ㅇ shard는 5개의 노드 중에서 data 노드에 24개의 indices가 ..