반응형 EFK6 elastic search 트러블 슈팅(로그 적재) 해당 게시글은 로그 적재용으로 es를 사용할때의 문제점과 해결방식을 정리했습니다. 로그의 경우 검색속도보다는 적재에 포커스를 맞춰서 시스템을 구축하게 되므로 그에 맞는 트러블 슈팅방식을 정리합니다. 1. es의 컴퓨팅 리소스가 부족할때 (1). 에러로그 es의 컴퓨팅 리소스가 부족할때 es가 뱉는 에러는 아래와 같습니다. Error received from Elasticsearch cluster. 429 Too Many Requests /my-index/my-type/_bulk Request to ES cluster timed out. Ensure that the cluster has sufficient capacity for the current workload. {"type":"es_rejected_.. 2022. 8. 17. lambda 트러블 슈팅(concurrent execution limit is exceeded) 이번 게시글에서는 람다의 트러블 슈팅내용을 정리합니다. 1. 에러로그 The Lambda concurrent execution limit is exceeded. Increase the concurrent execution limit. 2. 이유 lambda는 동시에 실행될 수 있는 갯수의 한계가 있습니다. Invoke숫자와 duration이 합산된 데이터로 요청이 많다고 걸리게 되는것이 아니라 수행시간도 길때 발생합니다. 예를들어 5초동안 수행되는 요청이 초당 10개씩 request가 들어오게 되면 concurrent execution은 50이 유지되는 형태입니다. 이는 계정(리전)별로 적용되며 서울리전 기준 1000개가 default입니다. 이를 초과하게 되면 람다 쓰로틀이 발생하게 됩니다. 3. 해결.. 2022. 8. 11. fluent bit 트러블 슈팅 이번 게시글에서는 fluent bit의 에러로그와 해결방법에 대해 정리합니다. 1. fluent bit이란 수집기의 한 종류로 다양한 input과 output을 지원하는 솔루션입니다. 쿠버네티스 로그수집기로 사용한다면 도커 컨테이너가 제공하는 /var/log/containers 아래의 로그파일을 읽어 외부로 보낸는데 사용되는 솔루션입니다. 구축방법과 아키텍쳐는 아래 게시글을 참고해주세요 [devops] fluent bit 으로 k8s(eks)로그 관리하기(bluent-bit 사용법, EFK) 이번 게시글에서는 fluent-bit 사용법에 대해 정리합니다. 1. fluent-bit이란 일반적으로 로깅은 Elastic search, LogStatsh, Kibana의 앞자리를 가져온 ELK 스택이 많이 사용됩.. 2022. 7. 21. [EFK] kinesis firehose를 사용하여 fluent-bit 로그를 es로 보내기(datatransfer with lambda) 이번 게시글에서는 kinesis firehose를 사용하여 fluent bit 로그를 es로 보내는 방법에 대해 정리합니다. fluent bit 의 output 설정은 이전게시글을 참고해주세요 [devops] fluent bit을 사용해 로그를 elastic search로 보내는 방법들 이번 게시글에서는 fluent bit에서 나온 데이터를 elastic search로 보내는 방법에 대해 정리합니다. fluent-bit 사용법은 이전 게시글을 참고해주세요 [devops] fluent bit 으로 k8s(eks)로그 관리하기(bluent-bi.. frozenpond.tistory.com 1 .kinesis firehose란 대용량 스트리밍 데이터 처리 기능을 제공하는 aws 서비스로 kinesis deli.. 2022. 6. 16. [EFK] fluent bit을 사용해 로그를 elastic search 보내기 이번 게시글에서는 fluent bit에서 나온 데이터를 elastic search로 보내는 방법에 대해 정리합니다. fluent-bit 사용법은 이전 게시글을 참고해주세요 [devops] fluent bit 으로 k8s(eks)로그 관리하기(bluent-bit 사용법, EFK) 이번 게시글에서는 fluent-bit 사용법에 대해 정리합니다. 1. fluent-bit이란 일반적으로 로깅은 Elastic search, LogStatsh, Kibana의 앞자리를 가져온 ELK 스택이 많이 사용됩니다. 그러나 k8s 클러스터 환경.. frozenpond.tistory.com 대표적인 4가지 방법은 아래와 같습니다 하나씩 장단점을 정리합니다. (1). 바로 es로 보내는 방법 (2). cloudwatch 로그 그.. 2022. 6. 16. [EFK] EFK란(fluent bit 사용법) 이번 게시글에서는 fluent-bit 사용법에 대해 정리합니다. 1. fluent-bit이란 일반적으로 로깅은 Elastic search, LogStatsh, Kibana의 앞자리를 가져온 ELK 스택이 많이 사용됩니다. 그러나 k8s 클러스터 환경에서는 로그를 수집하는 역할을 하는 'L'의 LogStatsh 대신 fluent bit 이라는 로그 수집기를 사용하는 경우도 많습니다(EFK라고 불립니다) fluent bit은 대표적인 로그 수집기중(LogStash, fluentd, fluentbit) 가장 가볍고(다른 수집기에 비해 10배이상 가볍습니다), 분산한경을 고려하여 만들어졌기에 최근 k8s의 로그 수집기로 각광받고 있습니다. 2. EFK 아키텍쳐 아키텍쳐는 위와 같습니다. 파란색은 쿠버네티스 오브.. 2022. 5. 30. 이전 1 다음 반응형
