본문 바로가기

분류 전체보기722

Golang 밋업 - Bazel 소개와 카카오 게임즈 사례 Bazel for GoBazel빌드를 도와주는 시스템다양한 언어 빌드 지원다양한 하드웨어 플랫폼, 크로스 컴파일 지원구글에서 내부 빌드툴로 사용 중오픈 소스에서는 일부 기능만 오픈빌드 명세를 정확히 작성해 주어야 동작함의존되는 라이브러리 모두 명시해야함Skylark 룰 기반python과 유사한 스크립트 언어Bazel을 빌드하기 위한 언어로 사용됨참고 : https://docs.bazel.build/versions/master/skylark/language.html빌드를 코드로 관리Docker Image 빌드 제공Bazel 사용의 장점빠르고 정확한 빌드병렬화병렬화를 위해 빌드 명세가 필요각 소스코드 파일마다 필요한 라이브러리를 알기 때문에 병렬이 가능멀티 머신 기능은 아직 작업 중캐싱필요한 부분만 다시 빌.. 2018. 8. 14.
로그스태시는 장애 시 어떻게 데이터 손실을 방지할까? 로그스태시는 엘라스틱 스택에서 데이터를 수집하고 가공하여 엘라스틱 서치로 전송하는 역할을 담당하고 있습니다. 이 과정은 입력,필터,출력 플러그인을 통해 하나의 파이프라인을 형성하며 이루어지는데 이 처리 과정 중에 장애가 발생하여 로그스태시가 종료되면 처리중인 데이터는 손실됩니다. 이러한 손실을 방지하기 위해 로그스태시는 어떠한 노력을 하고 있을까요? 로그스태시는 유입된 이벤트를 처리할 때 출력이 완료되어야만 해당 이벤트가 완료된 것으로 판단하고, 그 전에는 큐에 이벤트 레코드를 유지합니다. 로그스태시를 Ctrl+C 또는 SIGTERM 신호를 통해 정상 종료할 경우에는 데이터 수집을 중지하고, 필터와 출력 플러그인에 의해 처리 중인 이벤트들을 정상적으로 처리 완료한 후에 종료합니다. 기본적으로 이 이벤트들.. 2017. 12. 12.
[리뷰] 처음 배우는 머신러닝 책을 읽게 된 이유 얼마전까지만해도 머신러닝이라는 것은 저와는 완전히 동떨어진 기술이고, 관심은 가지만 알필요는 없을 것 같다는 생각을 가지고 있었습니다. 왜냐하면 머신러닝을 설명하는 글들을 보면 항상 복잡한 수학 공식이 적혀 있었고, 이 공식들을 사용해서 컴퓨터를 학습시켜 미래를 예측한다는 내용이었기 때문에 너무 어려워보이고 범접할 수 없는 느낌이 들었기 때문입니다. 하지만 불과 1,2년 사이에 먼 이야기 같았던 머신러닝이 점점 생활 속으로 들어오고 익숙한 단어가 되고, 주 마다 찾아가는 서점에서도 머신러닝, 딥러닝에 대한 책들이 점점 많아지는 것을 느꼈습니다. 그만큼 많은 사람들이 관심을 가지고 이에 대한 공부를 하고 있고, 제 주변에서도 관심을 가지고 살펴보는 사람들이 늘어가고 있었습니다. 최근에 .. 2017. 12. 3.
[AWS] EC2 종료 시 filebeat 정상 종료 확인 및 대기 오토스케일링 설정이 되어 있는 경우 EC2 종료 시 약 1시간까지 종료 대기가 가능하다. 이 때 서비스를 활용하면 인스턴스 종료 시에 서비스를 종료하는 과정에서 원하는 프로세스를 체크하여 정상 종료를 확인 한 후에 종료시킬 수가 있게 된다. Elastic Beanstalk의 AMI인 Amazon Linux 환경에서는 chkconfig를 사용하여 서비스를 등록할 수 있다. systemd unit files/etc/systemd/system 디렉토리 하위에 unit file들 정의unit_name.type_extension 형식으로 파일명을 지정Unit 섹션에서 사용할 수 있는 옵션옵션내용DescriptionUnit에 대한 설명. 이는 systemctl status 명령으로 출력됨DocumentationUn.. 2017. 9. 26.