버즈빌의 데이터 엔지니어링팀은 데이터가 생산되는 레이어부터 데이터가 소비되는 레이어까지를 아우르는 데이터 플랫폼과 워크플로우의 설계 및 운영을 담당하는 조직입니다. 현재 1,500만 MAU, 30여개의 마이크로 서비스로부터 흘러들어오는 TBs/day 볼륨의 데이터가 scalable하게 적재적소에 활용 될 수 있는 데이터 플랫폼을 만들어가고 있습니다.
데이터의 원천으로부터 데이터 레이크(S3, Athena)까지 흘려보내는 ELT 워크플로우들은 Airflow를 통해 관리하고 있으며, AWS EKS 클러스터 위에서 약 800개의 DAG를 운영하고 있습니다. Airflow를 고도화하여 YAML 명세 기반 워크플로우 관리를 포함한 다양한 시도를 통해 분석가나 서버/ML 개발자가 직접 워크플로우를 등록하는 self-serving 플랫폼을 지향하고 있습니다. S3, Athena, Kafka, Fluentbit, Loki를 포함한 전반적인 데이터 인프라는 AWS와 Kubernetes 상에서 Terraform과 Helm을 통해 관리하고 있으며, Airflow는 Argo-CD를 통해 Docker 기반으로 배포를 하고 있습니다.
🔎 리워드 광고의 본질:
https://www.buzzvil.com/career/culture_blog/jwcVGiVa7DxL7MRBCsKNF
🔎 버즈빌 광고 상품 자세히 알아보기:
https://www.buzzvil.com/
🔎 하루 1억 건 이상을 처리하는 견고한 포인트 시스템 구축하기│인프콘2024:
https://www.youtube.com/watch?v=4TxlNyMeTis
🔎 버즈빌 테크 블로그:
https://tech.buzzvil.com/
[개발 환경]
• 주요 기술 : Go, Python, Airflow, Athena, Kafka, Kubernetes, Fluentbit, Loki
• 업무 도구 : Jira, Confluence, Slack, Github
• 코드 리뷰 : 한 명 이상의 Approve를 받아야 코드 반영이 가능하고, 팀원들이 코드 리뷰에 적극적으로 참여합니다.
• 테스트/빌드/배포 : Github Action, Gitploy
• 모니터링 : Datadog, Grafana, Prometheus, AWS CloudWatch
[개발 문화]
성장을 위한 개발 문화와 훌륭한 동료 버즈빌은 회사와 팀, 개인 모두의 성장을 적극적으로 지원합니다. 좋은 문화와 훌륭한 동료 덕분에 빠른 성장을 경험할 수 있습니다.
• 코드 리뷰를 통한 적극적인 공유 및 소통
• 활발하게 이루어지는 사내 스터디 및 세미나
• AI 툴 적극 지원(Claude code Max $200 플랜, ChatGPT, Cursor, Github copilot, Coderabbit)
• 좋은 설계와 좋은 코드를 위한 지속적인 노력
• 직군의 경계를 허무는 능동적인 참여 문화
• 자율적이고 효율적인 업무 프로세스
• 새로운 기술 도입에 대한 적극적인 논의와 지원