사내 개발 도구 · 운영 중인 워크플로

08 / 12

Slack AI Engineering Agent

신뢰도 높은 Sentry 노이즈를 Slack에서 검증된 Draft PR로 전환해 사람의 리뷰로 연결하는 운영 중인 agent 워크플로입니다.

역할
Feature Engineer / Product Engineer · 2026
문제
반복 운영 작업을 줄일 만큼의 권한은 주되, agent가 애플리케이션 코드를 임의로 바꾸거나 병합할 수 없게 만드는 것이 핵심 문제였습니다.
전략
신뢰도 높은 알림만 typed action으로 바꾸고 안정적인 fingerprint로 중복을 제거했습니다. 격리된 브랜치에서 결정론적 patch를 적용한 뒤 허용된 diff와 대상 테스트를 검증하고, 병합 대신 Draft PR을 생성했습니다.
성과
Slack에서 실제 운영되며 사람의 리뷰를 위한 여러 건의 Draft PR을 생성했습니다.

운영 중인 사내 워크플로 · 비공개 소스

01

문제 정의

왜 이 문제를 해결해야 했는가

브라우저 지갑 확장 프로그램에서 반복되는 Sentry 노이즈는 매번 같은 분류, 필터 수정, 회귀 테스트, PR 준비 작업을 요구했습니다.

사용자와 시스템이 마주한 문제

  • 알려진 확장 프로그램 노이즈가 여러 제품 프론트엔드에서 반복적인 Sentry 분류와 필터 PR 작업을 만들었습니다.

  • Slack 알림은 맥락을 제공할 수 있지만 agent에게 저장소를 임의로 변경하는 권한까지 줄 수는 없었습니다.

  • 생성된 필터는 애플리케이션 오류를 숨기거나 사람의 리뷰를 우회하지 않으면서 확장 프로그램 소유 노이즈만 제거해야 했습니다.

프론트엔드 오너십

팀이 함께 만든 더 큰 agent 코드베이스 안에서 RFC, 구독 action, 저장 모델부터 안전한 patch, 검증, GitHub 전달, Slack feedback까지 Sentry 자동화 서브시스템을 맡았습니다.

  • RFC, 이벤트 모델, 명시적인 구독 action

  • Sentry parsing, 신뢰도 gate, fingerprint, 중복 방지

  • 결정론적 필터 patch, 회귀 테스트, diff guard

  • GitHub preflight, Draft PR, 감사 기록, Slack feedback

02

해결 전략

프로덕션까지 이어지는 시스템 전략

신뢰도 높은 알림만 typed action으로 바꾸고 안정적인 fingerprint로 중복을 제거했습니다. 격리된 브랜치에서 결정론적 patch를 적용한 뒤 허용된 diff와 대상 테스트를 검증하고, 병합 대신 Draft PR을 생성했습니다.

시스템 모델

Slack으로 전달된 Sentry 알림을 분류하고 중복 제거한 뒤 안전한 patch, 대상 검증, Draft PR 생성, 사람 리뷰로 연결합니다.

주요 구현 결정

  • 일반 background subscription은 읽기 전용으로 유지하고 명시적으로 선택한 action만 코드 변경 executor로 전달했습니다.

  • 확장 프로그램 소유 stack frame을 필수 조건으로 두고 positive·false-positive 회귀 테스트를 함께 생성해 애플리케이션 오류가 계속 노출되게 했습니다.

  • 대상 저장소, 변경 파일, 실행 빈도, 브랜치 범위를 제한하고 secret masking과 격리 worktree 정리를 적용했습니다.

  • 자동 병합 대신 Draft PR만 만들고 성공, 중복, 실패 상태를 Slack으로 돌려보내 사람의 리뷰로 연결했습니다.

03

성과

무엇이 달라졌고 무엇을 배웠는가

  • Slack에서 실제 운영되며 사람의 리뷰를 위한 여러 건의 Draft PR을 생성했습니다.

  • 검증되지 않은 절감 시간을 만들지 않으면서 반복적인 수동 분류와 필터 PR 준비 작업을 크게 줄였습니다.

  • Allowlist, rate limit, 감사 기록, Draft 전용 전달로 기존 권한 경계를 유지했습니다.

배운 점

유용한 AI 개발 자동화는 자율성을 최대로 높이는 것이 아니라 권한을 좁히고, 검증을 결정론적으로 만들고, 실패를 드러내며, 사람에게 명확히 넘기는 데서 나옵니다.

지금이라면

기능 테스트를 기본 CI gate에 포함하고 alert-to-draft 전환율, 리뷰 승인율, false positive, rollback 결과를 명시적인 운영 지표로 추적하겠습니다.

사용 기술

  • TypeScript
  • Node.js
  • Slack Bolt
  • Sentry
  • GitHub REST API
  • SQLite
  • Event-driven architecture
  • Vitest

공개 링크

아키텍처 수준의 설명만 제공합니다. 비공개 소스와 내부 payload는 의도적으로 공개하지 않습니다.

함께 일하기

이 정도의 프론트엔드 오너십이 필요한가요?

연락하기