실험 개요를 사용하여 더 나은 실험 설계

게시 됨: 2023-02-03

귀사가 이제 막 실험 여정을 시작했든 이미 실험 문화를 확립했든 상관없이 Experiment Briefs를 사용하면 실험을 민주화하고 더 나은 실험을 설계하고 각 실험의 목표와 다음 단계에 대한 투명성을 창출하는 데 도움이 될 수 있습니다.

실험 민주화

민주화란 무엇을 의미합니까? 민주화는 모든 사람이 무언가에 접근할 수 있도록 하는 행위입니다. 실험을 민주화하려면 조직은 두 가지에 접근할 수 있어야 합니다.

  1. 실험을 실행할 수 있는 기능은 조직의 모든 부분에 있는 모든 사람이 액세스할 수 있어야 합니다.
  2. 누구나 모든 실험의 주요 사실과 결과에 빠르게 액세스할 수 있어야 합니다.

실험의 주요 사실과 결과를 민주화하는 탁월한 접근 방식은 실험 요약을 사용하는 것입니다.

팀에서 Experiment Brief를 사용해야 하는 이유는 무엇입니까?

더 나은 실험 설계

실행 실험은 과학적 방법의 기본 구성 요소입니다. 과학적이라는 말은 작동하는 단어입니다. 실험 설계는 프로세스의 중요한 부분이지만 많은 팀에서 프로세스의 이 핵심 단계를 간과하는 경우가 많습니다. 다음 섹션에서 이에 대해 자세히 살펴보겠습니다.

프로세스에 투명성 구축

투명한 문서가 없으면 결정을 합리화하고 사실을 학습한 후 내러티브에 맞추기가 쉬워져 좋지 않은 실험 결과로 이어집니다. 실험 실행 후 명확한 다음 단계를 문서화함으로써 팀은 실험에서 배운 내용을 바탕으로 앞으로 나아갈 가능성이 훨씬 높아집니다.

좋은 실험은 어떤 모습일까요?

많은 실무자들은 실험이 아이디어로 시작하여 프로토타입을 구축하고 테스트한 다음 다음에 수행할 작업을 파악하는 것으로 구성된다고 가정합니다. 잘못된.

좋은 실험은 과학적 방법의 뼈대를 따릅니다. 이러한 핵심 개념은 몇 가지 맞춤형 구성 요소와 함께 디지털 실험의 세계로 이어집니다. 참고로 내가 "좋은 실험"이라고 말할 때 나는 실험의 결과를 말하는 것이 아니다 . "좋은 실험"은 잘 설계된실험 을 의미합니다."

좋은 실험 설계의 중요한 구성 요소는 다음과 같습니다.

계획(사전 실험)

  1. 이 실험을 실행하려는 이유를 명확히 설명하는 문서 관찰
  2. 우리의 관찰을 검증하기 위한 연구. 이 연구는 양적, 질적, 경쟁적 통찰력 등이 될 수 있습니다.
  3. 명확하게 정의된 메트릭 또는 KPI로 가설을 세웁니다.
  4. 가능한 각 결과에 따라 팀의 다음 단계에 대한 정렬을 만듭니다. 각 변형이 이겼는지 또는 테스트가 통계적 유의성에 도달하지 않았는지 여부
  5. 실험 설정의 특성에는 기간, 잠재고객, 트래픽 분할, 중요 임계값 등이 포함됩니다.
  6. 테스트 및 수정 중인 내용을 명확하게 설명합니다. 이것은 디자인 변경, 새로운 기능 또는 경험 등이 될 수 있습니다.
  7. 실험을 측정할 수 있는지 확인

실험이 진행되는 동안

  1. 지속적인 모니터링을 위한 분석 대시보드

실험 후

  1. 결과 분석
  2. 실험 결과를 설명하고 미리 결정한 다음 단계를 진행합니다.

실험 개요

이제 우리는 좋은 실험 설계가 무엇인지 이해했으므로 실험을 시작하기 전에 매번 모든 중요한 정보가 문서화되도록 프로세스를 템플릿화할 수 있습니다.

이를 통해 조직의 모든 사람이 비동기식으로 실험에 대해 쉽게 배울 수 있으므로 민주화를 가능하게 합니다.

1단계: 계획

계획
관찰 및 통찰: 이 실험으로 이어진 관찰은 무엇입니까?이 연구는 양적, 질적, 경쟁적 통찰력, 사용자 연구 등이 될 수 있습니다.
실험 유형 정의: 가설 테스트 또는 Do No Harm 테스트
가설 우리는 다음을 관찰 했습니다. 정성적, 정량적 또는 경쟁적 통찰력 문서화
작성자: 독립 변수를 도입하거나 수정
우리는 기대합니다: 기대 하는 행동의 변화를 정의합니다.
결과 :종속 변수에 예상되는 영향을 기술하십시오.
해를 끼치 지 않는 테스트
메트릭: 제품의 새로운 경험과 같은 주요 변경 사항을 도입할 때 주요 메트릭에 대한 부정적인 영향을 감지하기 위해 기본 및 가드레일 메트릭 모두에 대해 Do No Harm 테스트를 사용하십시오. 기본: 전환율일 수 있습니다.
가드레일 (선택사항)
가설 테스트용
측정항목 기본: 전환율일 수 있습니다.
보조 (선택사항)
가드레일 (선택사항)
총 샘플 크기
감지 가능한 최소 효과 주요한
가드레일 (선택사항)
실험 이벤트 이름
실험 이벤트 매개변수
조치: 다음 각 테스트 결과에 따라 어떤 조치를 취하시겠습니까? 이기다
잃다
평평한

2단계: 구성

구성
변형 디자인 변형 1: 대조군과 어떻게 다를지 정의합니다.관련 디자인에 대한 링크도 제공해야 합니다.
변형 2 (선택사항)
배당 분할: 이것은 50/50이 될 수 있습니다.
청중 코호트:기존 고객, 신규 사용자 등을 대상으로 하고 있습니까?
플랫폼
사이트 섹션: 테스트가 수행되는 제품의 섹션은 무엇입니까?
JIRA 티켓 및 분석(링크) 분석 지라 링크
테크지라 링크
사전 테스트 분석 링크
테스트 후 분석 링크

3단계: 모니터링

감시 장치
시험예정일 보낸 사람: [MM/DD/YYYY] 수신자: [MM/DD/YYYY]
기간(일)
분석에서 추적이 작동 하는지 확인: (1)관련 플랫폼, 장치 및 사용자 그룹에서 이벤트가 발생합니다. (2)모든 플랫폼에서 제어 및 변형에 대해 일관된 이벤트 이름을 구성했습니다. (3)노출 이벤트가 발생 합니다.사용자가 실험에 노출될 때

4단계: 분석 및 결정

분석 및 결정
분석: 실험 결과 문서화
결정: 계획 단계에 따라 다음 단계를 결정합니다.
지속적인 성능 모니터링: 실험 후 동작 분석을 계속합니다.

마지막 생각들

이러한 실험 개요는 날짜, 세그먼트, 웹사이트 섹션 및 플랫폼별로 쉽게 분류할 수 있습니다. 또한 사람들이 오고 가더라도 이 제도적 지식이 지속되도록 모든 사람이 접근할 수 있어야 합니다. Experiment Briefs를 사용하면 이 정보를 민주화하기 위해 각 실험을 투명하게 문서화하여 팀이 실험 프로그램을 강화하는 데 도움이 될 수 있습니다.

이 템플릿에 대한 귀하의 생각과 수정 사항을 듣고 싶습니다. LinkedIn 또는 Twitter에서 나에게 연락하거나 내 블로그를 확인할 수 있습니다.

실험 요약 템플릿에 대한 링크는 이 링크 → 실험 요약 템플릿을 따라 찾을 수 있습니다.

영업팀에 문의