Use resumos de experimentos para projetar experimentos melhores

Publicados: 2023-02-03

Quer sua empresa esteja apenas começando sua jornada de experimentação ou já tenha estabelecido uma cultura de experimentação, o uso do Experiment Briefs pode ajudar a democratizar a experimentação, projetar experimentos melhores e criar transparência sobre os objetivos e as próximas etapas de cada experimento.

Democratize a experimentação

O que entendemos por democratização? Democratização é o ato de tornar algo acessível a todos. Para democratizar a experimentação, as organizações precisam tornar duas coisas acessíveis:

  1. A capacidade de realizar experimentos deve ser acessível a qualquer pessoa em qualquer parte da organização
  2. Qualquer pessoa deve ser capaz de obter acesso rápido aos principais fatos e resultados de cada experimento

Uma excelente abordagem para democratizar os principais fatos e resultados de um experimento é usar um resumo do experimento.

Por que sua equipe deve usar um resumo do experimento?

Projete experimentos melhores

A realização de experimentos é um componente fundamental do método científico - científico sendo a palavra operativa. O design de um experimento é uma parte crucial do processo, mas muitas equipes geralmente ignoram essa etapa fundamental do processo. Exploraremos isso com mais profundidade na próxima seção.

Crie transparência em seu processo

Sem documentação transparente, é fácil racionalizar as decisões e encaixá-las em uma narrativa depois de conhecer os fatos, o que leva a maus resultados de experimentação. Ao documentar as próximas etapas claras após a execução de um experimento, é muito mais provável que as equipes avancem com base no que aprenderam com o experimento.

Como é um bom experimento?

Muitos praticantes assumem que um experimento consiste em começar com uma ideia, construir um protótipo, testá-lo e depois descobrir o que fazer a seguir. Errado.

Um bom experimento segue o esqueleto do método científico. Esses conceitos básicos são transferidos para o mundo dos experimentos digitais, juntamente com alguns componentes personalizados. Só para constar, quando digo “boa experiência”, não estou me referindo ao resultado da experiência. Um “bom experimento” fala de um experimentobem planejado .”

Aqui estão os componentes críticos de um bom projeto de experimento:

Planejamento (pré-experimento)

  1. Observações do documento que esclarecem por que planejamos executar este experimento
  2. Pesquisa para validar nossas observações. Esta pesquisa pode ser quantitativa, qualitativa, insights competitivos, etc.
  3. Crie uma hipótese com métricas ou KPIs claramente definidos
  4. Crie alinhamento nas próximas etapas de sua equipe com base em cada resultado possível: se cada variante vence ou se o teste não atinge significância estatística
  5. As características da configuração do experimento incluem duração, público, divisão de tráfego, limite crítico e muito mais
  6. Articulação clara do que está sendo testado e modificado. Isso pode ser uma mudança de design, um novo recurso ou experiência e muito mais
  7. Confirme se o experimento pode ser medido

Enquanto o experimento é executado

  1. Painéis analíticos para monitoramento contínuo

Pós-experiência

  1. Analise os resultados
  2. Articule o resultado do experimento e avance com seus próximos passos pré-determinados.

O resumo do experimento

Agora que entendemos em que consiste um bom design de experimento, podemos padronizar nosso processo para garantir que todas as informações críticas sejam documentadas antes do início do experimento, todas as vezes.

Isso torna mais fácil para qualquer pessoa em sua organização aprender sobre o experimento de forma assíncrona, o que ajuda a permitir a democratização.

Fase 1: Plano

Plano
Observações e percepções: quais observações levaram a esse experimento?Essa pesquisa pode ser quantitativa, qualitativa, insights competitivos, pesquisa de usuários e muito mais.
Defina o tipo de experimento: teste de hipótese ou teste de Do No Harm
Hipótese Observamos: documentar o insight qualitativo, quantitativo ou competitivo
Por: Introduzindo ou modificando a variável independente
Esperamos: Defina a mudança de comportamento que você espera
Levando a: Indique o impacto esperado em sua variável dependente
Para testes de não causar danos
Métricas: ao introduzir grandes mudanças, como uma nova experiência em seu produto, use um teste Do No Harm para métricas primárias e de proteção para detectar qualquer impacto negativo em suas métricas críticas Principal: pode ser uma taxa de conversão
Guarda -corpos (opcional)
Para testes de hipótese
Métricas Principal: pode ser uma taxa de conversão
Secundário (opcional)
Guarda -corpos (opcional)
Tamanho total da amostra
Efeito mínimo detectável primário
Guarda -corpo (opcional)
Nome do evento do experimento
Parâmetros de evento do experimento
Ações: Quais ações você tomará com base em cada um dos seguintes resultados do teste? Vencer
Perder
Plano

Fase 2: configurar

configurar
Projetos de Variação Variação 1: Defina como será diferente do grupo de controle.Você também deve vincular a quaisquer designs relevantes
Variação 2 (opcional)
Alocação Divisão: pode ser 50/50
Coorte de público-alvo: estamos segmentando clientes existentes, novos usuários etc.?
plataformas
Seção do site: Em qual seção do seu produto o teste está sendo conduzido?
Tíquetes e análise do JIRA (links) Analytics JIRA Ligação
Tecnologia JIRA Ligação
Análise pré-teste Ligação
Análise pós-teste Ligação

Fase 3: Monitorar

Monitor
Data planejada do teste De: [MM/DD/AAAA] Para: [MM/DD/AAAA]
Duração (dias)
Verifique se o rastreamento na análise está funcionando: verifique se: (1)O evento é acionado em plataformas, dispositivos e grupos de usuários relevantes, (2)Você configurou nomes de eventos consistentes para controle e variante em todas as plataformas, (3)O evento de exposição é acionado quando os usuários são expostos ao experimento

Fase 4: Analisar e Decidir

Analisar e Decidir
Análise: documente o resultado do experimento
Decisão: Decida os próximos passos com base na sua fase de planejamento.
Monitore o desempenho contínuo: continue analisando o comportamento após o experimento

Pensamentos finais

Esses resumos de experimentos podem ser facilmente categorizados por data, segmento, seção do site e plataforma. Eles também devem ser acessíveis a todos para que esse conhecimento institucional persista mesmo que as pessoas entrem e saiam. O uso de resumos de experimentos pode ajudar sua equipe a turbinar seu programa de experimentação, documentando cada experimento de forma transparente para democratizar essas informações.

Eu adoraria ouvir seus pensamentos sobre este modelo e quaisquer modificações que você faria. Você pode entrar em contato comigo no LinkedIn ou no Twitter, ou conferir meu blog.

Um link para o modelo de resumo do experimento pode ser encontrado seguindo este link → Modelo de resumo do experimento.

Contato de vendas