使用實驗簡報設計更好的實驗

已發表: 2023-02-03

無論您的公司是剛剛開始其實驗之旅還是已經建立了實驗文化,使用實驗簡報都可以幫助實現實驗民主化、設計更好的實驗,並為每個實驗創造目標和後續步驟的透明度。

民主化實驗

我們所說的民主化是什麼意思? 民主化是讓每個人都能獲得某些東西的行為。 為了使實驗民主化,組織需要使兩件事變得可訪問:

  1. 組織內任何部門的任何人都應該能夠進行實驗
  2. 任何人都應該能夠快速訪問每個實驗的關鍵事實和結果

使實驗的關鍵事實和結果民主化的一個很好的方法是使用實驗簡報。

為什麼您的團隊應該使用實驗簡報?

設計更好的實驗

進行實驗是科學方法的基本組成部分——科學是關鍵詞。 實驗設計是該過程的關鍵部分,但許多團隊經常忽略該過程中的這一關鍵步驟。 我們將在下一節中更深入地探討這一點。

在您的流程中建立透明度

如果沒有透明的文檔,很容易在了解事實後合理化決策並將其納入敘述中,從而導致糟糕的實驗結果。 通過在實驗運行後記錄清晰的後續步驟,團隊更有可能根據他們從實驗中學到的知識向前推進。

一個好的實驗是什麼樣的?

許多從業者假設實驗包括從一個想法開始,構建一個原型,測試它,然後弄清楚下一步該做什麼。 錯誤的。

一個好的實驗遵循科學方法的骨架。 這些核心概念與一些定制組件一起進入了數字實驗的世界。 鄭重聲明,當我說“好的實驗”時,我並不是指實驗的結果。 一個“好的實驗”說明一個設計良好的實驗

以下是良好實驗設計的關鍵組成部分:

規劃(預實驗)

  1. 記錄觀察結果,闡明我們計劃進行此實驗的原因
  2. 研究以驗證我們的觀察。 這項研究可以是定量的、定性的、有競爭力的見解等。
  3. 使用明確定義的指標或 KPI 建立假設
  4. 根據每個可能的結果對團隊的後續步驟進行調整:每個變體是否獲勝,或者測試是否未達到統計顯著性
  5. 實驗設置的特徵包括持續時間、受眾、流量分配、臨界閾值等
  6. 清楚地說明正在測試和修改的內容。 這可能是設計更改、新功能或體驗等
  7. 確認實驗可以測量

實驗運行時

  1. 用於持續監控的分析儀表板

實驗後

  1. 分析結果
  2. 闡明實驗的結果,並按照您預先確定的後續步驟前進。

實驗簡介

現在我們了解了良好的實驗設計包括什麼,我們可以將我們的過程模板化,以確保每次在實驗開始之前記錄所有關鍵信息。

這使您組織中的任何人都可以輕鬆地異步了解有助於實現民主化的實驗。

第一階段:計劃

計劃
觀察和見解:什麼觀察導致了這個實驗?這項研究可以是定量的、定性的、競爭洞察力、用戶研究等等。
定義實驗類型:假設檢驗或不傷害檢驗
假設我們觀察到:記錄定性、定量或競爭洞察力
By:引入或修改自變量
我們期望:定義您期望的行為變化
導致:說明對因變量的預期影響
對於不傷害測試
指標:當你引入重大變化時,比如你的產品的新體驗,對主要指標和護欄指標使用 Do No Harm 測試,以檢測對你的關鍵指標的任何負面影響主要:這可能是轉化率
護欄(可選)
對於假設檢驗
指標主要:這可能是轉化率
次要(可選)
護欄(可選)
總樣本量
最小可檢測效果基本的
護欄(可選)
實驗事件名稱
實驗事件參數
行動:根據以下每個測試結果,您將採取什麼行動?
失去
平坦的

第 2 階段:配置

配置
變體設計變體 1:定義它與對照組的不同之處。您還應該鏈接到任何相關設計
變體 2 (可選)
分配拆分:這可能是 50/50
受眾群體:我們是否針對現有客戶、新用戶等?
平台
站點部分:在您的產品的哪個部分進行測試?
JIRA 票證和分析(鏈接) 分析 JIRA 關聯
科技吉拉關聯
測試前分析關聯
測試後分析關聯

第 3 階段:監控

監視器
計劃考試日期來自:[MM/DD/YYYY] 收件人:[月/日/年]
持續時間(天)
確保分析中的跟踪有效:確保:(1)事件在相關平台、設備和用戶組上觸發,(2)您已為所有平台的控制和變體配置一致的事件名稱,(3)曝光事件觸發當用戶接觸到實驗時

第四階段:分析和決定

分析和決定
分析:記錄實驗結果
決策:根據您的計劃階段確定後續步驟。
監控持續表現:繼續分析實驗後的行為

最後的想法

這些實驗簡報可以很容易地按日期、細分、網站部分和平台進行分類。 每個人都應該可以訪問它們,這樣即使人們來來去去,這種制度知識也會持續存在。 使用實驗簡報可以透明地記錄每個實驗,從而使該信息大眾化,從而幫助您的團隊加強您的實驗計劃。

我很想听聽您對此模板的看法以及您將做出的任何修改。 你可以在 LinkedIn 或 Twitter 上聯繫我,或者查看我的博客。

可以通過此鏈接 → 實驗簡介模板找到指向實驗簡介模板的鏈接。

聯繫銷售