실시간 노출 현황
개요
A/B 테스트 상세에 들어갈 경우 가장 오른쪽에 있는 탭입니다.
여기서는 현재 실행 중인 A/B 테스트의 테스트 그룹 별 노출 현황을 두 가지 형태로 볼 수 있습니다.
- 테스트 그룹 별 노출 수에 대한 그래프
- A/B 테스트에 노출된 사용자에 대한 정보를 담은 표
각 테스트 그룹 별 분배가 잘 되고 있는지 살펴보고자 할 때 유용하게 참고할 수 있습니다.
노출 현황 요약 (표)
최근 30분 동안 A/B 테스트에 노출된 사용자를 아래와 같이 세분화하여 확인할 수 있습니다. 그리고, 탭 우측 영역에 위치한 업데이트 버튼을 통해 30초 단위로 업데이트 할 수 있습니다.
- A/B 테스트 그룹 x 플랫폼
(예: Mobile 에서 그룹 B에 노출된 사용자 수) - A/B 테스트 그룹 x 운영체제(OS)
(예: Android 에서 그룹 A에 노출된 사용자 수) - A/B 테스트 그룹 x 버전
(예: 앱 버전 7.11.5 에서 그룹 A에 노출된 사용자 수) - 분배 사유 x 플랫폼
(예: Mobile 에서 A/B 테스트에 노출된 사용자 수) - 분배 사유 x 운영체제(OS)
(예: iOS 에서 A/B 테스트에 노출된 사용자 수) - 분배 사유 x 버전
(예: 앱 버전 2.3.10 에서 A/B 테스트에 노출된 사용자 수)
세분화 조건은 아래 이미지와 같이 항목 1, 2를 설정하여 확인할 수 있습니다.
노출 현황 그래프
최근 30분 동안 A/B 테스트에 노출된 사용자를 아래와 같이 세분화하여 확인할 수 있으며, 조건은 그래프 우측 영역의 select box에서 선택 가능합니다. 선택 가능한 항목은 아래와 같습니다. 그리고, 탭 상단 우측영역에 위치한 업데이트 버튼을 통해 30초 단위로 업데이트할 수 있습니다.
- A/B 테스트 그룹
- 분배 사유
- 플랫폼
- 운영체제(OS)
- 버전
사용자 로그
A/B 테스트에 어떤 사용자들이, 언제, 어떤 그룹으로, 어떤 사유에 따라 분배되었는지를 확인할 수 있습니다. 최근 30분 동안 A/B 테스트에 노출된 사용자들에 대한 로그를 확인할 수 있습니다. 그리고, 탭 상단 우측영역에 위치한 업데이트 버튼을 통해 30초 단위로 업데이트할 수 있습니다.
분배 사유에 나타나는 내용은 아래와 같습니다.
사유 | 설명 | 분배 결과 |
---|---|---|
SDK_NOT_READY | SDK 사용 준비가 되지 않았습니다. (예: 잘못된 SDK 키로 초기화 시도) | 기본 그룹(A) |
EXPERIMENT_NOT_FOUND | 전달한 실험 키에 대한 A/B 테스트를 찾을 수 없습니다. 실험 키가 잘못되었거나 해당 실험이 보관 상태일 수 있습니다. | 기본 그룹(A) |
EXPERIMENT_DRAFT | A/B 테스트가 준비 상태입니다. | 기본 그룹(A) |
EXPERIMENT_PAUSED | A/B 테스트가 일시 정지 상태입니다. | 기본 그룹(A) |
EXPERIMENT_COMPLETED | A/B 테스트가 종료되었습니다. | 종료 시 선택한 승리 그룹 |
OVERRIDDEN | 사용자가 수동할당에 의해 특정 그룹으로 결정되었습니다. | 수동할당한 그룹 |
NOT_IN_EXPERIMENT_TARGET | 사용자가 A/B 테스트 타겟이 아닙니다. | 기본 그룹(A) |
TRAFFIC_NOT_ALLOCATED | A/B 테스트가 실행 중이지만 사용자가 테스트에 할당되지 않았습니다. | 기본 그룹(A) |
TRAFFIC_ALLOCATED | 사용자가 A/B 테스트에 할당되었습니다. | 할당된 그룹 |
VARIATION_DROPPED | 원래 할당된 그룹이 테스트에서 제외되었습니다. | 기본 그룹(A) |
NOT_IN_MUTUAL_EXCLUSION_EXPERIMENT | 해당 A/B 테스트가 상호 배타적 그룹에 포함되어 있지 않습니다. | 기본 그룹(A) |
IDENTIFIER_NOT_FOUND | A/B 테스트 분배 기준에 해당하는 사용자 식별자 정보가 없습니다. | 기본 그룹(A) |
EXCEPTION | 알 수 없는 오류가 발생했습니다. | 기본 그룹(A) |
반영 기준
실시간 노출 현황은 중복을 제거하지 않은 전체 노출 사례를 보여줍니다.
중복을 제거한 순수 사용자 수는 목표 탭에서 확인 가능합니다.
Updated 10 months ago