Неплохой бесплатный курс по по A/B-тестированиям. Без сильного технического фарша и примеров кода, но раскрывающий основные важные моменты:
— Чем классические частотные подходы к расчёту вероятности отличаются от байесовских
— Как рассчитывается статистическая значимость и почему её расчёт важен в ходе оценки результатов A/B-тестирования
— Чем отличается статистическая мощность от статистической значимости
— Как правильно сделать сплит трафика
— Почему важно правильно аттрибуцировать конверсию при маркетинговых экспериментах
— Сравнение подходов тестирования на клиенте (client-side) и на сервере (server-side)
— Как анализировать и интерпретировать A/B-тесты

https://www.dynamicyield.com/course/testing-and-optimization/

​​О расстановке приоритетов в экспериментах:
https://davidleemannheim.medium.com/how-do-you-prioritize-experiments-b97bd9d1c8ae

via @ABtesting

​​Хорошая статья о том, как выжимать максимум пользы из результатов экспериментов.

via @ABtesting

​​Python’s Fitter library - библиотека позволяет выбрать параметры распределения, которые наилучшим образом отражают предэкспериментальные данные.

via @ABtesting

​​Что такое байесовское A/B-тестирование и когда его следует использовать?

via @ABtesting

​​Еще одна хорошая статья о байесовских A/B-тестах. В этот раз о способах реализации и масштабировании от специалистов Wix.com.

via @ABtesting

​​Causal Inference from Observational Data, или как провести А/В-тест без А/В-теста.

via @ABtesting

​​Хорошая статья о чувствительности метрик от специалистов Microsoft.

via @ABtesting

​​Как ускорить A/B-тестирование с помощью прокси-метрик. Метод разработан LinkedIn для приблизительного определения долгосрочных показателей.

via @ABtesting

Хорошая идея для футболки. #пятничное @ABtesting

A/B-тесты с метриками-отношениями и при чём здесь внутрипользовательские корреляции:

https://www.youtube.com/watch?v=ObzlKVCiBqI

via @ABtesting

​​Гибкая open-source платформа для А/B-тестирования:
https://github.com/growthbook/growthbook

via @ABtesting

​​“История одного обмана” или “Требования к распределению в t-тесте”. О том, как работает t-критерий (критерий Стьюдента).

via @ABtesting

​​Калькулятор размера выборки A/B-теста в Tableau для неравного деления аудитории.

@BigQuery

​​​​Статья о том, как у Facebook повышали качество A/B-тестов.

via @ABtesting

​​Как сделать причинно-следственный вывод по методу Массачусетского технологического института.

via @ABtesting

​​Книга по байесовской оптимизации от Roman Garnett. Это драфт от автора, официально книга выйдет в 2022 году.

via @ABtesting

10 ошибок в A/B-тестировании мобильных приложений

Подробный разбор самых частых ошибок при проведении экспериментов — с примерами и рекомендациями по устранению. Полезно изучить перед запуском A/B-тестов в продукте.

Бонусом в статье делятся новым сервисом для проведения A/B-тестов именно в мобильных приложениях: proba.ai.

via @ABtesting

​​Приглашаем на митап по аналитике от EXPF x Delivery Club

Программа:
— «Что делать, если возникли сомнения, подходит ли твой критерий для твоего теста (а они должны возникать!)», Тимур Исмагилов, Avito

— «Платформа switchback-экспериментов в Ситимобил», Артём Солоухин, Cитимобил

— «Как мы ищем точки роста в продукте: пошаговая инструкция», Владимир Абазов, Delivery Club

— «Скрытая угроза ранговых критериев», Егор Семин, EXPF

Когда: 25 ноября 2021, 18:00—20:00
Где: online

Регистрация и детали: https://u.to/57bCGw

​​Как в Airbnb проводят эксперименты и как фреймворк Experiment Guardrails помогает им предотвратить негативное влияние на ключевые метрики при масштабных экспериментах.

via @ABtesting

​​🆎 Proba — новый сервис для проверки продуктовых гипотез в мобильных приложениях.

Развитие мобильного приложения невозможно без постоянной проверки новых гипотез. Это конвейер — протестировали, измерили, приняли/отклонили. Любому product-менеджеру, разработчику, аналитику, маркетологу хочется ускорить этот процесс. На проверку каждой гипотезы уходит несколько дней (часто и недель), плюс нужно позаботиться о статзначимости результата.

Мы запускаем сервис, который помогает мобильным продуктам автоматизировать этот процесс и проводить A/B-тесты быстрее и дешевле. Для этого мы реализовали алгоритмы автоматического распределения пользователей и оптимизации под выбранную целевую метрику. Помимо простой конверсии алгоритм может оптимизироваться на ARPU и количество совершённых событий. Уже в ходе эксперимента побеждающий вариант будет получать больше пользователей. Автоматическое распределение трафика работает на основе байесовской статистики.

🚀 Мы приглашаем вас попробовать наш сервис бесплатно и будем рады любой обратной связи — регистрируйтесь на proba.ai

📆 Также приглашаем на бесплатный вебинар «А/B-тесты в мобайле: как проверять гипотезы быстро и дёшево», который пройдёт 1 декабря в 16:00 МСК. Регистрация доступна здесь.

По всем вопросам: @annatch66