Case Bônus de Pico · Rider Ops · Senior Data & Operations Analyst

No jantar, falta entregador em alguns hubs: a loja fecha e os pedidos atrasam. Operações ligou um bônus de R$ 2,50 por entrega em 8 hubs, e o e-mail diz que deu muito certo e propõe expandir para os 30. Vale expandir?

O bônus de pico funciona, mas não se paga do jeito que está. Recomendo ajustar, não expandir.

+4,8 pp

de pedidos no prazo no jantar: o efeito real do bônus

o e-mail diz +9,4 pp

R$ 0,76

de volta para cada R$ 1 de bônus: dá prejuízo

prejuízo de R$ 7,4 mil por mês nos 8 hubs (R$ 10,4 mil nas 6 semanas)

+R$ 3,9 mil

de lucro por mês se o bônus ficar só nos 5 hubs que fecham 48 minutos ou mais por noite por falta de entregador

expandir para os 30 daria prejuízo de R$ 59,4 mil por mês

Recomendação: manter o bônus só onde falta entregador de verdade (H05, H07, H13, H18 e H20), desligar nos outros hubs e testar por 4 semanas antes de escalar. A projeção troca um prejuízo de R$ 7,4 mil por mês por um lucro de R$ 3,9 mil por mês.

Case Bônus de Pico · Guilherme Teixeira Silva · dados sintéticos do caseFonte: 06_diferenca_em_diferencas.sql, 09_custo_beneficio.sql, retorno_e_teste.py · 1/6

Pergunta 1 de 3 · O bônus funcionou? Primeiro, o que o e-mail mede

O e-mail compara os piores hubs, no pior momento, só com eles mesmos. Isso quase dobra o resultado.

Com bônus (8 hubs)Sem bônus, com a mesma mistura de cidades (7/8 SP, 1/8 BH)
BaseEscolha dos hubsBônus ligado (13/07 em diante)65%70%75%80%85%90%01/0608/0615/0622/0629/0606/0713/0720/0727/0703/0810/0817/08semana que começa em83,6% Com bônus (8 hubs)89,7% Sem bônus, mesmamistura de cidadeso mergulho que virou a base do e-mail
Ver os números

No prazo no jantar, por semana

Semana deCom bônusSem bônus (mesma mistura)
01/0676,1%83,9%
08/0673,7%83,7%
15/0672,9%83,8%
22/0670,3%83,3%
29/0668,8%84,4%
06/0775,3%88,6%
13/0779,0%84,2%
20/0785,2%88,8%
27/0778,3%83,8%
03/0882,8%87,6%
10/0876,3%82,7%
17/0883,6%89,7%
  1. A base foi o fundo do poço. Os 8 hubs foram escolhidos pelas 3 piores semanas. Nelas, a taxa no prazo deles caiu 4,5 pp a mais que a dos hubs sem bônus da mesma cidade, e já voltava antes do bônus. Parte da melhora viria de qualquer jeito.
  2. Sem comparação com quem não recebeu. No mesmo período, os hubs sem bônus de SP melhoraram 3,0 pp sozinhos (os de BH pioraram 1,7 pp). E 7 dos 8 hubs são de SP.
  3. O custo foi diluído. R$ 0,90 é o bônus dividido por todos os pedidos do dia. Por pedido de jantar, o que recebe bônus, são R$ 2,50.
E-mailMedido
No prazo no jantar+9,4 pp+4,8 pp
Entregadores online+25%+15%
Custo por pedidoR$ 0,90R$ 2,50
Case Bônus de Pico · Guilherme Teixeira Silva · dados sintéticos do caseFonte: 05_numeros_do_email.sql, 06_diferenca_em_diferencas.sql, 07_semana_a_semana.sql · 2/6

Pergunta 1 de 3 · O bônus funcionou? O efeito de verdade

O efeito é real: +4,8 pp no prazo e quase metade a menos de loja fechada. E dá para confiar nele.

No jantar, por causa do bônusEfeitoFaixa plausível
Pedidos no prazo+4,8 pp +3,2 pp a +6,4 pp
Loja fechada por falta de entregador−20 min por noite (−47%) −18 a −23 min
Entregadores online+15% +13% a +17%
Pedidos entregues+14% +10% a +19%
  • Comparação justa: cada hub com bônus contra hubs sem bônus da mesma cidade, com base antes das semanas da escolha.
  • Placebo: fora do jantar, onde não há bônus, o "efeito" é −0,6 pp, ou seja, nenhum.
  • Conferência por regressão (descontando as características de cada hub e de cada dia em cada cidade): +4,8 pp.
  • Estável: o efeito se mantém nas 6 semanas, sem sinal de que os entregadores só trocaram de hub.
  • Clima e calendário não mudam a conclusão: o efeito é positivo em todos os dias da semana (de +3,0 pp na segunda a +6,9 pp na quinta), com e sem chuva (+3,9 pp e +4,7 pp) e sem os feriados e datas especiais (+5,2 pp).

Teste do sorteio: e se os 8 hubs fossem escolhidos ao acaso entre os sem bônus?

−3−2−10+1+2+3+4+5+6efeito no prazo, em pontos percentuaisEfeito real: +4,8 pp8 hubs com bônus15.444 grupos falsossó hubs sem bônus: é o tamanho do acaso
Ver os números

Efeito dos 15.444 grupos falsos, por faixa

Faixa de efeitoGrupos falsos
−2,9 pp a −2,7 pp2
−2,7 pp a −2,6 pp5
−2,6 pp a −2,4 pp6
−2,4 pp a −2,3 pp14
−2,3 pp a −2,1 pp30
−2,1 pp a −2,0 pp40
−2,0 pp a −1,9 pp76
−1,9 pp a −1,7 pp102
−1,7 pp a −1,6 pp153
−1,6 pp a −1,5 pp204
−1,5 pp a −1,3 pp282
−1,3 pp a −1,2 pp360
−1,2 pp a −1,0 pp441
−1,0 pp a −0,9 pp552
−0,9 pp a −0,8 pp612
−0,8 pp a −0,6 pp711
−0,6 pp a −0,5 pp807
−0,5 pp a −0,3 pp879
−0,3 pp a −0,2 pp917
−0,2 pp a −0,1 pp967
−0,1 pp a +0,1 pp987
+0,1 pp a +0,2 pp970
+0,2 pp a +0,4 pp933
+0,4 pp a +0,5 pp888
+0,5 pp a +0,6 pp839
+0,6 pp a +0,8 pp729
+0,8 pp a +0,9 pp666
+0,9 pp a +1,1 pp554
+1,1 pp a +1,2 pp463
+1,2 pp a +1,3 pp366
+1,3 pp a +1,5 pp287
+1,5 pp a +1,6 pp207
+1,6 pp a +1,8 pp149
+1,8 pp a +1,9 pp107
+1,9 pp a +2,0 pp61
+2,0 pp a +2,2 pp39
+2,2 pp a +2,3 pp23
+2,3 pp a +2,4 pp9
+2,4 pp a +2,6 pp3
+2,6 pp a +2,7 pp4

Nenhum dos 15.444 grupos falsos chegou perto do efeito real. O acaso sozinho fica entre −1,6 pp e +1,6 pp em 95% dos casos.

Case Bônus de Pico · Guilherme Teixeira Silva · dados sintéticos do caseFonte: 06_diferenca_em_diferencas.sql, 08_calendario.sql, sorteio.py, regressao.py · 3/6

Pergunta 2 de 3 · Ele se paga?

Não se paga: de cada R$ 4 de bônus, voltam cerca de R$ 3. Nem no cenário mais otimista empata.

8 hubs, 6 semanas com bônus (13/07 a 23/08)

Custo do bônusR$ 42,6 milGanhoR$ 32,2 milfaltam R$ 10,4 milpara o ganho empatar com o custo

Retorno por R$ 1, usando a faixa plausível do efeito

R$ 0,40R$ 0,60R$ 0,80R$ 1,00R$ 1,20R$ 1,40empataR$ 0,65pessimistaR$ 0,76centralR$ 0,86otimista
Bônus pago (17.035 pedidos de jantar x R$ 2,50)R$ 42.588
Loja fechada evitada6.793 min
Pedidos recuperados (0,32 por minuto de loja aberta)2.145
Perdidos de vez sem o bônus (75%, porque 25% voltariam depois) x R$ 18R$ 28.961
Atrasos evitados (815) x R$ 4R$ 3.260
Ganho totalR$ 32.221
Resultado (ganho menos custo)−R$ 10.367
  • Mesmo se nenhum cliente voltasse depois de achar a loja fechada, o retorno seria R$ 0,98.
  • Empataria com margem de R$ 24,44 por pedido (a premissa é R$ 18), ou com bônus de R$ 1,89, se o efeito fosse o mesmo.
  • Conferência: contando diretamente os pedidos a mais no jantar, são 2.065 (pela loja fechada evitada, 2.145).
Case Bônus de Pico · Guilherme Teixeira Silva · dados sintéticos do caseFonte: 09_custo_beneficio.sql, retorno_e_teste.py · 4/6

Pergunta 3 de 3 · Expandir, ajustar ou encerrar?

Expandir multiplica o prejuízo. O bônus só dá lucro onde falta entregador todo dia.

Já tem bônusNão tem bônus
retorno por R$ 1 de bônus (projeção de 6 semanas)aqui o bônus se pagaR$ 0,00R$ 0,40R$ 0,80R$ 1,20R$ 1,6001530456075minutos de loja fechada por noite, antes de qualquer bônus (01/06 a 21/06)empata (R$ 1,00)linha de corte: 48 minH07H18H05H13H20H26
Ver os números

Retorno projetado por hub (6 semanas)

HubCidadeTem bônusMin. fechados por noiteRetorno por R$ 1
H07SPnão63R$ 1,46
H05SPsim67R$ 1,34
H18SPnão60R$ 1,32
H13SPsim63R$ 1,21
H20SPsim57R$ 1,04
H19SPsim40R$ 0,67
H02SPsim38R$ 0,65
H16SPsim35R$ 0,60
H06SPnão30R$ 0,57
H03SPsim33R$ 0,56
H04SPnão28R$ 0,50
H09SPnão27R$ 0,48
H01SPnão25R$ 0,44
H11SPnão25R$ 0,44
H14SPnão24R$ 0,42
H27BHnão22R$ 0,38
H29BHnão20R$ 0,36
H30BHnão20R$ 0,35
H10SPnão20R$ 0,35
H12SPnão19R$ 0,34
H08SPnão18R$ 0,30
H28BHnão16R$ 0,28
H25BHnão15R$ 0,27
H15SPnão16R$ 0,27
H17SPnão16R$ 0,27
H24BHnão15R$ 0,26
H22BHnão9R$ 0,16
H26BHsim10R$ 0,16
H23BHnão7R$ 0,11
H21BHnão7R$ 0,11
OpçãoRetorno por R$ 1Em 6 semanasPor mês
Como está hoje (8 hubs, medido)R$ 0,76−R$ 10,4 mil−R$ 7,4 mil
Expandir para os 30 (projeção)R$ 0,49−R$ 83,2 mil−R$ 59,4 mil
Só os 5 hubs acima da linha de corte (projeção)R$ 1,25+R$ 5,4 mil+R$ 3,9 mil
  • Nesses 5 hubs, o bônus dá lucro: cada R$ 1 rende R$ 1,25, cerca de R$ 3,9 mil de lucro por mês. O bônus corta cerca de 47% do tempo de loja fechada, e isso só paga os R$ 2,50 por pedido onde a loja fecha muito: a partir de cerca de 48 minutos por noite.
  • A conta desses 5 hubs tem folga: continua no lucro mesmo com margem de R$ 14,10 (em vez de R$ 18) ou com bônus de até R$ 3,12 por pedido.
  • Nem todos os 8 sofriam de falta de entregador. O H26 (BH) quase não fechava a loja (10 min por noite): ganhou entregadores, mas a taxa no prazo seguiu abaixo da dos outros hubs de BH (78% contra 87%). O atraso dele tem outra causa. Ali, voltaram R$ 0,26 para cada R$ 1.
  • H07 e H18 fecham 60 minutos ou mais por noite e ficaram de fora do bônus.
Case Bônus de Pico · Guilherme Teixeira Silva · dados sintéticos do caseFonte: 09_custo_beneficio.sql, retorno_e_teste.py · 5/6

Pergunta 3 de 3 · O que eu recomendo

Ajustar: bônus só onde falta entregador, e testar a versão ajustada antes de escalar.

O que fazer

  1. Não expandir para os 30 hubs. A projeção é de prejuízo de R$ 59,4 mil por mês.
  2. Manter o bônus onde ele dá lucro: H05, H13 e H20. Incluir H07 e H18. Desligar em H02, H03, H16, H19 e H26.
  3. Mudar o critério de escolha: escolher os hubs pelos minutos de loja fechada por falta de entregador, e não pelo atraso, que pode ter outra causa, como no H26.
  4. Quando expandir: hub a hub, quando cada um passar de 48 min de loja fechada por noite (hoje são 5 de 30; o hub típico fecha 23 min). Para os 30 de uma vez, só se o bônus custasse até R$ 1,22 por pedido com o mesmo efeito, ou se a margem fosse de R$ 39 (hoje é R$ 18).

Como testar (4 semanas)

  • Formato "ida e volta" (switchback) nos 5 hubs: em cada hub, sorteio dos dias com e sem bônus, metade e metade, equilibrando os dias da semana. Cada hub vira o próprio grupo de comparação, porque 5 hubs são poucos para sortear hub contra hub.
  • Métrica principal: minutos de loja fechada no jantar. Pedidos no prazo e volume de pedidos, como acompanhamento.
  • Duração: em 4 semanas, o teste detecta efeitos a partir de cerca de 8 min por noite. O esperado é cerca de 29.
  • Regra de decisão, combinada antes: escalar só se a conta de retorno, com o efeito medido, devolver R$ 1 ou mais para cada R$ 1.
  • Depois: testar uma versão mais barata no mesmo formato (bônus só quando faltam entregadores naquela hora, ou valor menor). Com o mesmo efeito, um bônus de R$ 1,89 já empata.

O que preciso da liderança: aprovação para desligar o bônus em 5 hubs, ligar em H07 e H18, e rodar o teste de 4 semanas. Pela projeção, isso troca um prejuízo de R$ 7,4 mil por mês por um lucro de R$ 3,9 mil por mês. Trago o resultado do teste com a mesma conta deste case.