Этика данных — Примеры

Пример 1 — Когда вывод неверен

Модель удержания оценивает клиентов как «склонных к оттоку» и рассылает им скидку. Никто не записал, что происходит, когда оценка неверна. Возьмите функцию ниже и опишите сбой, доступное человеку возмещение и одно изменение в дизайне, сохраняющее полезность сигнала.

Предложение функции
  вход:      паузы в покупках, обращения в поддержку
  вывод:     оценка риска оттока
  решение:   автоматическая скидка 20% для верхнего дециля

Решение

Неверен для  верного клиента, который просто заболел и перестал заказывать
Возмещение   нет: скидка появляется, а причина — никогда
Изменение    показать причину или направить сигнал на связь с поддержкой,
             а не на молчаливое автоматическое решение
Записать     записать сбой и решение там, где их найдёт следующая команда

У каждого решения, принятого по данным, есть привязанный к человеку сбой, и этический вопрос в том, может ли он о нём узнать и оспорить его. Именно запись сбоя превращает неразобранную функцию в решение, которое кто-то защитил с аргументами. Обычная ошибка — считать правовое основание всей проверкой; закон задаёт нижнюю границу, а такое решение ошибочно, и это риск для продукта не меньше, чем для этики.

Пример 2 — Собранное против выведенного

Квартальный аудит перечисляет свойства, которые хранит одна система, и команда не может сказать, какие дал сам человек, а какие система приписала ему. Разложите список и отметьте, что делать с каждым выведенным свойством.

Поля аккаунта: email, индекс, даты заказов, тип устройства,
  «склонен к оттоку», «предпочитает вечернюю доставку», «чувствителен к цене»

Решение

Собрано   email, индекс, даты заказов, тип устройства
            -> это дал человек; действует обычный срок хранения

Выведено  «склонен к оттоку»                  нужно сейчас         оставить, привязано к текущему решению
          «предпочитает вечернюю доставку»    возможно пригодится  удалить через 90 дней, если не используется
          «чувствителен к цене»               умозрительное        удалить; ни одно наличное решение от него не зависит

Собранные данные — это то, что человек вам дал; выведенные — утверждение, которое вы о нём сделали, поэтому они несут больше риска и должны быть меньше, короче жить и лучше объясняться. Сопоставление каждого вывода с наличным решением не даёт профилю накапливаться «на всякий случай». Обычная ошибка — держать каждое выведенное свойство бессрочно; такие профили труднее всего удалять и труднее всего защищать.