2learn

Этика данных

Что это такое

Этика данных — это набор вопросов, на которые не отвечает законность: что стоит собирать, что из этого стоит выводить, кто должен это видеть и что происходит с людьми, которых эти данные описывают, когда вы ошибаетесь. Она применима к данным, которые вы совершенно вправе хранить.

Почему это важно

Закон задаёт нижнюю границу и отстаёт от технологий на годы. Правовое основание не делает правильным вывод о беременности человека по истории покупок, оценку соискателей по невидимым им данным или бессрочное хранение поведенческого профиля на человека только потому, что в условиях упомянуты профили. Практический риск не только моральный: решения, принятые по выведенным данным, часто ошибочны, плохо объяснимы и плохо обжалуемы, а это риск для продукта не меньше, чем для этики.

Ключевые идеи

Спросите, что происходит, когда вывод неверен

У каждого решения, принятого по данным, есть привязанный к человеку сбой. Запишите его и решите, может ли человек о нём узнать и оспорить его.

Вывод        «склонен к оттоку» -> предложение удержания
Неверен для  давнего клиента, который просто заболел
Возмещение   нет: предложение появляется, а клиент никогда не узнаёт почему
Лучше        показать причину или использовать сигнал для обращения поддержки,
             а не для молчаливого решения

Различайте собранное и выведенное

Собранные данные — это то, что человек вам дал. Выведенные — утверждение, которое вы о нём сделали. Вторые несут больше риска и всегда должны быть меньше, короче жить и лучше объясняться.

Сокращайте поверхность вывода

Спросите, нужно ли каждое выведенное свойство для решения, которое перед вами, или его собирают, потому что оно может пригодиться позже. Профили накапливаются, и их труднее всего удалять и защищать.

Ищите асимметрию власти

Вопрос не только в том, дано ли согласие, но и в том, можно ли было осмысленно отказаться. Сотрудники, соискатели и люди без альтернативного поставщика не в том положении, чтобы сказать «нет».

Назначьте ответственного за вопросы

У этических вопросов по умолчанию нет владельца, поэтому ничего и не решается. Назовите, кого спрашивают, когда предлагают новое использование данных, и записывайте решение по серой зоне, чтобы следующая команда не пересматривала его заново.

Практика

Разберите один серый случай использования

Возьмите функцию на данных, которую рассматривает команда. Запишите, что она собирает, что выводит, какое решение двигает, что происходит при ошибке и может ли человек это оспорить.

Готово, когда: у вас есть либо письменное изменение в дизайне, либо письменное обоснование оставить как есть, сохранённое там, где его найдёт следующий человек.

Проведите аудит выведенных свойств в одной системе

Перечислите каждое свойство, которое система выводит, а не собирает, и отметьте каждое как «нужно сейчас», «возможно, пригодится» или «умозрительное».

Готово, когда: у каждого умозрительного свойства есть дата удаления или оно удалено.

Частые ошибки

  • Законность как единственная проверка — законное использование тоже может быть неправильным; исправить: задавайте вопрос о неверном выводе тоже.
  • Профили под возможное будущее применение — самые трудные данные для обоснования и удаления; исправить: собирайте только то, что нужно наличному решению.
  • Нет возмещения для человека — решение о человеке, которого он не видит и не может оспорить; исправить: показывайте причину или откажитесь от автоматических решений в этой области.
  • Игнорирование перекоса в силах — согласие человека, который не может отказаться, — не согласие; исправить: учитывайте, какая альтернатива у него есть.
  • Нет владельца вопроса — каждая команда решает в одиночку и по-разному; исправить: назовите, кого спрашивают, и записывайте решение.

Что читать дальше

Разобранные примеры

Файлы cookie аналитики ставятся только с вашего согласия. До вашего выбора ничего не загружается и никуда не отправляется.