Этический дизайн каждый день

Внезапно я осознал, что моя работа может сильно влиять на жизнь других людей.

Я обедал в аэропорту. Насколько стюардесс сели рядом за стол и начали готовиться к полёту.

В то время наша команда работала над футуристическим концептом для центра оперативного управления авиакомпании, где трудились эти стюардессы. Мы старались предлагать инновационные решения, основанные на новейших технологиях. Поскольку центр оперативного управления занимается всем, что связано с полётами, результат работы коснулся бы каждого человека в компании.

Откуда мне было знать, как повлияет моя работа на жизнь людей, которые обедали со мной за столом? А на жизнь других сотрудников?

В идеале можно было бы поговорить с сотрудниками компании разных должностей и протестировать концепции на них. Но нам не было выделено ни бюджета, ни времени, потому что руководство не видело в этом необходимости.

Я почувствовал разочарование: ограничения помешали оценить, насколько хороша моя работа и как она влияет на жизнь других. Они помешали мне сделать дизайн этическим.

Что такое этический дизайн?

Исчерпывающее определение даёт Encyclopedia.com:

Этика дизайна касается морального поведения и ответственного выбора в дизайне. Она определяет, как дизайнеры:

• Работают с клиентами, коллегами и конечными пользователями
• Организуют процесс проектирования
• Определяют функции продуктов
• Оценивают этическую значимость или моральную ценность своих продуктов.

Другими словами, этический дизайн — это «благо», которое мы несём через свою работу людям, обществу и миру в целом. Есть восемь вещей, на которые специалисты должны обратить внимание, чтобы сделать дизайн этическим.

Юзабилити

Сегодня удобство и простота использования стали главными требованиями к интерфейсам; продукты, которыми трудно пользоваться, считают провальными.

Я считаю это правильным. Мы, как дизайнеры, морально обязаны создавать интуитивно понятные и безопасные продукты. О том, насколько важно юзабилити, напомнил инцидент с предупреждением о ядерном ударе на Гавайях (жителям штата по ошибке разослали сообщение о ракетном ударе. Оператор вместо учебной тревоги объявил настоящую. Кнопки было легко спутать, и сотрудник ошибся — прим. переводчика). Что случилось бы, будь всё наоборот: ракета летела к Гавайям, а люди получили сообщение об учебной тревоге?

Доступность

Наравне с юзабилити, инклюзивность — стандартное требование многих дизайнеров и компаний к продукту (Я никогда не забуду, как человек попытался воспользоваться нашим сайтом с помощью скрин-ридера и застрял в сообщении о cookie).

Инклюзивный дизайн выгоден всем, ведь с ним можно удовлетворить потребности как можно большего числа людей. Но при работе над проектом стоит задать себе каверзные вопросы: «Кто получит выгоду от наших решений? Кто случайно и специально не учтён? Кто выходит за пределы „сегмента целевых клиентов?“».

Конфиденциальность

Новый день — новый скандал с приватностью на Facebook. В цифровую эпоху тема конфиденциальности стала почти синонимом этики дизайна. Не случайно всё больше людей используют DuckDuckGo (поисковик, который не отслеживает действия пользователя — прим. переводчика) вместо Google.

Корпорациям доступно много личной информации потребителей. Дизайнеры используют её, чтобы улучшать продукты и услуги. Как профессионалы, мы должны подойти к этому ответственно. Нужно определить, сколько из всей информации, что готовы предоставить люди, нам действительно необходимо.

Участие пользователей

Эта сфера во многом перекликается с конфиденциальностью. Она касается того, как мы обходимся с пользователями и данными, которые получаем от них.

IDEO недавно опубликовали материал The Little Book of Design Research Ethics («Небольшая книга об этике исследований в дизайне» — прим. переводчика). Там можно найти исчерпывающий обзор принципов и рекомендаций, которым нужно следовать при проведении дизайн-исследований.

Рамки влияния

Этика определяет, насколько мы разрешаем себе влиять на поведение и мысли пользователей.

Иногда добрые начинания обращаются во зло. Оптимизация конверсии может легко превратиться в «Как выжимать больше денег из клиентов, манипулируя их бессознательным?». Яркие примеры — Netflix и Booking.com. Netflix убеждает смотреть всё больше и больше контента, а Booking.com напирает срочностью и социальным давлением.

Разгрузка внимания

Сегодня элементы цифрового ландшафта борются за внимание человека. Только спроектировав его правильно, мы можем сэкономить время пользователя. Наша цель — ограничить всё, что может отвлечь от задачи, сделать интерфейс, от которого пользователь не будет зависим, и создать атмосферу спокойствия при взаимодействии. Center for Humane Technology выложили полезные материалы по этой теме.

Снижение уровня потребления

Какое влияние оказывает наша работа на окружающую среду, ресурсы и климат в мире? Мы можем создавать цифровые решения, которые предотвращающие чрезмерное потребление. Например, приложения Optimiam и Too Good To Go позволяют заказывать непроданную рестораном еду, которую в противном случае выбросят. А Mutum и Peerby помогают одолжить нужную вещь вместо того, чтобы покупать новую.

Влияние на общество

Center for Human Technology сделал Ledger of Harms («Книгу ущерба» — прим. переводчика) — перечень того, как цифровые технологии негативно воздействуют на общество. Вред наносится разным сферам, включая человеческие отношения, психическое здоровье и демократию. Дизайнеры, которые заботятся об обществе, должны учитывать то, как их работа влияет на мировую экономику, сообщества, политику и здоровье людей.

Восемь направлений этики дизайна: юзабилити, доступность, конфиденциальность, участие пользователей, рамки влияния, разгрузка внимания, снижение потребления и влияние на общество

Этика может быть неудобной

В идеале мы должны оценивать каждый проект по пунктам, которые я описал выше, и предотвращать возможный вред. Но, по понятным причинам, дизайнеры часто пренебрегают этим. Легко иметь моральные принципы, но в реальном мире нелегко действовать в соответствии с ними.

Можно отмахнуться и сказать, что прямо сейчас неудобно возиться с этикой. Что не хватает времени или бюджета, чтобы рассмотреть все этические последствия работы. Что есть много более важных проблем, которые нужно решить. Можно искренне считать, что этические вопросы — мелочь, на которую стоит обратить внимание позже. Но обычно мы просто не знаем о возможных последствиях своей работы.

Сложность в том, что этических вопросов много, и трудно сосредоточиться на всех разом. Решив отложить их на потом, мы обманываем себя. Когда на носу дедлайн, как успеть изменить проект в соответствии со всеми принципами?

Этика как структурная практика

Я считаю, нужно сделать этику дизайна более практичной. Её не должны рассматривать отдельно от проекта в самом конце работы. Этика должна настолько укорениться в проектировании, что не следовать ей будет значить вовсе не заниматься дизайном.

Единственный способ сделать это — практиковать ежедневный этический дизайн, то есть этику, интегрированную в работу, процессы и инструменты дизайнеров. Тогда те, кто смело отстаивает этические принципы, перестанут быть исключениями и борцами с системой. Система будет на нашей стороне.

Ежедневно и конструктивно применяя этику в работе, мы сможем находить и устранять проблемы на очень ранней стадии. Мы повысим качество наших методов просто потому, что станем продумывать вещи более тщательно, осознанно и структурировано.

Но самое важное — установится новый стандарт дизайна. Стандарт, который можно продать клиентам в качестве эталона. Он будет совмещать эффективность и этическую направленность. Этому стандарту будут учить студентов, чтобы новое поколение дизайнеров не знало других методов работы, кроме тех, что включают в себя этику.

Как применять этический дизайн в повседневной работе?

Мы подошли к вопросу о том, как интегрировать этику в наш процесс проектирования. Как удостовериться, что повседневные решения дадут продукт, который:

• Доступен для всех
• Защищает неприкосновенность частной жизни
• Защищает свободу воли
• Не перегружает внимание пользователя
• Приносит пользу и обществу, и природе?

Я хочу поделиться с вами своими рекомендациями и рассказать, как пытался применить их во время проекта для Mirabeau. Там мы создавали веб-приложение, в котором работники завода по изготовлению бритв могли проверять, какие материалы доступны сейчас.

Подключайтесь к миссии и ценностям компании

Когда дизайн соответствует ценностям и миссии компании, мы можем структурно включать этику в свою работу. Так мы поддержим компанию в её философии. Однако от нас потребуется знать ценности компании и сопоставлять их со своими.

Я уже работал с нашим клиентом раньше и знал, что эта компания заботится о своих сотрудниках и старается сделать мир лучше. Мы взяли отношение бренда к потребителям и перенесли это отношение на сотрудников компании. Таким образом через дизайн мы планировали поддержать философию организации.

Делайте предположения и тестируйте

В процессе работы мы постоянно делаем предположения о том, что несёт за собой каждое решение. Отслеживая их, вы никогда не забудете об ограничениях дизайна и потенциальных рисках: вредном воздействии на пользователей, проект, компанию и общество.

Для каждой страницы приложения мы составили список предположений о целях пользователей, уместности контента и функциях. Каждую неделю мы проверяли свои предположения с помощью пользовательских тестов и обзоров спринтов. Каждая итерация проекта рождала новые вопросы и предположения, которые проверялись на следующей неделе.

Пытайтесь опровергнуть свою концепцию

Делая предположения, мы морально готовимся к возможным проблемам. Но всегда бывают трудности, о которых никто из команды не подумал. Упустив их из виду, можно подвергнуть риску качество и результат работы.

Чтобы обнаружить эти трудности, нужно использовать научный принцип опровергаемости: искать доказательства того, что ваш концепт ошибочен. На них могут указать только посторонние — люди, которые не включены в работу над проектом.

В наших тестах участвовали работники завода и руководители из разных отделов. Мы искали ответ на вопрос, при каких условиях существующий концепт может провалиться. В одном случае это заставило нас пересмотреть концепцию целиком.

Тем не менее, не получилось всё сделать идеально: масштабируемость для других заводов была важным фактором успеха, но у нас не получилось собрать информацию у них. Мы решили упомянуть это в отчёте как возможный риск («предел масштабируемости»).

Используйте чек-листы

Посмотрим правде в глаза: люди забывают информацию. Можете ли вы назвать все направления этики дизайна, не прокручивая страницу вверх?

В этом пригодились бы чек-листы: они представляют знания, чтобы те не нужно было держать в памяти. Чек-лист — это простой, но мощный инструмент для применения этических норм в практике дизайна.

В Mirabeau мы использовали чек-листы, чтобы делать три вещи:

• Иметь перед глазами список вопросов и предположений для пользовательского тестирования
• Проверять, верно ли мы включили наши принципы проектирования
• Оценивать, соответствуем ли мы ценностям клиента, принципам проектирования и согласованным факторам успеха.

Оглядываясь назад, я понимаю, что можно было сделать ещё два чек-листа. На этапе разработки концепции хорошо было бы сверяться с принципами этики дизайна. Также пригодился бы список с рекомендациями по тому, как сделать интерфейс доступным.

Основная проблема применения этического дизайна в работе

Большинство направлений этики дизайна вполне осязаемы. Решения, связанные с ними, моментально оказывают эффект на среду. Хотя сами по себе они достаточно сложны, их относительно легко интегрировать в работу, особенно опытным дизайнерам.

Общество и окружающая среда — более нематериальные темы; последствия нашей работы в этих областях отдалённые и неясные. Я уверен, что, когда Airbnb был в стадии задумки, основатели не учитывали масштабы его разрушительного воздействия на рынок жилья. То же самое касается Instagram: его роль в создании спроса на быструю моду было трудно предвидеть.

Трудно, но не невозможно. Как же решить эту проблему и сделать наше воздействие на общество и окружающую среду более непосредственным, более ежедневным?

Проводить сессии «тёмной реальности»

Древнегреческий философ Сократ задавал серии вопросов, чтобы вскрыть несостоятельность убеждений человека. Тем же методом можно обнаружить допущения и негативные последствия наших концепций в ходе сессии «тёмной реальности». Это стресс-тестирование концепции, атака её сложными вопросами.

Сторонний человек, не член команды, должен задать нам вопросы: «Какова продолжительность жизни вашего продукта? Что если пользоваться им будут миллионы? Каковы долгосрочные последствия для экономики, общества и окружающей среды? Кому выгоден ваш дизайн? Кому невыгоден? Какие пользователи остались «за бортом»? Как можно злоупотребить вашим продуктом?»

Думаю, последний вопрос — самый важный. Другие полезные вопросы для сессии можно найти в выступлении Алана Купера на Interaction 18.

Cессии «тёмной реальности» помогут увидеть слабые стороны концепции и последствия, которые она может принести. Поскольку это командная работа, она вызовет дискуссию и выявит различия в этических ценностях членов команды. Кроме того, в результате появится список вопросов и предположений, которые потом можно протестировать с пользователями и обсудить с экспертами.

Этот метод пригодился в работе над дизайном для центра оперативного управления авиакомпании. Мы уделили больше внимания роли человека в автоматизации и задумались о том, как цифровые интерфейсы могут дополнить возможности человека (а не заменять его). Также это привело к размышлениям о роли аэропортов в будущем обществе.

Сеанс «тёмной реальности» лучше всего проводить на стадиях «определение основных потребностей» и «разработка потенциальных решений этих потребностей» (термины из модели двойного бриллианта). Это стадии проектирования, на которых мы переходим к реалистичным идеям.

Крайне важно, чтобы интервьюер не был частью команды и умел точно задавать вопросы и добиваться конкретных ответов. Есть полезные инструменты, которые помогают структурировать сеанс — Tarot Cards of Tech («Технологические карты таро» — прим. переводчика) и этические инструменты.

Сделайте шаг назад, чтобы идти вперёд

Мы, дизайнеры, по своей природе оптимисты. Мы видим мир как совокупность проблем, которые можно систематически и творчески решить, если хорошо постараться.

Это намерение похвально. Однако одного лишь намерения делать добро недостаточно. Наше мышление допускает ошибки и не замечает возможные катастрофические последствия. Вот почему надо регулярно, систематически делать шаг назад и задумываться о влиянии нашей работы на мир. Я надеюсь, что практический, структурный подход к этике, представленный в этой статье, поможет нам создать более высокий стандарт дизайна.