Законы Кэмпбелла и социальная жизнь технологий
Законы Кэмпбелла
Несколько лет назад, когда я жил в большой коммунальной квартире в центре Санкт-Петербурга, моего соседа по коммуналке насильно уложили в психиатрическую больницу. В течение несколько лет до этого он ходил в больницу получать лекарства, но никаких симптомов у него не наблюдалось. В общем, никаких оснований для его госпитализации не было, и при том на попечении у него была престарелая мать. Я начал разбираться в этой ситуации. Одна из версий такого странного поведения врачей в больнице была в том, что они намерено помещали людей в палаты, поскольку государство платило им хорошие деньги за каждого пациента. К слову, в больницу брали не только больных, но и заядлых пьяниц, от которых хотели избавиться их семьи.
Этот случай из жизни является примером того, что в социальных науках, полушутя, называют «законом Кэмпбелла» по имение его автора — американского социального психолога Дональда Кэмпбелла. Хотя на самом деле у Кэмпбелла было два закона:
1. Чем больше количественный социальный индикатор используется для принятия решения по поводу изменений в обществе, тем больше он будет подвержен прессу искажения.
2. Чем больше количественный социальный индикатор используется для принятия решения по поводу изменений в обществе, тем больше он будет искажать социальные процессы, которые он должен мониторить.
В случае с моим соседом закон Кэмпбелла таков: Министерство здравоохранения РФ в качестве показателя эффективности психиатрических клиник предложило индикатор «количество лечащихся /вылечившихся пациентов» с соответствующим увеличением финансирования. Но этот индикатор привел к тому, что клиника начала искусственно увеличивать количество больных даже за счет тех, кто вовсе не был болен, чтобы отчитаться о выполнении плана перед министерством и получить за это больше финансирования. Фокус внимания был переведен с лечения больных с ментальными сложностями на содержание пьяниц и случайных людей в больнице, в том числе — в невменяемом состоянии.
Закон Кэмпбелла обнаруживает себя сегодня в очень разных сферах, включая социальную политику, образование, экономику. Институт проблем правоприменения при ЕУСПб регулярно рассказывает о том, как в российской полиции палочная система искажает как сами индикаторы эффективности полицейских, так и сам процесс работы полицейских.
Однако задача поста — не рассказать о законах Кэмпбелла, которые в целом хорошо известны. Я предлагаю подумать о внедрении и использовании технологий в соответствии с логикой этих законов.
Умные наркоторговцы в умном городе
Антрополог Марк Берри из Университета Кардифф больше пяти лет изучает торговцев наркотиков. Одна из его тем — как они приспосабливаются к технологиям умного города, которые стали популярны в Великобритании в 2010-х. Берри показывает, что вместе с умными камерами и умными датчиками слежки за мобильными телефонами, преступники тоже значительно умнеют. Я приведу два примера из его статьи.
У каждого наркоторговца есть два телефона: один — чтобы созваниваться с клиентами, а другой — для личного пользования. При этом реальное имя и фамилия зарегистрированы только на второй телефон. Зная, что правоохранительные органы регистрируют перемещения людей по их GPS-сигналам от мобильных телефонов, торговцы наркотиками оставляют телефон для личного пользования дома, а с собой берут одноразовый для связи с клиентом. Это обеспечивает им отличное алиби: в суде они могут сказать, что сидели дома, что можно подтвердить GPS-треками их личного телефона.
Другой случай— это продажа наркотиков на улицах. Берри отмечает, что продавцы знают, что умные камеры могут фиксировать и посылать в полицию сигнал о подозрительных паттернах публичного поведения. Они стараются вести себя так, чтобы не выглядеть в глазах камеры странно. К примеру, при встрече с клиентом весьма подозрительно сесть к нему в машину, а потом сразу выйти. Поэтому торговцы садятся в машину и просят клиента подвести их до ближайшего кафе. Это не будет зафиксировано алгоритмом камеры как нечто подозрительное. Торговцы также избегают быстрых встреч с клиентами на улицах, где они на мгновение сближаются, а потом быстро расходятся. Камера знает, что это подозрительное поведение, так что торговцы часто заходят к клиентам домой и выходят потом с чёрного хода.
Как мы видим, закон Кэмпбелла работает в случае внедрения дорогостоящей умной технологии полным ходом. Полицейские разрабатывают технологию умной камеры, которая бы увеличила регистрацию странного поведения на улице, потенциально связанного с торговлей наркотиками. Они исходят из логики: «больше регистрации странного поведения — больше обнаружения торговли наркотиками — быстрее поймать преступников». При этом индикатор «больше странного поведения» перестает работать почти сразу же, как только торговцы наркотиками узнают о том, какие паттерны поведения улавливаются камерами. Соответственно, им стоит только поменять эти паттерны поведения — и система перестает работать!
То же самое происходит и с GPS-трекингом мобильных телефонов. Как только торговцы узнают, что за их треками следят, они оставляют личные мобильные телефоны дома, чтобы иметь алиби. Само внедрение системы меняет социальные практики и, по сути, перестает быть эффективным настолько, насколько ее задумывали.
Законы Кэмпбелла в развитии технологий
Закон Кэмпбелла основывается на двух механизмах социальной жизни. Первый: люди — рефлексивные создания, способные играть с показателями контроля, которые им навязываются сверху, и использовать их в свою пользу. Второй: социальные процессы (в широком смысле) — сложные явления, в которых присутствует огромное количество взаимоотношений между самыми разными параметрами. Выделение любых индикаторов — это очень искусственная вещь, а использование их для контроля и улучшения социальных процессов заведомо обречено на самые разные проблемы, связанные с изменением сложных отношений внутри этих социальных процессов.
Всё это можно сказать об управлении сверху, о внедрении законов и регламентов или об учреждении порядка контроля и мониторинга. То есть о практиках чиновников. Но разве не учат нас исследования науки и технологии в XX веке, что технологии — это то же управление и та же политика, но другими средствами? Тогда эти «законы» могут быть применены и к ним. При конструировании любой технической системы, которая направлена на внедрение в социальные процессы, разработчики выделяют цели, которые технология должна достичь прежде всего. Система выступает сама себе контролером за тем, как достигаются цели и, соответственно, меняются или улучшаются эти социальные процессы. Но проблема в том, что пользователи этих систем научаются использовать работу системы и ее провозглашаемые цели для своего блага. А внедренная система может породить эффекты, которые сама же была предназначена исправлять. Чтобы продемонстрировать это, приведу следующий пример.
Внедрение беспилотных автомобилей сегодня сопровождается повсеместно провозглашаемой целью — снизить количество аварий и смертей на дорогах. Некоторые разработчики ставят себе задачу сделать автомобили под эти цели: медленные, аккуратные, более сфокусированные на дороге, чем человеческие водители. Но, как пишет нью-йоркский социолог Адам Миллар-Болл, если автомобили станут именно такими, то они будут максимально уступчивыми и потеряют другое важное свойство — скорость и комфорт, которые важны для собственников автомобилей. Следовательно, люди не будут покупать этот автомобиль, так как он слишком аккуратный и уступает всем дорогу. Добираться на нем до точки назначения будет дольше и хуже, чем на обычном авто. Значит, помимо беспилотных автомобилей, на дорогах останутся и обычные автомобили, что может вовсе не снизить количество аварий, а значительно их повысить. И это с учётом того, что беспилотники не очень хорошо приспосабливаются к локальным культурным практикам вождения. Вывод: хотели снизить показатель количества аварий, а с внедрением беспилотных автомобилей он может, наоборот, возрасти.
Совет, который дает Дональд Кэмпбелл о том, как решить проблему с его «законами» — это «исследовать социальные процессы, в которых появляется искажение», в том числе с помощью качественных методов. STS уже давно придерживается этой позиции. В отношении технологий необходимо изучать социальные процессы, которые они призваны “улучшить” не только количественно, но и качественно. И кроме того, необходимо исследовать то, как эта технологии используется после своего внедрения. Это позволит делать технологические внедрения более ответственными.
