Отвратительная правда. Настоящая история Facebook за кулисами борьбы за первенство — НВ публикует фрагмент новой книги
На этой неделе компания Facebook впервые сменила название. Отныне проект Марка Цукерберга называется Meta и будет развивать концепцию метавселенной, призванную помочь людям «выйти за пределы экранов смартфонов и рамок», которые перед ними стоят.
Масштабному ребрендингу предшествовал крупнейший скандал в истории компании, вызванный расследованием Facebook Papers.
На основе внутренних документов компании и разговоров с экс-сотрудниками журналисты обнаружили игнорирование соцсетью торговли людьми, невероятное количество шокового контента и даже договоренность топ-менеджера с коммунистическими властями Вьетнама. Расследование уже назвали самым большим скандалом в истории Facebook. Однако представители соцсети отвергают все обвинения.
Издательство Vivat предоставило НВ текст первой главы книги Отвратительная правда. Facebook: за кулисами борьбы за первенство авторства Шири Френкель и Сесилии Канг, украинский перевод которой выходит в свет в апреле 2022 года.
Раздел I Не буди зверя
П оздний вечер. Коллеги из Менло-Парка уже давно ушли из офиса, но что-то не отпускало от ноутбука одного программиста Facebook. Мужчина с удовольствием выпил несколько бутылок пива. Отчасти потому, что, кажется, не хватало духа. Знал, что стоит нажать всего несколько клавиш и найдется фейсбук-страница женщины, с которой он несколько дней назад ходил на свидание. По его мнению, время прошло хорошо, но на следующий день после того, как они простились, она перестала отвечать на сообщения. Он просто хотел окинуть глазом ее профиль и удовлетворить любопытство: может, заболела, уехала в отпуск или потерялась ее собака — что-нибудь, что объяснило бы, почему ей не хочется увидеться еще раз.
В 10 вечера он решился. Включил ноутбук и стал искать женщину, пользуясь доступом к базе данных всех пользователей Facebook. Ему было известно достаточно подробностей: имя и фамилия, место рождения и университет, поэтому он нашел ее в считанные минуты. Внутренние системы Facebook имеют большое хранилище информации, в частности, годы частной переписки с друзьями в фейсбук-мессенджере, посещенные события, загруженные фотографии (в том числе удаленные), а также открытые или прокомментированные публикации. Программист увидел, в какие рекламные категории поместил ее Facebook: компания решила, что ей за тридцать, по политическим предпочтениям она левоцентристка и ведет активный образ жизни. Обладает широким кругом интересов, любит собак и отдыхает в Юго-Восточной Азии. А с помощью фейсбук-приложения, которое женщина установила на смартфон, программист увидел место ее пребывания в реальном времени. Этот человек и за десяток совместных вечеров не имел бы столько сведений. А теперь, спустя почти неделю после их первого свидания, он смог все это узнать.
Менеджеры Facebook отмечали: если станет известно, что какой-то сотрудник воспользовался доступом к данным по личным причинам (найти страницу друга или родственника), то этот сотрудник будет уволен. Однако менеджеры также осознавали, что никаких препятствий для этого нет. Систему разработали так, чтобы она была открыта и прозрачна и чтобы к ней имели доступ все сотрудники. Сведение к минимуму бюрократии, замедляющей работу программистов и мешающей им работать быстро и самостоятельно, входило в видение Цукерберга со дня основания Facebook. Это правило было введено еще тогда, когда в компании работало менее сотни человек. Хотя прошло много лет, и на компанию стали работать тысячи программистов, но эту практику не пересматривали. Только собственная порядочность должна была удерживать сотрудников от злоупотребления доступом к личной информации пользователей.
С января 2014 по август 2015 года программист, нашедший страницу едва знакомой женщины, стал одним из пятидесяти двух работников Facebook, уволенных за использование доступа к пользовательским данным. Большинство программистов, превысивших полномочия, — мужчины, искавшие фейсбук-страницы интересующих их женщин. Сотрудники, которые воспользовались этим доступом, преимущественно позволили себе немного больше, чем просто найти пользовательские данные. Еще дальше пошли только некоторые. Один программист использовал данные во время конфликта с женщиной, с которой они провели отпуск в Европе. По дороге они поссорились, и программист отследил, в какую гостиницу она поселилась, когда ушла из комнаты, где они должны были жить вдвоем. Другой программист нашел фейсбук-страницу женщины еще до первого свидания. Он узнал, что она часто бывает в Долорес-парк в Сан-Франциско, и однажды застал ее там на солнышке с друзьями.
Чтобы найти определенные аккаунты, уволенные программисты воспользовались рабочими ноутбуками — в результате такой необычной активности сработали системы безопасности Facebook, известив менеджеров о нарушениях. Эти работники попались постфактум. Неизвестно, сколько прошли незамеченными.
Впервые внимание Марка Цукерберга обратили на это в сентябре 2015 года, через три месяца после прихода Алекса Стеймоса, нового директора Facebook по безопасности. Собравшись в конференц-зале главного исполнительного директора «Аквариум», топ-директора Цукерберга готовились к плохим известиям: Стеймос прославился тем, что говорит откровенно и ставит высокую планку. Когда этим летом его приняли на работу, то одной из первых задач он определил всеобъемлющую оценку текущего состояния безопасности Facebook. Впервые такую оценку должен был провести новый человек.
Между собой исполнительные директора перешептывались, что провести тщательную оценку за столь короткий срок невозможно и о чем бы не доложил Стеймос, это наверняка будет касаться незначительных проблем и просто обеспечит новому главе отдела безопасности легкие победы в начале работы. Всем было бы проще, если бы Стеймос разделял безграничный оптимизм, царствовавший среди топ-кадров Facebook. Компания переживала самые лучшие времена, перейдя отметку в миллиард пользователей, ежедневно заходивших на платформу, к тому же рекламу недавно стали распространять и в Instagram. Все, что нужно было делать, — откинуться на спинку стула, а механизм пусть гудит.
Стеймос пришел наготове, с презентацией, в которой было перечислено, что не так с главными продуктами Facebook, штатом и корпоративной структурой. В организации прилагали немало усилий по защите вебсайта, тогда как приложения, в частности Instagram и WhatsApp, в большинстве своем были заброшены, как Сеймос сообщил собравшимся. Facebook не сдержал обещания закодировать пользовательские данные в центральных офисах — в отличие от Yahoo, бросившихся защищать данные бывших работодателей Стеймоса через два года после того, как информатор Эдвард Сноуден из Агентства национальной безопасности обнародовал факт возможного использования незащищенных пользовательских данных компаний Кремниевой долины со стороны правительства. В Facebook ответственные за безопасность были рассеяны по всей компании и, согласно отчету Сеймоса, компания «ни на техническом уровне, ни на уровне корпоративной культуры не готова противостоять» существующему количеству конкурентов.
А хуже всего, сказал Стеймос, что хотя за последние полтора года уволили несколько десятков работников, Facebook ничего не делал для того, чтобы решить очевидно системную проблему или предотвратить ее. Стеймос показал в диаграмме, как ежемесячно программисты использовали инструменты свободного доступа к данным не по назначению (создавать новые продукты), а чтобы проникнуть в жизнь пользователей Facebook. Если бы общественность узнала эти нарушения, то была бы возмущена: более десяти лет тысячи программистов Facebook имели свободный доступ к персональным данным пользователей. Случаи, о которых упомянул Стеймос, лишь те, о которых известно компании. Он предупредил, что сотни других могли тихонько проскользнуть.
Цифры, представленные Стеймосом, очевидно расстроили и застали Цукерберга врасплох: почему же его внимание не обращали на это раньше? Все в менеджменте отделов программирования знали о случаях ненадлежащего использования данных со стороны работников. Никто, впрочем, не собирал эти случаи вместе, а когда увидели объемы злоупотреблений, были удивлены" — напомнил Стеймос.
Почему никто не подумал о том, что стоит пересмотреть систему, дававшую программистам свободный доступ к пользовательским данным, спрашивал Цукерберг. Никто из собравшихся не заметил, что эту систему разработал и запустил он сам. Годами работники предлагали альтернативные способы организации хранения данных, и все бесполезно. «В разные периоды истории Facebook были пути, по которым можно было бы пойти, решения, которые можно было принять. Благодаря им мы ограничили бы или даже перестали собирать данные» — отметил один давний сотрудник, который присоединился к Facebook в 2008 году и поработал в разных отделах компании. «Однако они были не в духе Марка. Еще до того, как предложить ему эти варианты, мы знали, что по такому пути он не пойдет».
Исполнительные директора Facebook, в том числе занимающие высокие должности в отделах программирования, например, Джей Парик и Педро Канауати, представили право доступа как преимущество, чтобы привлечь новых сотрудников в команды по программированию. Facebook стал крупнейшей в мире экспериментальной лабораторией, имевшей четверть населения планеты в качестве подопытных. Менеджеры говорили о доступе в контексте полной прозрачности и доверия Facebook своим программистам. В напоминании поздравить брата с днем рождения пользователю понравились воздушные шарики или больше реакций имело эмодзи с изображением торта? Чтобы не приступать к продолжительному бюрократическому процессу выяснения, что работает лучше, программисты могли просто отодвинуть занавес и посмотреть самостоятельно в реальном времени. Однако Канауати предупредил программистов, что доступ к этим данным привилегия. «Мы не терпим злоупотреблений, и именно поэтому, если оказывается, что кто-то использует данные ненадлежащим образом, из компании его всегда увольняют», — подчеркнул он.
Стеймос говорил Цукербергу и другим исполнительным директорам, что когда о таком становится известно, одного увольнения работника недостаточно. Гарантировать, что такие нарушения конфиденциальности никогда не случатся, утверждал он, — прежде всего, обязанность Facebook. Стеймос попросил разрешения изменить существующую систему безопасности Facebook, чтобы лишить большинство программистов доступа к персональным данным. Если кому-нибудь понадобится информация о частном лице, нужно будет составить официальный запрос через соответствующие каналы. По тогдашней системе 16744 работников Facebook имели доступ к персональным данным пользователей. Стеймос предлагал снизить эту цифру до менее 5000 работников. Если речь идет о самой конфиденциальной информации, например, месте пребывания по GPS и пароле, Сеймос предпочел ограничить круг имеющих доступ к ней до 100 сотрудников. Хотя все знали, что программистам доступно большое количество данных, никто не подумал о том, как выросла компания и сколько теперь людей имеет доступ к этим данным, — отметил Стеймос, — просто не обратили внимания".
Парик, глава отдела программирования Facebook, спросил, почему компания должна переворачивать всю систему вверх дном. Конечно, можно ввести ограничение на объем информации, доступный программисту, или сделать так, чтобы срабатывали сигналы тревоги, когда программист попытается искать некоторые данные. Предлагаемые изменения существенно замедлили бы работу многих производственных отделов.
Канауати, директор продакт-инжиниринга, согласился. Он сказал Стеймосу, что и речи не может быть о том, чтобы требовать от программистов письменных запросов всякий раз, когда им понадобится доступ к данным. «Это кардинально замедлит работу по всей компании, даже в отделах безопасности» — отметил Канауати.
Смена системы — среди главных задач, сказал Цукерберг. Он попросил Стеймоса и Канауати найти решение и в течение года держать всех присутствующих в курсе сдвигов. Однако для работы инженерных команд это означало произошедший большой переворот. Многие исполнительные директора ворчали в частных разговорах, что Стеймос только что убедил шефа принять значительную реорганизацию, продемонстрировав худший вариант развития событий.
Примечательно, что одного исполнительного директора не было на собрании в сентябре 2015 года. После смерти мужа Шерил Сэндберг прошло всего четыре месяца. Безопасность подлежала компетенции Сэндберг, а по иерархии Сеймос был ее подчиненным. Однако она никогда не выдвигала предложений по радикальным изменениям, выдвинутым Сеймосом, — он и не консультировался с ней относительно них.
Пусть Сеймос и получил поддержку в тот день, но нажил себе несколько влиятельных врагов.
П оздно вечером 8 декабря 2015 года Джоэл Каплан работал в бизнес-центре отеля в Нью-Дели, как вдруг получил экстренный телефонный звонок из МПК. Коллега сообщил ему, что присутствие Джоэла необходимо на срочном собрании.
Несколькими часами ранее на странице избирательной кампании Дональда Трампа в Facebook опубликовали видео кандидатской речи в Маунт-Плезант, штат Южная Каролина. В нем Трамп обещал занять очень строгую позицию по отношению к террористам, а затем связал терроризм с иммиграцией. Президент Обама, заявил он, относился к незаконным иммигрантам лучше, чем к раненым военным. Трамп будет вести себя иначе, уверял толпу кандидат в президенты. «Дональд Трамп призывает к полному и абсолютному препятствованию въезду мусульман в Соединенные Штаты, пока государственные чиновники не выяснят, что за чертовщина происходит», — объявил он. Толпа разразилась одобрительными возгласами.
Главным в президентской гонке Трамп сделал провокационные высказывания по поводу расы и иммиграции. Использование социальных сетей во время его избирательной кампании подбросило дров в костер. Видеозапись антимусульманской речи быстро набрала более 100 000 предпочтений и 14 000 распространений в Facebook.
Это видео поставило платформу в очень опасную ситуацию. К кандидату вроде Трампа, пользовавшемуся массовой поддержкой, но также сеявшему раздор среди многих пользователей и работников, Facebook был не готов. За советом Цукерберг и Сэндберг обратились к находившемуся в Индии вице-президенту по глобальной публичной политике, пытаясь спасти программу Цукерберга по предоставлению услуг бесплатного интернета.
Каплан присоединился к видеоконференции со Сэндберг, главой отдела политики и коммуникаций Элиотом Шрейгом, главой отдела менеджмента глобальной политики Моникой Бикерт и несколькими другими менеджерами по политике и коммуникациям. Каплан имел разницу в тринадцать с половиной часов вперед по сравнению с коллегами в штаб-квартире и летел в Индию несколько дней. Он спокойно смотрел видео и слушал обеспокоенность коллег. Цукерберг, как сообщили Каплану, дал понять, что его обеспокоила публикация Трампа, и ему кажется, что ее удаление из Facebook может дать повод для конфликта.
Когда Каплан наконец-то взял слово, то посоветовал исполнительным директорам не принимать решение наспех. Вопросы Трамповской антимусульманской риторики усложняла политика. Все те годы, которые Facebook поддерживал демократов финансово и публично, затмили репутацию компании среди республиканцев, которые все больше сомневались в политической беспристрастности платформы. Каплан не входил в окружение Трампа, но видел в его избирательной кампании настоящую угрозу. Большое количество сторонников политика в Facebook и Twitter выявила глубокий раскол в Республиканской партии.
Решение изъять публикацию кандидата в президенты будет иметь далеко идущие последствия, а Трамп и его сторонники воспримут это как цензуру, добавил Каплан. Это объяснят как еще одно проявление либеральной лояльности к главной сопернице Трампа, Хиллари Клинтон. «Не будите зверя» — предостерег Каплан.
Сэндберг и Шрейг не имели такого определенного взгляда на то, что делать с аккаунтом Трампа. Они доверяли политическому инстинкту Каплана; они не принадлежали к Трамповскому кругу и не разбирались в его фирменном стиле шокирующих политических заявлений. Однако некоторые участники конференции в тот день были ошеломлены. Каплан что, ставит политику выше принципа? Каплан так старался выровнять корабль, что не увидел, как море будоражат именно Трамповские комментарии, как изобразил это один из участников звонка.
Несколько старших исполнительных директоров выразили согласие с Капланом. Их беспокоили возможные заголовки и осуждение, если сделать невозможными комментарии от имени кандидата в президенты. Трамп и его сторонники уже так считали таких лидеров, как Сэндберг и Цукерберг, частью либеральной элиты, состоятельных и влиятельных охранников информации, которые могут наложить цензуру на консервативные голоса тайными алгоритмами. Facebook должен выглядеть беспристрастно. Это было важно, чтобы сохранить бизнес.
Разговор повернул на обоснование решения. Публикацию можно было определить как нарушающую правила фейсбук-сообщества. Ранее пользователи сообщали, что аккаунт избирательной кампании Трампа содержит пропаганду ненависти и неоднократно пикетировали с требованием вообще удалить этот аккаунт. Шрейг, Бикерт и Каплан, все трое выпускники юридического факультета Гарварда, попотели, чтобы найти законные аргументы в пользу решения не удалять публикацию. Они вдавались в тонкости относительно того, что именно составляет пропаганда ненависти, вплоть до определенных грамматических конструкций, применяемых Трампом.
«Дошло до того, что они шутили, мол, Facebook придется придумать что-то вроде того, как прокурор Верховного суда когда-то определил порнографию: „Я пойму, что это когда увижу“» — вспоминал сотрудник, участвовавший в разговоре. «Могли ли они установить какие-нибудь рамки для высказываний Трампа, за которые его можно забанить? Было ощущение, что устанавливать такие рамки нет смысла».
В целом Facebook не предполагает пропаганды ненависти, но ее корпоративное определение постоянно менялось. В разных странах недопустимым считались разные вещи в соответствии с местными законами. Все равно недопустимыми считали детскую порнографию и демонстрацию жестокости. Однако определение пропаганды ненависти отличалось не только в зависимости от страны, но и культуры.
В ходе обсуждения исполнительные директора наконец осознали, что можно и не защищать Трамповскую манеру высказываться, если удастся вообще обойти ее. Все согласились, что политические речи можно оценивать по критерию ценности новости. То есть политическую речь следует сохранять, чтобы аудитория могла сформировать собственное мнение о кандидатах на основании нецензурированных взглядов самих кандидатов. Директора Facebook и не заметили, как стали закладывать основы новой политики в ответ на ненавистнические высказывания Дональда Трампа. «Это полный бред, — вспоминает один сотрудник, — они придумали все наскоро».
Для Джоэла Каплана это был ответственный момент — его авторитет подвергся проверке. Пусть кому-то из участников звонка его совет показался неудачным, он был нужен, чтобы среагировать на растущую угрозу из Вашингтона.
Когда в 2008 году Сэндберг присоединилась к Facebook, компания не считалась с консерваторами. Это было серьезное упущение: республиканцы поддержали бы Facebook в политике регулирования сбора данных. Когда в 2010 году в Палате представителей сформировалось республиканское большинство, Стенберг взяла на работу Каплана в противовес четко демократическим кадрам в лоббистском офисе и в противовес распространенному в Вашингтоне представлению о компании как об отдающей предпочтение демократам.
Каплан имел безупречную репутацию в консервативных кругах. Бывший заместитель главы администрации президента Джорджа Буша-младшего, бывший офицер артиллерии морской пехоты США, выпускник Гарвардской школы права и помощник прокурора Верховного суда Антонина Скалия. Каплан был полной противоположностью типичного либерального айтишника из Кремниевой долины и, будучи сорокапятилетним, был вдвое старше большинства сотрудников МПК. (Они с Сэндберг познакомились в 1987 году на первом курсе обучения в Гарварде. Короткое время были в отношениях, но остались друзьями, когда разошлись.)
Каплан был трудоголиком, который, как и Сэндберг, высоко ценил организованность. В кабинете в Белом доме он имел раскладную доску, где составлял списки всех чувствительных вопросов, с которыми должна была справиться администрация: финансовая помощь автоиндустрии, иммиграционная реформа и финансовый кризис. В обязанностях Каплана было решать сложные стратегические вопросы и не допускать, чтобы какие-то проблемы попали в Овальный кабинет. Подобную работу Каплан выполнял в Facebook. В его сфере полномочий было защищать бизнес-модель от вмешательства правительства, и к этой миссии Каплан подходил как нельзя лучше.
В 2014 году Сэндберг повысила Каплана до главы глобальной политики в дополнение к лоббированию Вашингтона. В последние два года в Facebook готовились к возможной республиканской администрации после Обамы. Однако Трамп сбил их с толку. Он был не из республиканской среды. Казалось, что политический капитал Каплана бессилен против бывшего ТВ-шоумена.
И хотя Трамп становился источником новых головоломок для Facebook, он также был продвинутый пользователь и важный рекламодатель. С начала Трамповской избирательной кампании его зять Джаред Кушнер и цифровой менеджер Брэд Парскейл вложили львиную долю средств, предназначенных для агитации в медиа, в социальную сеть Цукерберга. Они выбрали Facebook из-за дешевых и простых услуг таргетированной рекламы, которые помогли бы распространить агитационные материалы. Чтобы добраться до избирателей, Парскейл применил микротаргетирующие инструменты Facebook, сопоставив списки электронных почт, которые имела команда, со списком пользователей Facebook. На базе агитштаба Трампа в Нью-Йорке Парскейл работал вместе с сотрудниками компании, чтобы насмехаться над ежедневными выступлениями Хиллари Клинтон и направлять негативную рекламу определенным аудиториям. Они приобрели тысячи рекламных шаблонов в виде открыток и видеосообщений. Они в легкую охватывали большую аудиторию, чем на телевидении, а Facebook стал им в этом яростным помощником. От присутствия Трампа на платформе было некуда деваться.
Президентские выборы в США в 2016 году искоренили всевозможные сомнения в весе социальных сетей в политических кампаниях. В начале 2016 года 44% американцев сказали, что узнают новости о кандидатах в Facebook, Twitter, Instagram и YouTube.
В конце каждой недели в течение почти десяти лет в Facebook проводилось неформальное собрание всей компании, которое называлось «Вопросы и ответы» или Q&A. Формат прост и достаточно типичен для всей IT-отрасли: Цукерберг делает короткую речь, а затем отвечает на вопросы, за которые проголосовали сотрудники из вопросов, которые сами подали за несколько дней до собрания. Когда обсуждение вопросов, получивших наибольшее количество голосов, закончено, Цукерберг отвечает на спонтанные вопросы аудитории. Это проходит в более расслабленном формате, чем квартальные совещания Facebook на уровне всей компании, которые называют «Все на борт» и имеют более жесткий распорядок с программой и презентациями.
Собрание в Менло-Парк посетило несколько сотен сотрудников, тысячи других смотрели трансляцию из офисов Facebook по всему миру. Ожидая Q&A относительно высказывания Трампа о запрете въезда мусульман, работники жаловались во внутренних фейсбук-группах под названием «Племена», что платформа должна была удалить с сайта речь Трампа. В более людных форумах, «Рабочих группах», где проводятся более профессиональные обсуждения, люди интересовались развитием отношения Facebook к чиновникам. Работники возмущались, что руководители Facebook не помешали очевидной, по их мнению, пропаганде ненависти.
Когда один работник подошел к стойке с микрофоном, все стихли. «Считаете ли вы своей обязанностью убрать агитационное видео Трампа, призывающее запретить въезд мусульман» — спросил работник. Такое попадание в мусульман, отметил он, вроде бы нарушает правила Facebook относительно пропаганды ненависти.
Цукерберг привык отвечать на неловкие вопросы во время Q&A. Его спрашивали о непродуманных бизнес-договорах, нехватке культурного разнообразия в штате компании, а также о планах преодоления конкуренции. Однако этот работник задал вопрос, по которому сам топ-менеджмент не мог прийти к согласию. Цукерберг сел на одного из своих любимых скакунов. Это сложный вопрос, ответил Цукерберг. Однако он нерушимо верит в свободу высказывания. Изъятие публикации было бы слишком радикальным шагом.
Это главный либертарианский аргумент, который Цукерберг приводит снова и снова: архиважность защиты свободы слова в соответствии с Первой поправкой к Биллю о правах. Цукерберг толковал ее так, что свободе слова препятствовать нельзя. Facebook станет площадкой для разноголосых конкурирующих взглядов и мнений, чтобы просвещать и информировать пользователей. Однако гарантия свободы слова, вступившая в силу в 1791 году, предусматривалась для того, чтобы развивать здоровую демократию, где правительство не ограничивает плюрализм мнений. Первая поправка должна была защитить общество. А таргетированная реклама, содержащая непристойный контент и имеющая целью клики и сбор пользовательских данных, противоречит идеалам здорового общества. Сомнительные алгоритмы Facebook «использовали и закручивали политики и эксперты, жалующиеся на цензуру и бросающие тень на модерирование контента как на конец свободы слова онлайн», по словам Рене ДиРесты, исследователи дезинформации Стэнфордской Интернет-обсерватории. «Права расширять алгоритмы не гарантировали. Вот в этом и вся проблема, которую нужно решить».
Дело непростое, хотя, по крайней мере, кому-то и казалось, что решение простое. В публикации в «Рабочей группе» Моника Биркет дала понять, что пост Трампа не будет изыматься. Пусть люди толкуют его слова, как считают нужным, сказала она.
