МАДУМИТА МУРДЖИЯ

КОДОЗАВИСИМЫЕ

ЖИЗНЬ В ТЕНИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

Перевод с английского Заура Мамедьярова

Москва, 2026

16+

Madhumita Murgia

CODE DEPENDENT

 

Copyright © 2024 by Madhumita Murgia This edition published by arrangement with PEW Literary Agency Limited and Synopsis Literary Agency

 

Russian Edition Copyright © Sindbad Publishers Ltd., 2025

 

Перевод с английского Заура Мамедьярова

 

Мурджия М.

Кодозависимые. Жизнь в тени искусственного интеллекта / Мадумита Мурджия; пер. с англ. З. Мамедьярова. — М. : Синдбад, 2026.

ISBN 978-5-00131-724-1

Нравится нам это или нет, но искусственный интеллект уже повсюду — в промышленном производстве, научных исследованиях, электронной коммерции, медицинской диагностике, лингвистике, искусстве… Автоматизирует рутинные задачи, повышает производительность, стимулирует инновации…

Все верно. Но есть и другая сторона. Слишком часто ИИ приводит к эксплуатации, дискриминации и неравенству, особенно среди уязвимых групп населения. В своей книге специализирующийся на ИИ редактор Financial Times Мадумита Мурджия рассматривает влияние этих мощных, несовершенных и часто эксплуататорских технологий на отдельных людей, сообщества и человечество в целом.

Это захватывающая история о том, что значит быть человеком в мире, быстро и необратимо меняющемся под натиском ИИ, демонстрирующая опасность нашей растущей зависимости от автоматизированного принятия решений. Когда алгоритмы берут управление на себя, что остается от нашей свободной воли?

 

Правовую поддержку издательства обеспечивает юридическая фирма «Корпус Права»

 

 

 

Посвящается Майе и Мире

ВВЕДЕНИЕ

Немногим более десяти лет назад, на заре своей журналистской карьеры, я заинтересовалась безобидной на первый взгляд цифровой сущностью под названием куки.

Я думала, что знаю, что это такое. Это хранящийся на моем устройстве фрагмент кода, который работает в качестве маркировочного механизма и позволяет интернет-компаниям опознавать меня и получать сведения о моих действиях в интернете. Напоминания о куки всплывали всякий раз, когда я заходила на какой-либо сайт с телефона или компьютера, и просили разрешить им отслеживать меня по цифровым хлебным крошкам. В итоге я захотела разобраться, куда ведет этот след.

Работая над той статьей для журнала WIRED¹, я то и дело проваливалась в очередные кроличьи норы, от которых у меня кружилась голова, и я по сей день еще не выбралась из них. Зато я открыла для себя темный мир «брокеров данных» — подпольных организаций, которые собирают данные о нашей онлайн-жизни и превращают их в ценные профили, содержащие информацию о том, каковы мы сегодня и какими станем в будущем. В конце концов я не только узнала о брокерах, но и детально изучила бизнес-модели самых дорогих в мире технологических компаний, условно объединяемых в «большую пятерку». Все они зарабатывают одним способом: превращая наши жизни в клубящиеся облака данных, чтобы затем их продать.

Но прежде чем отправиться по этому следу, я какое-то время сомневалась, хочу ли я вообще потратить несколько месяцев на статью о какой-то статистике. Мне нужно было прочувствовать этот материал. Как на самом деле выглядят все эти пресловутые данные? В итоге я решила изучить профиль хорошо знакомого мне человека. Свой собственный.

Для этого я нашла небольшой стартап Eyeota, работающий в сфере рекламных технологий. Его сотрудники помогли мне извлечь из моего браузера информацию, которую собирают разные сайты, и затем расшифровали для меня эти данные.

В тот день, когда мне прислали из Eyeota полный профиль «обезличенной» версии меня, я ехала на поезде в Брайтон. Файл содержал растянувшийся более чем на десяток страниц отчет, составленный рейтинговым агентством Experian, которое также выступает брокером данных.

По заключению Experian, я входила в категорию «золотой молодежи» — одну из шестидесяти четырех, которыми тогда оперировало агентство, — которая охватывала молодых профессионалов, живущих в городских квартирах.

В профиле описывалась 26-летняя британка азиатского происхождения, которая работает в сфере медиа и живет на северо-западе Лондона. Там указывались ее предпочтения при просмотре телепередач (видео по запросу, а не кабельное телевидение), пристрастия в еде (тайская и мексиканская кухня), а также типичные планы на вечер и выходные. Приводилась даже детализация ее расходов: больше на рестораны и путешествия, меньше — на мебель и автомобили.

В данных, присланных Eyeota, называлось количество отпусков, которые эта женщина взяла за прошедший год, и прогнозировалась скорая покупка авиабилета. Судя по отчету, у нее нет ни детей, ни ипотеки, а продукты она обычно покупает в супермаркете Sainsbury’s, но только потому, что он находится по пути к ее дому. Данные позволяли предположить, что женщина пользуется услугами уборщицы, которая приходит к ней домой в рабочее время, открывая дверь своим ключом.

Помимо повседневных занятий, в маленьком разделе в конце документа описывались «либеральные взгляды» женщины, включая уровень амбиций, политические предпочтения и черты характера (оптимистична, амбициозна, слабо подвержена чужому влиянию).

Остаток пути я провела как в тумане, изучая полученный набор характеристик, которые довольно точно мне соответствовали. Разумеется, это облако данных не было истинным отражением реальности — в нем недоставало множества нюансов, которые делали меня мной. Однако, проанализировав мои онлайн-следы, куки написали приблизительный портрет меня — изобразили мою тень, которая была при этом вполне узнаваемой.

В статье, вышедшей в журнале WIRED в 2014 году, я рассказала о многомиллиардной сфере, где работают компании, которые, опираясь на наше поведение в интернете и офлайн, собирают, упаковывают и продают детализированные профили вроде того, что попал ко мне в руки. Это открытие усилило мои опасения по поводу системы, которая создана специально, чтобы записывать наши действия всякий раз, когда мы взаимодействуем с цифровым миром, и затем извлекать из этого прибыль.

Я начала изучать структуру этой доходной экономики данных. Каждый раз, когда я одним кликом взаимодействовала с онлайн-продуктом — скажем, с приложениями Google Maps, Uber, Instagram или с бесконтактными кредитными картами, — они записывали мое поведение в эти маленькие куки. В сочетании с информацией из открытых источников, например об уплате муниципальных налогов и об участии в выборах, а также с данными о моих покупательских привычках в интернете и поступающими в реальном времени сведениями о моем местоположении эти безобидные наборы данных рассказывали обо мне очень многое — от моего пола и возраста до особенностей моего характера и того, какие решения я приму в будущем.

Моя жизнь — как и ваша — превращается в пакет данных, выставляемый на продажу. В конечном счете мы все оказываемся продуктами.

Когда десять лет назад мы заглянули в зарождающийся мир сбора данных, я стала обращать гораздо больше внимания на то, сколько подобных инфоследов мы оставляем, просто живя в современном мире, и на то, как их используют.

С тех пор я веду летопись финансовых и иных успехов компаний, опирающихся на такие хранилища данных, — корпоративных гигантов вроде Google, Facebook и Amazon. Они отточили искусство обращения с данными, в огромных количествах поступающими на их платформы от миллиардов людей по всему миру. В стремлении заработать эти компании научились добывать данные и использовать их, чтобы продавать персонализированные и таргетированные рекомендации, контент и продукты.

Наследником бизнеса больших данных стала технология, о которой я впервые узнала в 2014 году: искусственный интеллект (ИИ). В последние годы понятие «искусственный интеллект» по-разному менялось, но, по сути, ИИ представляет собой сложное статистическое программное обеспечение, применяемое для поиска закономерностей в больших наборах реальных данных.

Значительный прогресс этой технологии в последние несколько лет обусловлен тремя факторами: взрывным ростом объема доступных данных о человеческом поведении и творчестве, повышением мощности микросхем, необходимых для работы с этими данными, а также консолидацией усилий нескольких крупных технологических компаний, способных выделять существенные ресурсы для ускорения ее развития.

Применяя машинное обучение для максимально точного таргетирования рекламы, такие техногиганты, как Google и Meta, довели свою капитализацию до триллиона долларов. Эту прибыльную бизнес-модель, в основе которой лежит монетизация персональных данных, американский философ и социальный психолог Шошана Зубофф называет «надзорным капитализмом».

В прошлом году художник Джеймс Бридл написал: «Эти компании сколотили капиталы, внедрившись во все аспекты повседневной жизни, включая самые личные и творческие ее сферы: наши тайные страсти, наши частные разговоры, наши общие интересы и наши мечты»².

*

Сегодня мы живем в тесном соседстве с автоматизированными системами, основанными на данных, и их внутренние механизмы влияют на наши личные связи, расстановку сил в рабочем коллективе и наши отношения с государством. Мы опираемся на алгоритмические технологии, как в прошлом опирались друг на друга, и образ жизни людей во всем мире меняется, постепенно подстраиваясь под эти технологии.

Когда вы открываете Google Maps, чтобы продумать маршрут своего следующего путешествия, когда вы обращаетесь к Alexa, вызываете Uber или беспилотный Waymo, вы взаимодействуете с различными формами ИИ. С помощью ИИ формируются ленты ваших социальных сетей, в которые специально вставляется реклама клюшек для гольфа и детской одежды. ИИ проверяет вас, когда вы подаете заявку на кредит. ИИ решает, сколько вам платить за дом и за автомобильную страховку. Когда вы проходите собеседование, ИИ может анализировать ваши реакции и ответы на вопросы. Не исключено, что вы использовали ИИ даже при составлении своего резюме. А если вы однажды окажетесь за решеткой, возможно, именно ИИ будет решать, выпускать ли вас под залог.

Современные программы ИИ помогают специалистам принимать жизненно важные решения в таких сферах, как медицинская диагностика, общественное благосостояние, ипотечное и потребительское кредитование, наем и увольнение сотрудников и многое другое. Самыми продвинутыми ИИ-программами пользуются исследователи, включая химиков, биологов и генетиков, чтобы с помощью этих программ быстрее развивать научные направления³.

В последний год мы наблюдаем подъем нового типа ИИ-технологий — порождающих моделей ИИ, программ, способных писать тексты и создавать изображения, аудио и видео, практически неотличимые от тех, что создает человек. Порождающий, или генеративный ИИ строится на фундаменте человеческого творчества и обучается на оцифрованных книгах, газетах, блогах, фотографиях, картинах, музыке, видеороликах с YouTube, постах с Reddit, картинках с Flickr и всем содержимом интернета. ИИ поглощает эти знания и обретает способность создавать собственные переработанные версии различных творческих продуктов, радуя нас почти человеческим умением воспроизводить и креативно переделывать знакомые вещи.

Для многих из нас сегодня воплощением этого процесса стал ChatGPT — сайт, который дает подробные ответы на наши запросы в форме диалога. Он впервые позволил нам напрямую взаимодействовать с системой ИИ, и настоящим чудом стало то, что он может отвечать нам, используя привычный нам способ коммуникации — письменный язык.

Появление ChatGPT ознаменовало фундаментальный сдвиг во взаимодействии людей с машинами. Общаясь с нами с помощью слов и изображений, ИИ-системы нового поколения, обученные на продуктах нашей научной и творческой деятельности, могут гораздо более эффективно, чем когда-либо ранее, манипулировать нашими эмоциями и настроением, а также диктовать нам, что думать и как себя вести.

На протяжении прошлого десятилетия я наблюдала, как ИИ коварно пробирается в нашу жизнь. Решив написать эту книгу, я захотела найти реальные примеры взаимодействия с ним, которые явно показали бы, чем грозит наша зависимость от автоматизированных систем. Расцвет порождающего ИИ сделал поиск таких угроз насущной необходимостью. В прошлом году мы уже начали замечать, как технологии вроде ChatGPT влияют на нашу работу, на образование детей, на творчество. Но вместе с тем ИИ оказывает влияние и на другие важные сферы жизни общества: здравоохранение, охрану правопорядка, общественное благосостояние и военное дело, — что приводит к долгосрочным последствиям и социальным трансформациям. В результате меняется само понимание того, что значит быть человеком. Именно об этом и пойдет речь в моей книге.

*

Работа в журнале WIRED превратила меня в закоренелого технооптимиста. Когда каждый день пишешь о редактировании генома, летающих автомобилях, 3D-печати лунных баз и нейрокомпьютерных интерфейсах, просто невозможно не восхищаться человеческой изобретательностью и нашими высокотехнологичными творениями. Меня пленяли и сами инноваторы — взбалмошные выдумщики, дерзкие предприниматели и безрассудные визионеры.

Когда я только начинала собирать материал для этой книги, я ожидала найти истории о том, как искусственный интеллект решил сложные проблемы, не спасовал перед непреодолимыми препятствиями и существенно улучшил жизнь людей. Таков потенциал всех новых технологий — по крайней мере, так я искренне полагала на протяжении многих лет.

Любая из рассказанных мной историй могла бы быть вашей. Совсем скоро — если этого еще не случилось — ИИ-системы начнут влиять на ваше здоровье, вашу работу, ваши финансы, ваших детей, ваших родителей, ваши гражданские права и оказываемые вам коммунальные услуги.

Я хотела задавать простые человеческие вопросы. Каково «говорить» с системой, которая представляет собой «черный ящик»? Есть ли у вас выбор между человеком и машиной? Как обжаловать судьбоносное решение, принятое приложением? Что нужно знать, чтобы доверять такой программе? И как понять, когда доверять ей вовсе не стоит?

Чтобы найти ответы на эти вопросы, я отправилась в путешествие по миру и стала выяснять, как вездесущие автоматизированные системы влияют на жизнь самых разных сообществ. Каждая из историй, с которыми вы познакомитесь, показывает, как именно и насколько непредсказуемо ИИ влияет на нашу самооценку, а также на наши семьи, сообщества и культуры. Я надеюсь, что опыт встреченных мною людей поможет мне ответить на вопрос, с которого я начала: как искусственный интеллект меняет само понимание того, что значит быть человеком?

*

Несмотря на присущий мне технологический оптимизм, истории, которые я собрала, в итоге сложились в довольно мрачную картину.

Я намеренно сосредоточилась на людях, которые живут за пределами Кремниевой долины, вдали от центра технологического влияния, но все равно испытывают на себе воздействие технологий нового типа. Однако, изучая их истории шаг за шагом, я поняла, что невозможно не приметить за ними слона: дело в том, что власть над технологиями сосредоточена в руках немногочисленных компаний, которые и заказывают музыку⁴.

Анализируя этот дисбаланс, я наткнулась на книгу социологов Ника Колдри и Улисеса Мехиаса «Цена связи» (The Costs of Connection), где рассматривается понятие колониализма данных. Вместо территорий объектом колонизации становятся человеческие жизни, преобразованные в непрерывные потоки информации. Конкурентная борьба за эти данные представляет собой историческое продолжение колониализма и усугубляет неравенства прошлого в условиях «датафикации» общества, которая есть не что иное, как новая форма грабежа и угнетения.

Колдри приводит в пример гиг-работников — людей, работающих через приложения в таких структурах, как Uber, Deliveroo и DoorDash, — чьи заработки и жизни зависят от алгоритмов, которые среди прочего определяют, кто получит заказ, как он будет оплачен и кого в конце концов уволят. «Это тирания, — объяснил он мне. — Возникают этические вопросы о том, какие границы мы должны установить, чтобы сделать жизнь людей сносной. Очень важно, чтобы люди всего мира были в этом солидарны. Работники в Бразилии, Индии, Китае и США сталкиваются с одинаковыми проблемами — может, в Сан-Франциско они сегодня стоят не особенно остро, но вскоре они дадут о себе знать и там».

В такой формулировке эта истина стала для меня откровением. Постепенно, подобно тому как из размытых силуэтов складывается четкий полароидный снимок, стали проявляться связи между отдельными героями этой книги. Я вдруг поняла, что структура, объединяющая собранные мной истории о взаимодействии с алгоритмами, в которых фигурировали совсем разные люди, времена и места, на самом деле вполне закономерна — и уже описана небольшим, но растущим сообществом ученых из разных стран. Некоторые имена тех, кто в числе первых излагал эти идеи, были мне знакомы: Тимнит Гебру, Джой Буоламвини, Кейт Кроуфорд, Кэти О’Нил, Мередит Уиттакер, Вирджиния Юбенкс⁵ и Сафия Умоджа Нобл⁶. Я обратила внимание, что все они женщины, изучающие несоразмерно большой вред, который ИИ наносит маргинализированным сообществам.

Прочитав их работы и просмотрев научные статьи, на которые они ссылались, я обнаружила и другие, не столь известные имена. В основном это были небелые женщины, которые живут и работают за пределами англоговорящего Запада: Паола Рикаурте⁷ из Мексики, Абеба Биране из Эфиопии, Урваши Анеджа из Индии, Милагрос Мисели и Пас Пена из Латинской Америки. Они были непосредственными свидетелями того, как в их сообществах проявляются дискриминация и социальное неравенство, и многие из них жили именно в тех местах, о которых пойдет речь в этой книге.

Снова и снова в своих работах они приходили к тому же выводу, что и Колдри с Мехиасом в своей теории колониализма данных. Такие масштабируемые системы, как машинное обучение, создаются на благо крупных социальных групп, но обычно работают за счет других людей. Этими «другими», как правило, оказываются индивиды и сообщества, которые уже отчуждены большинством и существуют на размытых границах основного общества, пытаясь сделать так, чтобы их все-таки было слышно и видно. На одних только примерах из этой книги я увидела, как ИИ-системы вредят женщинам, чернокожим и смуглокожим людям, мигрантам и беженцам, религиозным меньшинствам, беднякам, инвалидам и многим другим.

Люди сегодня оказались в созависимости с бесконечными строками кода, который прочно вошел в их жизнь. Не понимая, как работают ИИ-системы, мы просто не замечаем, когда они выходят из строя или причиняют вред — особенно представителям уязвимых групп. И наоборот, не понимая природу, этику, историю людей и саму нашу человеческую сущность, ИИ-системы никак не могут нам помочь.

*

Сила моделей машинного обучения состоит в их способности находить статистические связи, часто незаметные для людей. Принимаемые ими решения и методы их работы не диктуются людьми, которые их создают, поэтому их и называют черными ящиками. Считается, что благодаря этому они гораздо объективнее людей, но вместе с тем их логика бывает непрозрачной и неочевидной — даже для их создателей.

Например, исследователи, которые разрабатывали алгоритмы диагностики COVID-19, использовали в качестве контрольной группы рентгеновские снимки грудной клетки больных пневмонией, но оказалось, что в выборку попали только снимки детей в возрасте от одного до пяти лет. В результате построенные учеными модели научились отличать детей от взрослых, вместо того чтобы отличать COVID-19 от пневмонии⁸. Эти системы — загадочные сущности с непознаваемыми когнитивными паттернами.

Помимо того, что автоматизированные системы технически непрозрачны, люди не всегда замечают, какое воздействие они оказывают на жизнь. Особенности внедрения алгоритмов в общество привели к размытию нашего чувства личной автономии, а также к снижению влияния и степени участия в нашей жизни тех, кому мы доверяем как специалистам, что в итоге спровоцировало общественную трансформацию.

Даже когда мы знаем, что решения, которые сказываются на нас, принимает алгоритм, институты и компании обычно не посвящают нас в принципы работы системы. Мы все оказываемся заложниками бесконечного цикла, где «компьютер говорит нет».

Потеря чувства самостоятельности и контроля приводит к тому, что человеку становится сложнее брать на себя ответственность за собственные действия. Сложнее становится и предъявлять официальные обвинения и в принципе осуждать индивидов и корпорации, которые перекладывают ответственность с себя на программы ИИ. В конце концов, машину в суд не вызовешь.

В 1980-х годах стэнфордский психолог Альберт Бандура назвал агентность — чувство, что мы контролируем свои действия и их последствия, — неотъемлемым свойством человеческой природы и условием эволюции нашего вида. Он утверждал, что люди не просто являются продуктами среды и общества, а вносят в них свой собственный вклад⁹.

Бандура описал три основных типа влияния людей: индивидуальный, посреднический и коллективный. Посредниками обычно становятся люди, обладающие экспертными знаниями или ресурсами, — например врачи, сотрудники правоохранительных органов и выборные представители, которых мы наделяем правом говорить за нас. Коллективы же накапливают знания и ресурсы, чтобы обеспечить всем лучшее будущее.

Философы полагают, что личная свобода человека неразрывно связана с особенностями его агентности — с его способностью считать свои действия и желания собственными и чувствовать, что он в состоянии что-то изменить. ИИ-системы явно и неявно влияют на это, в связи с чем людям начинает казаться, что они теряют самостоятельность — или в некотором роде даже свободу воли.

Мы как общество попали в затруднительное положение: регулирование ИИ и других статистических алгоритмов в последующие годы окажет на нас огромное влияние, но у нас недостаточно инструментов, чтобы управлять грядущими переменами. Мы плохо понимаем, как воздействуют на нас ИИ-системы. Мы никак не можем решить, какие этические принципы следует в них встроить. Мы спорим о том, как регулировать работу ИИ. Мы коллективно перекладываем свой моральный авторитет на машины.

Но если каждый отдельно взятый человек чувствует, что ИИ-системы лишают его возможности контролировать свои действия и решать, чему уделять больше внимания, то коллективная агентность с развитием ИИ, как ни странно, укрепляется. По иронии судьбы неотъемлемые свойства автоматизированных систем — их непрозрачность, негибкость, постоянная изменчивость и нерегламентированность — подталкивают людей сплотиться, чтобы вместе нанести ответный удар и вернуть себе свое человеческое достоинство.

Размышляя о распространении ИИ, мы можем заняться проблемой неравенства и сделать шаг к ее решению. Я надеюсь, что истории людей, рассказанные на страницах этой книги, помогут нам справиться со своими страхами и вернуть себе агентность и чувство собственного достоинства. На первый взгляд у людей, о которых пойдет речь, не было ничего общего: это врач из индийской глубинки, доставщик еды из Питтсбурга, инженер-афроамериканец, иракская беженка из Софии, британская поэтесса, аргентинский чиновник, мать-одиночка из Амстердама, китайская активистка в изгнании и, наконец, священник из Рима. Но стоило мне потянуть за эти отдельные ниточки, как они сложились в единый узор. И центральное место в нем — ваше.

ГЛАВА 1

ВАШ ЗАРАБОТОК

Большое будущее

Сентябрьским утром в один из экваториальных летних дней, когда воздух сгущается перед грозой, а одежда к девяти часам уже прилипает к коже, мы встретились с Иэном Коли возле популярного кафе Connie’s Coffee Corner в районе Кибера в столице Кении Найроби. Пока я представлялась, к нам присоединился друг и бывший коллега Иэна Бенджамин Нгито, который подошел и приветственно поднял руку.

Иэн и Бенджа познакомились, когда работали в американской некоммерческой организации Sama, которая привлекает сотрудников из Восточной Африки для выполнения цифровых задач. Бенджа, одетый в выцветшую футболку Superdry, с двухдневной щетиной на лице, сообщил мне, что начал свой путь в Sama прямо там, где мы стоим, возле Connie’s. В 2008 году рекрутеры Sama пообещали, что заплатят ему, если он приведет двадцать молодых местных жителей на IT-тренинг в интернет-кафе рядом с Connie’s. Он нашел лишь девятнадцать добровольцев. «И тогда я записался сам. У меня не было выбора, — сказал он. — Мне нужны были деньги». В итоге он проработал в этой компании пять лет.

Десять лет спустя, услышав об открытой вакансии, Иэн решил, что ищут секретаря или уборщика, и очень удивился, когда его друг сказал, что работа связана с искусственным интеллектом. «Я понятия не имел, что такое ИИ», — говорит он. Он никогда не работал в офисе, тем более с технологиями, а подростком зарабатывал как придется — был и уборщиком, и каменщиком, и, так сказать, низовым политическим активистом. Когда найти работу не получалось, он нанимался к местным политикам, чтобы во время выборов за небольшие деньги сеять в своем районе хаос: баррикадировать дороги, жечь покрышки, кидаться камнями в полицейских. «Здесь, в гетто, живешь от получки до получки: тебе платят наличными, которые уходят на еду», — говорит он.

Иэн знал, что работа в Sama изменила жизнь Бенджи и других его друзей. Он подумал, что, возможно, настал и его черед — может, он получит шанс наконец-то распрощаться с тем жилищем, которое ему приходилось делить с шестью другими молодыми людьми, и даже накопить на будущее. Он устроился в Sama и работает там по сей день.

Когда два года назад во время коронавирусного локдауна мы созвонились по видеосвязи, чтобы поговорить о Sama и его работе, Иэн был худеньким парнишкой с застенчивой улыбкой и редкими усиками. Теперь он позвал нас в гости в свой новый дом в самом сердце Киберы, где живет с женой и четырехмесячным ребенком. «Все изменилось», — говорит он.

Район Кибера в центре Найроби — одно из крупнейших в Африке незаконных поселений, или трущоб, где живут беднейшие семьи страны. Этот миллионный город внутри города постоянно пребывает в движении и пронизан духом товарищества, человечности, но и спорами. Мы качаемся на его волнах, как бумажные кораблики. Тропинками здесь служат дорожные колеи и канавы, которые бесполезно пытаться обойти. Пешеходы то и дело вынуждены уступать эти узкие дорожки мототакси бода-бода, настойчиво сигналящим фургонам и детям, играющим в мяч. Мясные лавки и мужские парикмахерские теснятся рядом с салонами красоты и магазинчиками, где продают кур. Во всех этих заведениях используется M-PESA — широко распространенный в Африке цифровой кошелек. В неподвижном воздухе висит тяжелый и резкий запах гнили, жары и людей.

Кибера — это сложный аморфный организм со своими деревнями, племенами и социальными классами. В нем существует негласная иерархия. Выше, в Лайни-Сабе, процветает преступность. Дома там строят из глины и брезента, и в каждом из них живет по шесть-семь человек. Но здесь, внизу, в мини-деревне Гатвикира, можно поселиться в хижине из кровельной стали или даже из кирпича, которую придется делить всего с одним-двумя соседями, а днем ходить по улицам без страха.

Иэн говорит, что киберцы не живут, а выживают, конкурируя между собой за скудные ресурсы — воду, электричество и работу, — которых на всех не хватает. Вместе с тем их объединяет отчаянная преданность соседям и коллективное недоверие к государству. Споры разрешаются местными лидерами, или старейшинами. Того, который уже двадцать лет стоит там у политического руля, называют Baba, то есть Отец.

Я никогда прежде не бывала в Найроби, но выросла в Мумбаи. И почему-то это место — с его духом предпринимательства, каждодневными тяготами и простыми человеческими радостями — напоминает мне о покинутом мною доме.

Когда мы пришли к Иэну, он показал на деревянную лестницу. «Второй этаж», — улыбнулся он. В этих местах мало кто забирается так высоко, поэтому ему было чем гордиться. Мы поднялись по лестнице и, пригнувшись, прошли по узкому импровизированному тоннелю, образованному соседними хижинами, — по настоящему бульвару из дырявых крыш. Приятно пахло мылом. На улице были одни женщины, которые развешивали постиранное белье. У некоторых за спиной были привязаны младенцы. Женщины кивали нам в знак приветствия.

Иэн подвел меня к последнему дому слева. Внутри было чисто и светила одинокая лампочка без абажура. Издалека приглушенно доносился киберский хип-хоп. Здесь же, в неожиданной тишине ревел настольный вентилятор. «Вот мой дом, — сказал Иэн. — Karibu sana». Добро пожаловать.

Использование каждого квадратного сантиметра этого дома было тщательно продумано. В комнате прекрасно умещались диван, два кресла, перевернутый деревянный ящик, который служил столом, и стоящая в углу большая кровать, закрытая занавеской с узором из «огурцов». На полке был расставлен десяток пар кроссовок Иэна, а под ними аккуратно висели бейсболки. У изножья кровати, скрытая от глаз, расположилась плита, на которой готовили еду.

На высоком столике возле большого телевизора стоял ноутбук — своеобразное божество. На нем был открыт Netflix, где беззвучно крутилась реклама голливудских и болливудских фильмов и сериалов. В конце 2020 года Sama заключила партнерство с местными поставщиками телекоммуникационных услуг, чтобы провести в значительную часть Киберы и другие районы широкополосный оптоволоконный интернет и таким образом дать своим агентам возможность в период пандемии работать из дома. К интернету подключили и дом Иэна, благодаря чему он сразу завоевал популярность среди соседей.

«Это мой мобильный офис, — говорит он. — Здесь я просыпаюсь и здесь целый день работаю, а потом у меня еще остается время на учебу. Я хочу освоить программирование». Год назад Иэн получил от Sama стипендию и поступил в колледж, где теперь учится на бакалавра информационных технологий.

В Sama Иэн занимается аннотированием данных: он помогает обучать создаваемые глобальными корпорациями программы искусственного интеллекта, присваивая подробные ярлыки наборам данных, на которых они учатся.

Иэн главным образом размечает изображения для беспилотных автомобилей. Бортовые компьютеры этих автомобилей, которые разрабатываются такими компаниями, как Volkswagen, BMW, Tesla, Google и Uber, должны понимать, как «читать» дорогу — дорожные знаки и разметку, светофоры, пешеходов и деревья, — чтобы управлять движением. Обычно Иэн получает снятые с позиции водителя видеоролики, в которых автомобили едут по незнакомым дорогам, — такие видео напоминают тест на реакцию на опасные ситуации, который ученики автошкол проходят при обучении вождению. В инструкции Иэна просят отметить все объекты, которые он видит, и он заключает в маленькие прямоугольники транспортные средства, людей, животных, деревья, светофоры, пешеходные переходы, мусорные баки, дома, даже небо и облака.

Это напоминает мне игру в «Я вижу», в которую я часами играю с моими маленькими детьми, когда мы куда-нибудь идем или едем. Своими тоненькими голосами они радостно выкрикивают: «Забор!», «Ворота!», «Девочка!», «Щенок!», «Грузовик!» На разметку часового видеоролика у Иэна порой уходит до восьми часов.

Хотя такая работа может показаться однообразной и даже отупляющей, Иэна это не смущает. «Мне очень интересно, потому что я многое узнаю о правилах дорожного движения и дорожных знаках», — сказал он мне. Эти знания пригодятся ему, когда он научится водить машину. Он также размечал интерьеры домов и многочисленные суставы человеческого скелета. Он говорит, что ему не нужно было знать их названия — достаточно было просто отмечать суставы на изображении.

В детстве Иэн любил возиться с проводами и электроникой и мечтал стать инженером-электриком. Когда он окончил школу, ему пришлось обеспечивать мать и сестер, поэтому у него не нашлось денег на учебу в колледже. «Теперь я хочу стать программистом. Когда я пришел в Sama, я думал, что вещи, которые мы делаем, — это мой первый шаг на пути к компании Tesla или даже к самой ее технологии».

При упоминании о Tesla Бенджа встрепенулся: «Я видел этого типа, Илона Маска, по телевизору. Я сказал: “О, это же он! Я строю его машину!”»

В будущем Иэн — как и многие другие жители Найроби, с которыми я встретилась в Кибере и за ее пределами, — мечтает открыть свой бизнес. «Все же, сея хаос на улицах, ты просто делаешь то, что велит тебе время, — говорит он. — Повторяешь все за своими братьями и сестрами. Но когда появляется дело, которое тебя увлекает, твое мировоззрение меняется. И тогда ты перестаешь думать как обычный парень из гетто, как рядовой киберец, и начинаешь мыслить нестандартно».

Бенджа тоже в прошлом был наемным возмутителем спокойствия. Местные политики платили ему, чтобы он закидывал полицию камнями. Но недавно он основал свою компанию, которая проводит пешие экскурсии. Он также владеет куриным магазином, руководит молодежной политической организацией и готовится открыть собственный бар. Он занимается продажей воды и электричества — этот прибыльный бизнес в Кибере контролируют влиятельные картели. В свободное время он работает с молодежью в Линди, одной из киберских деревень, и помогает юным соискателям готовиться к офисной работе. «Я воспитываю корпоративный дух и культуру Sama в людях, которых встречаю в своем районе. И этой работе конца и края не видно».

Иэн говорит, что тоже помог нескольким друзьям устроиться на официальную работу. «Один парень, с которым мы дружили в школе, промышлял карманными кражами — не было и дня, чтобы он ничего не украл, — рассказывает Иэн. — Послушав моего совета, он пришел работать в Sama и совершенно изменился. Укажи я на него и скажи, что он тот самый карманник, вы никогда бы мне не поверили — вы решили бы, что я вас обманываю».

Упоминание о преступности отрезвило Бенджу. Он взглянул на Иэна. «Я хочу в следующем году уехать из Киберы. И хочу, чтобы ты тоже переехал».

«Я так и планирую сделать. Года через три меня в Кибере не будет», — говорит Иэн.

«Тебе стоит поторопиться, — советует Бенджа. — Ты обязан переехать. Я всегда говорил, что руководить командой в Sama для тебя слишком мелко. В этом мире ты можешь быть кем угодно. Слушай, я уверен, тебя ждет большое будущее».

*

Момбаса-роуд огибает национальный парк Найроби — природный оазис, который делает столицу Кении одним из немногих городских центров, где, проезжая по скоростному шоссе, можно увидеть жирафов, которые пасутся на фоне высоких домов. Именно на этом шоссе находится главный офис Sama, который занимает четыре этажа в здании на территории крупного коммерческого бизнес-парка на 2800 человек. Снаружи возвышается знак с логотипом Sama и рекламным слоганом «Душа ИИ».

Это впечатляющее бетонное здание, стены которого декорированы деталями из гофрированной стали. Оно обставлено мебелью из переработанной древесины и жести и украшено работами местных художников и цветами в горшках. Мне сказали, что такой декор должен напоминать о домах работников в трущобах. Посоветовавшись с первыми сотрудниками компании, дизайнер решил использовать знакомые им материалы, чтобы пространство казалось им красивым и при этом своим.

Здание Sama выглядит эстетично, но все равно остается офисом. Группы агентов — так в Sama называют сотрудников — сидят за компьютерами, размечая всевозможные изображения. Множество кабинетов заполнено молодыми мужчинами и женщинами, которым не исполнилось и тридцати. Они кликают мышками, рисуют на картинках разные фигуры и присваивают объектам ярлыки. Это требует сосредоточенности и аккуратности, но в конце концов все сводится к однообразной игре, где нужно сортировать формы, размечать слова и нажимать на кнопки. Человеку эти задачи кажутся по большей части простыми, даже тривиальными, но для ИИ-систем они новы и сложны. Иногда агенты переговариваются друг с другом, но в основном их внимание направлено на экран. Они тратят по несколько секунд на картинку и сразу после этого переходят к следующей. Из угла доносится хип-хоп. Мышки щелкают в такт музыке. Одна команда агентов делает разметку для автомобилей, которые ездят по дорогам Китая и Японии, другие размечают крупные планы кукурузных полей, спутниковые снимки европейских городов, изображения груженных бревнами фур и женской одежды. Щелкнул, нарисовал, отметил.

Как правило, сотрудники заступают на смену в семь утра и работают по восемь часов. В основном в Sama приходят люди, которые раньше работали неофициально — убирали дома или торговали на улице лепешками-чапати. Поскольку цепочка процессов по разработке ИИ разбита на маленькие фрагменты, многие сотрудники Sama плохо представляют себе, какую коммерческую ценность имеет итоговый продукт, который они помогают создавать (или не представляют этого вовсе). Но они понимают, что участвуют в обучении программ для наиболее продвинутых технологических приложений в сферах навигации, социальных сетей, электронной коммерции и дополненной реальности.

Компания OpenAI, создавшая ChatGPT, привлекала сотрудников Sama для категоризации и разметки десятков тысяч текстовых фрагментов проблемного и натуралистичного содержания, включая описания сексуальной эксплуатации несовершеннолетних, убийств, самоубийств и инцеста. Проведенная работа помогает ChatGPT распознавать, блокировать и фильтровать соответствующий контент.

Работая в группах, в каждую из которых входит около двадцати человек, агенты целый день аннотируют данные, делая лишь два перерыва по строгому графику, чтобы поесть и попить. Им также разрешается ходить в туалет, но в остальное время они должны сидеть за компьютером. Руководители групп более свободны: они передвигаются от стола к столу и наблюдают за работой подчиненных. На конце каждого ряда рабочих мест сидит контролер, который выборочно проверяет качество работы сотрудников.

Когда приходит время обеденного перерыва, агенты с шумом спускаются вниз, в столовую, не обращая внимания на знаки «Соблюдайте тишину!», и выстраиваются в очередь за едой. Сегодня на обед тушеная говядина с приправленным кориандром рисом, шинкованной капустой в соевом соусе и мукимо — кенийским картофельным пюре с овощами. На бумажных тарелках разложены кусочки арбуза. Все едят вместе.

Я взяла себе еду и выбрала длинный стол, за которым оживленно беседовали разные сотрудники, включая агентов, руководителей групп и линейных менеджеров. Менеджер Лилиоса, которой около сорока, оценивает влияние компании на жизнь агентов. Она завела речь о колониализме, британской королевской семье и выборах в Кении. На досуге она пишет хип-хоп-мюзикл о кенийском борце за свободу, который восстал против британцев. «Политика — наша культура. И она имеет родоплеменной характер: каждое племя хочет, чтобы именно его представители оказались у руля, — сказала она. — Но молодежь это не заботит — они просто хотят иметь доступ в интернет, работу и деньги».

После обеда столовая быстро опустела. Я тоже вернулась на этаж, где происходит разметка данных. Один юноша просматривал десятки фотографий зданий со всего мира, оценивая, старинные на них постройки или современные. Он также проходился по нескольким пунктам, описывая каждое изображение: его настроение, насыщенность, резкость и тон. Щелк, щелк, щелк. У него на экране я увидела изображение древнего японского буддистского храма в Токио, стоящего за телеграфной вышкой. Он решил, что на картинке есть и старина, и современность, и выбрал соответствующий вариант.

Как я узнала позже, каждый щелчок помогает обучать алгоритмы, которые классифицируют изображения для платформы Material Bank, где можно искать и заказывать образцы архитектурных и дизайнерских материалов. Цель состоит в том, чтобы создать объективный инструмент для поиска наиболее релевантной информации. В итоге, когда вам понадобится найти конкретный строительный материал или архитектурный стиль, алгоритм будет выдавать вам идеальную подборку полезных примеров.

Как сотрудник понимает, что правильно разметил данные? «Иногда это бывает нелегко, — говорит он. — Тогда приходится полагаться на чутье».

Призрак в машине

В стремлении к созданию разумных машин со сверхчеловеческими способностями нет ничего нового. В одной еврейской легенде, возникшей в начале XX века, рассказывается о Големе — бездушном гуманоиде, в которого пражский раввин Лёв вдохнул жизнь, чтобы защитить местных евреев от антисемитских гонений.

Легко предугадать, что случилось дальше: Голем вышел из-под контроля, и его создателю пришлось уничтожить собственное детище. Эта история перекликается с «Франкенштейном» Мэри Шелли, одним из первых современных романов в жанре научной фантастики, а также с последними новостями об ИИ, в которых все чаще высказываются опасения, связанные с тем, что однажды ИИ может стать неуправляемым.

Существующий сегодня ИИ — скорее не автономная, а вспомогательная технология. Примерно с 2009 года технологический бум подпитывается огромными объемами данных, которые генерируются при нашем интенсивном использовании подключенных к сети устройств и интернета, а также растущей мощностью кремниевых микросхем. В частности, это привело к активному развитию подтипа ИИ, называемого машинным обучением, и в свою очередь его разновидности, глубокого обучения — широких классов методов, с помощью которых компьютерные программы учатся находить статистические взаимосвязи в огромных наборах данных, будь то слова, числа, изображения или строки кода.

Один из способов обучать ИИ-модели выявлять закономерности состоит в том, чтобы показывать им миллионы размеченных примеров. Для этого людям необходимо тщательно аннотировать все используемые данные, чтобы компьютеры могли их проанализировать. Без этого алгоритмы, лежащие в основе беспилотных автомобилей и систем распознавания лиц, останутся слепыми. Они не увидят закономерностей в данных.

Сегодня созданные подобным образом алгоритмы помогают людям принимать решения — или принимают их самостоятельно — в таких сферах, как медицина, уголовное право, общественное благосостояние, ипотечное и потребительское кредитование. Новейший тип ИИ-программ — порождающий ИИ — создает слова, картинки и код. Это превращает ИИ-системы в творческих ассистентов, которые помогают учителям, финансистам, адвокатам, художникам и программистам, становясь их соавторами.

Разрабатывая ИИ, ведущие компании Кремниевой долины конкурируют за лучших специалистов в области компьютерных технологий и платят сотни тысяч долларов молодым кандидатам наук. Но чтобы обучать свои системы и внедрять их в эксплуатацию с помощью реальных данных, эти же корпорации обращаются к таким компаниям, как Sama, где работают целые армии низкооплачиваемых сотрудников, которые обладают базовой цифровой грамотностью, но не имеют стабильной занятости.

Sama не единственная подобная компания в мире. В этой растущей отрасли, капитализация которой к 2030 году, как ожидается, достигнет 17 трлн долларов, работают такие стартапы, как Scale AI, Appen, Hive Micro, iMerit и Mighty AI (которым теперь владеет Uber), а также более традиционные ИТ-компании, включая Accenture и Wipro¹⁰.

В силу огромного объема данных, которые необходимо разметить ИИ-компаниям, большинство стартапов привлекают рабочую силу из стран, где труд стоит дешево. В результате сотни работников вроде Иэна и Бенджи сортируют и интерпретируют данные, которые затем используются для обучения ИИ-систем.

Вынужденные покинуть свою страну сирийские врачи тренируют медицинские программы, которые помогают диагностировать рак простаты в Британии. Выпускники венесуэльских колледжей, которые не могут найти работу из-за охватившей страну рецессии, сортируют модные товары для интернет-магазинов¹¹. Обездоленные женщины из бедного мусульманского района Метиабруз в Калькутте размечают голосовые сообщения для умной колонки Amazon Echo¹². Своей работой они раскрывают и без того довольно очевидный секрет так называемых систем искусственного интеллекта — технологии не «учатся» самостоятельно, а нуждаются в миллионах людей, которые их на самом деле обучают. Специалисты по обработке данных — бесценные человеческие звенья во всемирной цепочке процессов по разработке и обучению ИИ.

Эта рабочая сила по большей части атомизирована и состоит из самых уязвимых членов общества: социально незащищенной молодежи, женщин с детьми и прочими иждивенцами, меньшинств, мигрантов и беженцев. ИИ-компании и подрядчики, которых они привлекают к сотрудничеству, заявляют, что стремятся включить эти группы в процесс цифровой революции, давая им стабильную и этичную работу, несмотря на их уязвимость. Однако, как я обнаружила, специалисты по обработке данных защищены не более, чем заводские рабочие, их труд остается за кадром, а их заслуги недооцениваются, хотя именно они закладывают фундамент для всей сферы ИИ¹³.

Сегодня это сообщество выходит из тени, и журналисты вместе с учеными начинают понимать, как разбросанные по всему миру работники влияют на нашу повседневную жизнь: чрезвычайно популярный контент, создаваемый чат-ботами вроде ChatGPT, контент, который мы пролистываем в приложениях TikTok, Instagram и YouTube, товары в интернет-магазинах, наши автомобили, даже наша еда — все сортируется, размечается и классифицируется силами специалистов по обработке данных.

Аргентинская исследовательница Милагрос Мисели, работающая в Берлине, изучает этнографию работы с данными в развивающихся странах. Когда она только приступила к исследованию, она не нашла никакой информации об опыте работников ИИ — ни о том, кто занят в этой сфере, ни о том, в чем состоят их задачи. «Как социолог, я увидела провал, — говорит она. — Почти никто не интересуется этими людьми. Кто они? Как они выполняют свою работу? Чем конкретно они занимаются? В каких условиях трудятся?»

Мисели была права —оказалось очень трудно найти компанию, которая разрешила бы мне поговорить со специалистами по обработке данных при минимальном посредничестве руководства. Конфиденциальность часто прописана в контрактах сотрудников в форме соглашений о неразглашении, которые запрещают им напрямую общаться с клиентами и раскрывать информацию о том, кому предоставляют услуги их работодатели. Например, компания Meta, владеющая Facebook, пользуется услугами Sama и просит сотрудников подписывать соглашения о неразглашении. Специалисты по обработке данных зачастую даже не знают, кто их клиент, с какой алгоритмической системой они работают и сколько получают за такой же труд их коллеги из других стран.

В силу специфики своей работы компании вроде Sama, которые платят низкие зарплаты, вынуждают сотрудников соблюдать конфиденциальность и нанимают людей из уязвимых социальных групп, по сути, эксплуатируют неравенство. В конце концов, им нужна дешевая рабочая сила. Хотя в некоторой степени подобная работа позволяет меньшинствам и молодежи из трущоб почувствовать уверенность в себе и обрести надежду на будущее, не стоит забывать, что платят им довольно мало, а сами они не имеют ни возможности диктовать свои условия, ни рычагов давления, ни ресурсов для протеста.

Даже сама цель работы по разметке данных кажется циничной: эти данные используются для обучения ИИ-систем, которые в конце концов заменят именно тех людей, которые обучают их сегодня. Однако за последние два года я побеседовала с десятками работников, и никто из них не осознавал последствия обучения систем, которые в итоге смогут их заменить, и не догадывался, что им платят за ускорение их собственного ухода с рынка.

«Этим людям так нужна работа, что они покорно выполняют все требования клиента. Они согласны не искать в своих задачах смысл и закрывать глаза на этические вопросы. Их учат думать лишь о том, что может понадобиться клиенту», — объяснила мне Мисели. Разработка ИИ — бурно растущий бизнес, и компании, работающие в сфере аннотирования данных, наперегонки снижают цены на свои услуги, снабжая рабочей силой гигантские корпорации и дерзкие стартапы, с которых они берут по несколько центов за задачу.

«Об этом нужно говорить: технологическая отрасль растет благодаря дешевой рабочей силе и наживается на ней».

Работу, а не пособие

Я решила высказать свои опасения Лейле Джане — женщине, которая с самого начала занималась развитием новой отрасли аннотирования данных. В 2018 года она основала Sama как некоммерческую организацию, которая должна обеспечивать работой в цифровой сфере социально незащищенных людей. «Великая пустая надежда Кремниевой долины — автоматизация. Но все вранье — на самом деле за “автоматизацией” стоят люди», — сказала мне Джана в 2019 году. Незадолго до этого у нее диагностировали редкую форму рака — эпителиоидную саркому, и на борьбу с ней она направила все свои предпринимательские навыки.

Лейла выросла в пригороде Лос-Анджелеса в семье индийских иммигрантов. Летом накануне своего семнадцатого дня рождения она получила стипендию, чтобы преподавать английский в Гане, влюбилась в эту страну и на всю жизнь увлеклась африканским континентом. В 2019 году она превратила Sama в коммерческое социальное предприятие, или благотворительную корпорацию, для развития которой привлекла почти 15 млн долларов частных инвестиций — в том числе от компании Meta, ранее известной как Facebook. Но в итоге отношения между ними оказались сложными.

Большинство со

...