Введите верный e-mail адрес
Подписаться
Вы успешно подписались на нашу рассылку

Почему технологии способствуют тирании

Яна Гончарова
29 ноября 2018 Года

Примечание редактора: Эта статья является частью серии, пытающейся ответить на вопрос: Умирает ли демократия?

1. Растущий страх неуместности

В демократии нет ничего неизбежного. При всем успехе, который имели демократические государства за прошедшее столетие или более, они остались всего лишь моментами в истории. Монархия, олигархия и другие формы авторитарного правления являлись наиболее распространенными способами государственного управления. Возникновение либеральной демократии связано с идеалами свободы и равенства, которые могут казаться самоочевидными и необратимыми. Но эти идеалы гораздо более хрупкие, чем мы думаем. Их успех в 20 веке зависел от уникальных технологических условий и может оказаться эфемерным.

Во втором десятилетии 21 века либерализм начал терять доверие. Вопросы о способности либеральной демократии обеспечить средний класс стали громче. Политика стала более клановой. Все в большем количестве стран политические лидеры проявляют склонность к демагогии и автократии. Причины такого политического сдвига сложны, но они, по-видимому, переплетаются с современными технологическими разработками. Технология, способствовавшая демократии, меняется, и развитие искусственного интеллекта может обеспечить ее дальнейшее изменение.

Информационные технологии продолжают стремительно развиваться. Биотехнологии открывают новые возможности для изучения нашей внутренней составляющей – наших эмоций, мыслей и выбора. Совместно инфо- и биотехнологии привнесут беспрецедентные перевороты в человеческое общество, разрушая его свободу воли и желания. В таких условиях либеральная демократия и свободная рыночная экономика могут устареть.

Обычные люди могут не так хорошо разбираться в искусственном интеллекте и биотехнологии, но они чувствуют, что будущее проходит мимо них. В 1938 условия жизни простого человека из СССР, Германии либо США были тяжелыми, однако ему постоянно внушали, что он является самым важным существом в мире и будущее стоит за ним (конечно же, при условии, что он был «обычным человеком», а не, скажем, евреем или женщиной). Смотря на агитационные плакаты (которые, как правило, изображали шахтеров и сталеваров в героических позах), он видел себя: «На этом плакате я! Я – герой будущего!».

В 2018 обычный человек чувствует себя все более неуместным. Множество загадочных терминов с волнением обсуждается на TED Talks, в правительственных аналитических центрах и на high-tech конференциях – глобализация, блокчейн, генная инженерия, искусственный интеллект, машинное обучение – и обычные люди, как мужчины, так и женщины, вполне могут подозревать, что ни один из этих терминов не связан напрямую с ними.

В 20-м веке народные массы восстали против эксплуатации и стремились перевести свою существенную экономическую роль в политическую власть. Сейчас они же боятся бесполезности и безумны в идее использовать оставшуюся политическую власть пока не поздно. Брексит и продвижение Дональда Трампа демонстрируют траекторию, противоположную траектории традиционных социалистических революций. Российские, китайские и кубинские революции совершались людьми, существенно важными для экономики, но не имеющими достаточно власти. В 2016 многие люди, обладающие политической властью, но опасающиеся потерять свою экономическую ценность, поддержали Брексит и Трампа. Возможно, в 21 веке, популистские восстания будут организованы не против экономической элиты, эксплуатирующей людей, но против экономической элиты, которая в них больше не нуждается. Эта битва может быть проиграна. Ведь бороться с бесполезностью гораздо труднее, нежели с эксплуатацией.

Революции в области информационных технологий и биотехнологий все еще находятся в зачаточном состоянии, и степень их ответственности за нынешний кризис либерализма является спорной. Большинство людей в Бирмингеме, Стамбуле, Санкт-Петербурге и Мумбаи только смутно знают, если и знают вообще, о популяризации искуственного интеллекта и его потенциальном влиянии на их жизнь. Несомненно, однако, что набирающие обороты технологические революции в ближайшие десятилетия будут противостоять человечеству тяжелейшими испытаниями, с которыми оно прежде не сталкивалось.

2. Новый Бесполезный Класс?

Начнем с рабочих мест и доходов, поскольку любой философский призыв либеральной демократии получил немалую силу благодаря практическому преимуществу. Децентрализованный подход к принятию решений, свойственный либерализму, как в политике, так и в экономике, позволил либеральным демократиям превзойти другие государства и обеспечить рост благосостояния их народа. Либерализм примирял пролетариат с буржуазией, верующих с атеистами, коренное население с иммигрантами, европейцев с азиатами, обещая всем большой кусок пирога. С постоянно растущим пирогом это было возможно. И пирог мог вполне продолжать расти. Однако, экономический рост может не решить социальные проблемы, которые появляются сейчас за счет технологических прорывов. Потому что такой рост все чаще основывается на изобретении всё более разрушительных технологий.

Опасения людей быть вытесненными с рынка труда роботами, конечно, не являются чем-то новым, и в прошлом подобные опасения оказались необоснованными. Но искусственный интеллект отличается от старых роботов. В прошлом роботы конкурировали с людьми в основном в мануальных навыках. Теперь они начинают соревноваться с нами в когнитивных способностях. И мы не знаем ни о каком третьем виде навыков — за пределами ручного и когнитивного — в котором люди всегда будут иметь преимущество. По крайней мере, в течение еще нескольких десятилетий человеческий интеллект, вероятно, будет намного превышать компьютерный в многочисленных областях. Следовательно, поскольку компьютеры берут на себя более рутинные когнитивные задания, для людей будут продолжать появляться новые профессии творческого характера. Многие из этих новых профессий, вероятно, будут строиться на сотрудничестве, а не на конкуренции между людьми и ИИ. Команды человек-ИИ, скорее всего, докажут преимущества не только для людей, но и для компьютеров, работающих самостоятельно. Тем не менее, большинство новых рабочих мест, по-видимому, потребует высокого уровня знаний и изобретательности. Поэтому вопрос проблемы трудоустройства или низкой заработной платы неквалифицированных рабочих остается открытым. Кроме того, по мере развития ИИ, даже рабочие места, требующие высокого интеллекта и творчества, могут постепенно исчезнуть. Мир шахмат является примером предстоящего развития событий. В течение нескольких лет после того, как компьютер IBM Deep Blue победил Гарри Каспарова в 1997 году, шахматисты все еще процветали. Искусственный интеллект использовался в качестве тренера для вундеркиндов, и команды, состоящие из людей и компьютеров, превзошли компьютеры, которые играли в одиночку.

Тем не менее, в последние годы компьютеры стали настолько хорошо играть в шахматы, что их «коллеги — люди» потеряли свою ценность и вскоре могут стать совершенно ненужными. Еще одна важная веха была достигнута 6 декабря 2017, когда программа AlphaZero от Google победила программу Stockfish 8. Stockfish 8 в 2016 году выиграла чемпионат мира по компьютерным шахматам. Эта программа имела доступ к мгновенному накоплению человеческого опыта в шахматах, а также десятилетия компьютерного опыта. AlphaZero, напротив, не обучали шахматным стратегиям человеческие творцы — даже стандартным вещам. AlphaZero использовала новейшие принципы машинного обучения, чтобы научить себя шахматам, играя против себя. Тем не менее, из 100 игр, что AlphaZero сыграла против Stockfish 8, AlphaZero выиграла 28 и 72 игры завершились ничьёй: AlphaZero не проиграла ни разу. Поскольку ни один человек не участвовал в обучении AlphaZero, многие из его выигрышных ходов и стратегий казались нетрадиционными для человеческого понимания. Их можно назвать творческими, а то и просто гениальными.

Можете ли вы догадаться, сколько времени AlphaZero потратила на изучение шахмат с нуля, готовясь к матчу против Stockfish 8 и развивая свои гениальную интуицию? Четыре часа. На протяжении веков шахматы являлись одним из высших достижений человеческого разума. AlphaZero проделала путь от полного невежества до творческого мастерства за 4 часа без помощи человека. AlphaZero не единственное образное программное обеспечение. Один из способов поймать мошенников на шахматных турнирах сегодня — это мониторинг уровня оригинальности, который демонстрируют игроки. Если они играют, используя исключительно креативную манеру игры, судьи подозревают, что это определенно компьютерные ходы. По крайней мере, в шахматах креативность уже считается определяющей маркой компьютеров, а не людей! То, что происходит сейчас с командами человек-ИИ в шахматах, может произойти в будущем в охране порядка, медицине, банковском деле и во многих других областях.

Более того, искусственный интеллект обладает уникальными нечеловеческими способностями, что и составляет разницу между ИИ и человеческим работником, единственным в своем роде, а не просто имеющего образование в определенной сфере. Эти две важнейшие способности ИИ — возможность подключения и взаимодействия и возможность обновления.

Например, многим водителям незнакомы изменения в правилах дорожного движения, следовательно, они часто их нарушают. Помимо этого, водители существуют на дорогах отдельно друг от друга и не согласовываются между собой. Поэтому иногда на дорогах возникают недопонимания и происходят аварии, когда два автомобиля приближаются к одному и тому же перекрестку. Беспилотные автомобили, напротив, всегда соблюдают правила дорожного движения, и все такие машины могут быть связаны между собой. Когда два беспилотных автомобиля подъезжают к одному перекрестку, они действуют как части одного алгоритма, а не как отдельные элементы. Таким образом, вероятность столкновения таким машин намного ниже.

Аналогичным образом, если Всемирная организация здравоохранения выявит новое заболевание, или будет изобретено новое лекарство, невозможно незамедлительно уведомить всех врачей в разных частях света. С другой стороны, новую информацию можно передать врачам-роботам, каждый из которых следит за здоровьем отдельного человека, в долю секунды. Кроме того, такие врачи могут обмениваться между собой результатами исследований новой болезни или лекарства. Эти потенциальные преимущества взаимосвязи и обновляемости настолько велики, что, по крайней мере, в некоторых отраслях было бы разумно заменить человека компьютером, даже если некоторые люди по-прежнему выполняют работу лучше, чем машины.


 Технологии, которые способны сделать миллиарды людей бесполезными для экономики, также помогут правительствам проще контролировать и отслеживать их действия.


Из всего этого можно сделать один важный вывод: в революции автоматизации не будет одного главного переломного момента, после чего рынок труда придет в состояние равновесия. Наоборот, произойдет целая серия даже более масштабных изменений. Старые профессии исчезнут, а на смену им придут новые, которые вскоре тоже, изменившись, перестанут существовать. Людям придется переучиваться и перестраиваться еще много раз.

Подобно тому, как в 20 веке правительства создавали обширные системы образования для молодежи, в 21 веке им придется создавать такие же системы переподготовки взрослых граждан. Но будет ли этого достаточно? Перемены всегда даются нелегко, и беспокойное начало 21 века породило мировую эпидемию стресса. Смогут ли люди справиться с повышающейся неустойчивостью в профессиональной деятельности? К 2050 году может возникнуть целая группа бесполезных для общества граждан. Это произойдет не только в результате сокращения рабочих мест или недостатка соответствующего образования, но также в результате нехватки психологической выносливости в связи с непрекращающимся обучением новым навыкам.

3. Рост цифровой диктатуры

Так как все больше людей теряют свою ценность для экономики, они также могут потерять и свое политическое право. Технологии, которые способны превратить миллиарды людей в бесполезных для экономики субъектов, вдобавок помогут правительствам проще контролировать и отслеживать их действия.

Искусственный интеллект пугает многих людей, потому что он всегда может выйти из-под контроля. В научной фантастике высказывается предположение, что у компьютеров или роботов рано или поздно появится сознание — и вскоре после этого они попытаются уничтожить человечество. Но в действительности не существует конкретной причины этому верить, хотя роботы и становятся умнее. Вместо этого нам стоит опасаться искусственного интеллекта, потому что он всегда подчиняется человеку, управляющему им, и никогда не сопротивляется. Искусственный интеллект — это особое оружие, непохожее ни на одно когда-либо изобретенное человеком. Почти наверняка он лишь поможет укрепить власть тем, кто ею уже обладает.

Что касается слежки. Многие страны по всему миру, включая некоторые демократические государства, в настоящее время заняты разработкой невиданных ранее систем слежения. Например, Израиль, лидирующий в сфере технических средств наблюдения, разработал рабочий прототип режима полного надзора на оккупированном западном берегу реки Иордан. Уже сегодня, когда палестинцы кому-либо звонят, публикуют что-то на Фейсбуке или путешествуют из одного города в другой, они, вероятно, будут отслеживаться Израилем при помощи камер, микрофонов, дронов или шпионского программного обеспечения. Алгоритм анализирует собранные данные, помогая службам безопасности Израиля точно определить и нейтрализовать потенциальные угрозы. Палестинцы управляют некоторыми городами и деревнями на Западном побережье, но Израиль держит под контролем авиалинии, воздушное и киберпространство. Поэтому для эффективного контроля примерно двух с половиной миллионов палестинских граждан, проживающих на западном берегу реки Иордан, требуется, как ни странно, совсем немного израильских солдат.

В октябре 2017 года произошел один случай. Рабочий из Палестины разместил в своем закрытом аккаунте на Фейсбуке фотографию себя на рабочем месте рядом с бульдозером. Под фотографией он написал «Доброе утро!». Во время перевода подписи с арабского языка алгоритм Фейсбука допустил небольшую ошибку. Вместо “Ysabechhum” («Доброе утро») он распознал текст как “Ydbachhum” («Навреди им»). Посчитав мужчину террористом, который собирается переехать людей бульдозером, службы безопасности Израиля немедленно его арестовали. Мужчину отпустили сразу же, как только ошибка была обнаружена. Тем не менее, злополучный пост был удален – никогда не помешает лишний раз перестраховаться. То, что происходит с гражданами Палестины сегодня на западном побережье, может быть лишь намеком на то, что вскоре ожидает миллиарды людей по всему миру.

Представьте себе, что, например, нынешнему правящему режиму в Северной Корее в будущем станет доступна более усовершенствованная версия подобной технологии. Жителям, вероятно, потребуется носить биометрический браслет, который будет следить за всем, что они говорят или делают, а также за их кровяным давлением и активностью головного мозга. Пользуясь все возрастающим пониманием работы последнего и опираясь на безмерные возможности машинного обучения, правительство Северной Кореи сможет в конечном счете рассчитать, что думает каждый гражданин в любой момент времени. Если бы кто-нибудь посмотрел на портрет Ким Чен Ына, и биометрические сенсоры его браслета зафиксировали бы явные признаки гнева (повышенное давление и активность миндалевидного тела), то он мог бы оказаться в гулаге уже на следующий день.


 Противостояние между демократическим и диктаторским режимами является, в сущности, противостоянием двух различных систем обработки данных. Благодаря искусственному интеллекту преимущество может оказаться на стороне последнего.


И тем не менее такая радикальная политика может оказаться необоснованной, по крайней мере в большинстве случаев. В некоторых странах может сохраниться видимость свободного выбора и голосования, даже когда общественность все меньше и меньше реально контролирует ситуацию. Разумеется, попытки манипулировать чувствами избирателей уже давно не новы. Но как только кто-либо (будь то в Сан-Франциско, Пекине или Москве) получает технологическое средство для манипулирования сердцами людей (надежно, недорого и в широком масштабе) – демократия превращается в красочное шоу марионеток.

Маловероятно, что мы станем свидетелями восстания разумных машин в ближайшие десятилетия. Но, возможно, нам придется иметь дело с полчищами роботов, которые лучше наших собственных матерей знают, как управлять нашими эмоциями, и используют эту сверхъестественную способность по указанию политических гигантов, чтобы продать нам что-либо: будь то машина, кандидат от политической партии или целая идеология. Эти роботы могут распознать наши самые сильные страхи, ненависть и желания и использовать их против нас. Подобное мы могли наблюдать на недавних выборах и референдумах по всему миру, когда хакеры научились манипулировать чувствами отдельных избирателей, анализируя информацию о них и спекулируя их предубеждениями. Пока научно-фантастические произведения основываются на ярких образах апокалипсиса из огня и дыма, в реальности мы можем столкнуться с апокалипсисом, просто кликнув мышкой.

Самое значительное и пугающее влияние революция искусственного интеллекта может оказать на относительную эффективность политик демократии и диктатуры. Исторически сложилось так, что автократия столкнулась с серьезными помехами в отношении инноваций и экономического роста. В конце 20 века страны с демократическим строем обычно опережали диктатуры в своем развитии, так как они обладали гораздо более совершенными системами обработки данных. Мы привыкли считать противостояние между демократическим и диктаторским режимами противостоянием двух различных этических систем, когда оно в сущности является противостоянием двух различных систем обработки данных. Демократия распределяет право на обработку информации и принятие решений между многими людьми и учреждениями. Диктатура сосредотачивает информацию и власть в одном месте. Учитывая технологии, доступные в 20 веке, концентрирование информации и власти в одних руках было весьма неэффективным. Ни у кого не было способности обработать всю доступную информацию достаточно быстро и принять верное решение. Это является одной из причин, почему правительство СССР, по сравнению с правительством США, принимало гораздо более неудачные решения, а его экономика оставалась далеко позади американской.

Однако, искусственный интеллект может вскоре кардинально поменять ситуацию. Он делает возможным обработку огромного количества информации централизованно. В действительности, искусственный интеллект может сделать централизованные системы намного более эффективными, чем распределенные, потому что машинное обучение работает лучше, если информации для анализа больше. Если вы пренебрежёте вопросами конфиденциальности и сосредоточите всю информацию о миллиарде людей в одной базе данных, вы получите лучшие алгоритмы, чем если бы вы уважали неприкосновенность частной жизни и хранили только часть информации о миллионе людей. Авторитарное правительство, которое требует от населения оцифровать данные ДНК и поделиться своими медицинскими показаниями с каким-либо центральным органом власти, получит значительное преимущество в генетике и медицинских исследованиях перед тем обществом, где такие данные являются строго конфиденциальными. Главный недостаток авторитарных систем в 20 веке – их стремление сосредотачивать всю информацию и власть в одном месте – может стать их главным преимуществом в 21.

Разумеется, новые технологии продолжат появляться, и некоторые из них могут способствовать разделению, а не концентрации информации и власти. Технология блокчейн и использование криптовалют, которому она способствует, в настоящее время позиционируется как возможный противовес централизации власти. Но эта технология все еще находится в своей начальной стадии, и мы не знаем, уравновесит ли она тенденции искусственного интеллекта к централизации. Важно помнить, что в первые дни своего существования интернет был либертарианской панацеей, которая должна была освободить людей от централизованных систем. Но в наши дни он готов наделить централизованное правительство еще большей властью, чем когда-либо.

4. Передача власти машинам

Несмотря на то, что некоторые общества остаются якобы демократичными, возрастающая эффективность алгоритмов, тем не менее, будет сдвигать баланс власти от отдельных людей к сетевым машинам. Мы, возможно, будем готовы все больше отказаться от контроля над собственной жизнью, потому что на собственном опыте научимся доверять алгоритмам больше, чем нашим чувствам, в конечном итоге потеряв способность принимать самостоятельно многие решения. Подумайте о том, как в течение каких-то двух десятилетий миллиарды людей пришли к тому, чтобы доверить алгоритму поиска Google одну из самых важных задач — найти актуальную и заслуживающую доверия информацию. В то время, как мы все больше полагаемся на Google для получения ответов, наша способность находить информацию самостоятельно уменьшается. Уже сегодня «истина» определяется верхними результатами в поисковике. Этот процесс также повлиял на наши физические способности, такие как ориентация в пространстве. Люди просят Google не просто найти информацию, но и направлять их. Самоуправляемые автомобили и врачи с искусственным интеллектом будут представлять собой дальнейшую эрозию: пока эти нововведения будут оставлять дальнобойщиков и врачей без работы, расширение их применения будет значить продолжающуюся передачу полномочий и ответственности от людей к машинам.

Люди привыкли смотреть на жизнь как на драму принятия решений. Либеральная демократия и капитализм с их свободным рынком рассматривают человека как автономного субъекта, постоянно делающего выбор в мире. Произведения искусства — будь то пьесы Шекспира, романы Джейн Остин или второсортные голливудские комедии — обычно вращаются вокруг героя, который принимает какое-то важное решение. Быть или не быть? Слушать мою жену и убить короля Дункана, или послушать мою совесть и пощадить его? Выйти замуж за мистера Коллинза или мистера Дарси? Христианская и исламская теология также сконцентрирована на драме принятия решений, утверждая, что вечное спасение зависит от правильного выбора.

Что произойдет с таким пониманием жизни по мере того, искусственный интеллект будет принимать все больше решений за нас? Даже сейчас мы доверяем Netflix рекомендовать фильмы и Spotify выбрать музыку, которая нам понравится. Но разве на этом помощь искусственного интеллекта прекратится?

Каждый год миллионам студентов колледжей необходимо решать, что им изучать. Это очень важное и трудное решение, сделанное под давлением родителей, друзей и преподавателей, которые имеют разные интересы и мнения. На это решение также влияют индивидуальные страхи и фантазии учеников, которые сформированы фильмами, романами и рекламными кампаниями. Усложняя свой выбор, данный учащийся не знает, что действительно нужно для успеха в данной профессии, и не обязательно имеет реалистичное представление о своих сильных и слабых сторонах.

Не так сложно понять, как искусственный интеллект может однажды принять более правильные решения, чем мы, о карьере и, возможно, даже о межличностных отношениях. Но как только мы начнем рассчитывать на искусственный интеллект, чтобы решить, что нам изучать, где работать, и даже с кем заключать брак, человеческая жизнь перестанет быть драмой принятия решений, и наша концепция жизни должна будет измениться. Демократические выборы и свободные рынки могут потерять свой смысл. То же самое может произойти с большинством религий и произведений искусства. Представьте себе, что Анна Каренина вынимает свой смартфон и спрашивает Siri, стоит ли ей выходить замуж за Каренина или сбежать с лихим графом Вронским. Или представьте, что ваш любимый Шекспир играет со всеми важными решениями, принятыми Google. У Гамлета и Макбет была бы более комфортная жизнь, но какие бы это были жизни? Есть ли у нас модели для понимания такой жизни?

Смогут ли парламенты и политические партии преодолеть эти проблемы и предотвратить более мрачные сценарии? На данный момент это едва ли вероятно. Технологический прорыв не является даже одним из основных пунктов политической повестки дня. Во время президентской гонки в 2016 году в США основное упоминание о разрушительных технологиях касалось взлома электронной почты Хиллари Клинтон, и, несмотря на все разговоры о потере рабочих мест, ни один из кандидатов не обращал непосредственного внимания на потенциальное влияние автоматизации. Дональд Трамп предупреждал избирателей о том, что мексиканцы отнимают у них работу, и что США должны построить стену на своей южной границе. Он никогда не предупреждал избирателей о том, что работу у них отнимут алгоритмы, и он не предложил создать брандмауэр вокруг Калифорнии.

Так что же нам делать?

Во-первых, нам нужно уделять более пристальное внимание пониманию того, как работает человеческое мышление, в частности, тому, как можно культивировать нашу собственную мудрость и сострадание. Если мы будем слишком много вкладывать в искусственный интеллект и слишком мало в развитие человеческого разума, очень сложный компьютерный искусственный интеллект может только усугубить естественную глупость людей и развить наши худшие (но, возможно, самые мощные) импульсы, среди которых жадность и ненависть. Чтобы избежать такого результата, наряду с каждым долларом и каждой минутой, которые мы инвестируем в развитие искусственного интеллекта, было бы разумно также вкладывать доллар и минуту в изучение и развитие человеческого сознания.

Мы должны боле практично и быстро урегулировать владение данными, если хотим предотвратить концентрацию всего богатства и власти в руках небольшой элиты. Раньше, в древние времена земля была самым важным достоянием, поэтому политика была борьбой за контроль над землей. В современную эпоху машины и фабрики стали важнее, чем земля, поэтому политическая борьба сосредоточена на контроле этих жизненно важных средств производства. Сейчас, в 21 веке данные затмевают как землю, так и машины как важнейший актив, поэтому политика станет борьбой за контроль над потоком данных.

К сожалению, у нас нет большого опыта в регулировании владения данными, что по своей сути является гораздо более сложной задачей, чем регулирование земли или машин. Данные везде и нигде в одно и то же время, они могут двигаться со скоростью света, и вы можете создать столько копий, сколько хотите. Кому принадлежат данные, собранные о моей ДНК, моем мозге и моей жизни: мне, правительству, корпорациям или человечеству?

Гонка по накоплению данных уже началась, и в настоящее время ее возглавляют такие гиганты, как Google и Facebook, а также Baidu и Tencent в Китае. До сих пор многие из этих компаний выступали в качестве «продавцов внимания» — они привлекают наше внимание, предоставляя нам бесплатную информацию, услуги и развлечения, а затем они перепродают наше внимание рекламодателям. Но их реальный бизнес — это не просто продажа рекламы. Скорее, привлекая наше внимание, им удается аккумулировать огромное количество данных о нас, которые стоят больше, чем любой доход от рекламы. Мы не их клиенты — мы их продукт.

Обычным людям будет очень сложно противостоять этому процессу. В настоящее время многие из нас счастливы отдать наш самый ценный актив — наши личные данные — в обмен на бесплатные услуги электронной почты и забавные видео про котиков. Но если позже обычные люди решат попытаться остановить поток данных, у них, вероятно, возникнут проблемы с этим, тем более, что они будут опираться на сеть при принятии решения даже для их здоровья и физического выживания.

Национализация данных правительствами может предложить одно решение; это, безусловно, ограничило бы власть крупных корпораций. Но история говорит о том, что контроль сверхмогущественных правительств – это не лучший вариант. Поэтому лучше призвать наших ученых, наших философов, наших юристов и даже наших поэтов обратить внимание на этот большой вопрос: как вы регулируете владение данными?

В настоящее время люди рискуют стать похожими на одомашненных животных. Мы разводим послушных коров, которые производят огромное количество молока, но в остальном уступают своим диким предкам. Они менее подвижны, менее любопытны и менее находчивы. В настоящее время мы создаем прирученных людей, которые производят огромные объемы данных и функционируют как эффективные чипы в огромном механизме обработки данных, но они вряд ли разовьют свой человеческий потенциал. Если мы не будем осторожны, мы придем к человеку, злоупотребляющим модернизированными компьютерами для нанесения ущерба себе и миру.

Если вы обнаружите, что эти перспективы вас тревожат, если вам не нравится идея жить в цифровой диктатуре или схожей деградированной форме общества, то самый важный вклад, который вы можете сделать, — это найти способ предотвратить слишком сильную концентрацию данных в слишком малом количестве рук, а также найти способы распределенной обработки данных, которые будут более эффективными, чем централизованные. Это непростые задачи. Но достижение их может стать лучшей гарантией демократии.


Эта статья была адаптирована из книги Юваля Ноя Харари «21 Урок для 21 века».

Перевод подготовлен волонтёр(к)ами некоммерческой правозащитной организации Human Constanta.

Перевод статьи публикуется на условиях fair use исключительно в просветительских целях. Все права принадлежат The Atlantic. По вопросам перепечатки материала обращайтесь напрямую к правообладателю.

ПОХОЖИЕ НОВОСТИ
Антидискриминация На фото в комнате стоит полноватый мужчина в желтой майке со значком супермена. На диване рядом сидит женщина и смотрит в телефон.

Интернет-воины

Даже в эпоху мессенджеров, Facebook остается важной площадкой для коммуникации и обмена информацией (и даже главным источником получения новостей для миллениалов).  Но у социальной сети есть и другая сторона – пугающее распознавание лиц, обилие рекламы или отметки на фотографиях трехлетней давности, которыми вам не хотелось бы делиться с друзьями. И если все эти неприятные мелочи […]
Лаборатория цифровых свобод

WhatsApp всех сдал. Или нет?

Даже в эпоху мессенджеров, Facebook остается важной площадкой для коммуникации и обмена информацией (и даже главным источником получения новостей для миллениалов).  Но у социальной сети есть и другая сторона – пугающее распознавание лиц, обилие рекламы или отметки на фотографиях трехлетней давности, которыми вам не хотелось бы делиться с друзьями. И если все эти неприятные мелочи […]
Лаборатория цифровых свобод

Во всём виноват Facebook?

Даже в эпоху мессенджеров, Facebook остается важной площадкой для коммуникации и обмена информацией (и даже главным источником получения новостей для миллениалов).  Но у социальной сети есть и другая сторона – пугающее распознавание лиц, обилие рекламы или отметки на фотографиях трехлетней давности, которыми вам не хотелось бы делиться с друзьями. И если все эти неприятные мелочи […]
Лаборатория цифровых свобод

Приватность в Facebook: отметки и хроника

Какие настройки Facebook отвечают за отметки на фотографиях, чужие посты в вашей хронике и ей доступность? И как запретить Facebook распознавать вас на фотографиях? Продолжение цикла публикаций о том, как сделать использование соцсетей приватнее и безопаснее.