Кевин Славин: Как алгоритмы формируют наш мир

Кевин Славин утверждает, что мы живём в мире, построенном и во всё большей степени управляемым алгоритмами. В этом захватывающем выступлении на TED Global, он демонстрирует, как сложные компьютерные программы определяют: тактики шпионажа, цены акций, сценарии фильмов, и архитектуру.

Он предупреждает, что мы пишем код, который не можем понять, с последствиями, которые не можем контролировать.

Перевод выступления:

Это — фотография Майкла Найджара, и она настоящая, в том смысле, что он поехал в Аргентину, чтобы сделать фотографию. Но она также и выдумка. После этого в неё было вложено много работы. Он взял и переделал её на компьютере так, чтобы все очертания гор следовали превратностям индекса Доу-Джонса.

Что вы видите, вот тот обрыв, высокий обрыв с долиной, это финансовый кризис 2008-го года. Эта фотография была сделана, когда мы были глубоко вот там в долине. Я не знаю, где мы находимся сейчас. Это индекс Хан-Сенга, из Гонконга. Схожая топография. Я в догадках, почему.

Фотография Майкла Найджара

Это искусство. Это метафора. Я думаю, дело в том, что это зубастая метафора. С мыслями об этих зубах я хочу предложить, чтобы мы сегодня немного переосмыслили роль современной математики — не только финансовой математики, а математики в общем. Её переход от того, что мы извлекаем и выводим из наблюдений за миром, к тому, что начинает формировать — мир вокруг нас и наш внутренний мир. Именно алгоритмы, та самая математика, которую компьютеры используют для принятия решений. Они становятся правдоподобными, из-за многократного повторения. Они костенеют и твердеют и становятся реальностью.

Я думал об этом, подумать только, во время трансатлантического перелёта много лет назад, потому что по случайности меня посадили с венгерским физиком примерно моего возраста, и мы разговаривали о том, какой была жизнь физиков во время холодной войны в Венгрии. Я спросил: "Так чем же вы занимались?". Он ответил: "По большей части, ломали защиту самолётов-невидимок".

"Хорошая работа, — сказал я, — интересная тема. А как это работает?". Чтобы это понять, нужно понимать, как работают самолёты-невидимки. Вот — и это сильное упрощение — по-простому, нельзя взять и пропустить сигнал радара сквозь 156 тонн стали в небесах. Никуда они не денутся. Но если взять эту огромную, массивную штуку, и если сделать из неё миллион маленьких — примерно как стая птиц — тогда наблюдающий радар должен уметь видеть каждую стаю птиц в небе. И для радара это не самая лёгкая работа.

Стая птиц

"Да, — сказал он, — это так, если использовать радар. Поэтому радар мы не использовали. Мы сделали чёрный ящик, который искал электронные сигналы, электронные сообщения. И каждый раз, когда была замечена стая птиц, ведущая электронные разговоры, мы знали, что, наверное, это что-то американское".

"Да, — ответил я, — неплохо. Вы практически взяли и перечеркнули 60 лет аэронавигационных исследований. А чем вы сейчас занимаетесь? Чем вы занимаетесь во взрослой жизни?" Он ответил: "Финансовые услуги". "Ого" — удивился я. Потому что про них недавно говорили в новостях. "А это как работает?" — спросил я. Он ответил: "На Уолл-стрит сейчас работает две тысячи физиков, и я один из них". Я спросил: "И каков же чёрный ящик для Уолл-стрит?"

Он удивился: "Надо же, как вы спросили, потому что он действительно называется торговля чёрными ящиками. Иногда это называется алготорговля, алгоритмическая торговля". Алгоритмическая торговля развилась отчасти потому что у профессиональных торговцев были те же проблемы, что и у Военно-воздушных сил США, а именно, когда они торгуют акциями — будь то Proctor & Gamble или Accenture, что угодно — они проводят миллионы акций сквозь рынок. Если сделать это одним махом, то это, как в покере, поставить всё сразу. Все поймут, что у вас на руках. Итак, им нужно найти способ — и для этого они используют алгоритмы — разбить эту огромную штуку на миллион маленьких транзакций. Магия и ужас в том, что та самая математика, использованная для разбивки большой вещи на миллион маленьких вещей, может быть использована для поиска миллиона маленьких вещей, сборки их обратно, и выяснения, что же действительно происходит на рынке.

В качестве представления, что сейчас происходит на рынке акций прямо сейчас, можете представить группу алгоритмов, которые запрограммированы прятать, и группу алгоритмов, которые запрограммированы искать и действовать. Конечно, всё это классно. И это составляет 70 процентов рынка акций США, 70 процентов того, что раньше было известно как ваша пенсия, как ваша ипотека.

Что же плохого может случиться? А то, что год назад, девять процентов рынка просто исчезло за пять минут, и это было названо мгновенное падение 2:45. Вдруг, девять процентов просто исчезает, и по сей день, никто не может понять, что случилось, потому что никто это не заказывал, никто об этом не просил. Никто не контролировал происходящее. Всё, что было доступно — монитор перед глазами, с цифрами на нём, и красная кнопка с надписью "Стоп".

Дело в том, что мы пишем вещи, мы пишем такие вещи, которые сами не в состоянии прочесть. Мы сделали что-то нечитаемое. Мы потеряли ощущение того, что происходит в мире, который мы построили. Но мы начинаем понимать. В Бостоне есть компания Nanex, они используют математику и магию и что-то ещё, получают доступ к данным рынка, и находят, иногда, некоторые из этих алгоритмов. Когда они их находят, они их вытаскивают, и прикалывают на стену как бабочек. Они делают то, что мы всегда делали, сталкиваясь с огромным количеством данных, которые мы не понимаем — они дают им имя и историю. Вот кое-что из найденного, названное, как: Нож, Карнавал, Бостонский пройдоха, Сумерки.

Прикол в том, что это не только на рынке. Эти вещи можно найти везде, где ни посмотри, как только научишься их искать. Их можно найти здесь: это книга о мухах, которую можно было заметить на Amazon. На неё можно было обратить внимание, когда она стоила 1,7 миллиона долларов. Она больше не издается — но всё же... И если бы вы купили её за 1,7, это была бы выгодная сделка. Несколько часов позже, она выросла в цене до 23,6 миллиона долларов, плюс доставка и упаковка. Вопрос: Никто ничего не продавал и не покупал, что происходило? Такое поведение можно заметить на Amazon точно так же, как и на Уолл-стрит. При наблюдении такого поведения, вы видите свидетельство конфликтующих алгоритмов, алгоритмов, зажавших друг друга мёртвой хваткой, без человеческого контроля, без надзора взрослых, которые бы сказали: "Ну, хватит, 1,7 миллиона вполне достаточно".

Это не только на Amazon, но и на Netflix. За годы, Netflix поменял несколько разных алгоритмов. Они начали с Cinematch, и попробовали группу других. Планета Динозавров, Гравитация. Сейчас они используют Прагматический Хаос. Прагматический Хаос, как и все другие алгоритмы Netflix, пытается решить ту же задачу. Он пытается разобраться в вас, в прошивке внутри черепа, для того чтобы рекомендовать фильм, который вы можете захотеть посмотреть следующим — а это очень, очень трудная проблема. Трудность проблемы, и факт того, что она до сих пор не решена, не отменяет последствий, создаваемых Прагматическим Хаосом. Прагматический Хаос, как и все алгоритмы Netflix, в итоге определяет 60 процентов всех взятых напрокат фильмов. Единственный участок кода, с единственным представлением о вас, отвечает за 60 процентов фильмов.

А как насчёт оценки фильмов ещё до того, как они сделаны? Было бы это здорово? Некоторые учёные из Великобритании сейчас в Голливуде, и у них есть сценарные алгоритмы — компания называется Epagogix. Она может обработать ваш сценарий, и сказать, количественно, что это кино на 30 миллионов долларов, или на 200 миллионов долларов. Суть в том, что это не Google. Это не информация. Это не финансовая статистика, это культура. То, что вы здесь видите, или же то, что обычно не видно, это физика культуры. Если эти алгоритмы, как алгоритмы на Уолл-стрит, в один прекрасный день просто сломаются и сойдут с ума, как мы об этом узнаем, как это будет выглядеть?

А они уже в доме. В вашем доме. Это два алгоритма, сражающиеся за вашу гостиную. Это два разных робота-уборщика, с совершенно разными представлениями о чистоте. Это можно увидеть, если замедлить и прикрепить к ним огоньки. Они как тайные архитекторы в вашей спальне. Идея о том, что сама архитектура является объектом алгоритмической оптимизации не притянута за уши. Это абсолютно реально и уже происходит вокруг нас.

Роботы уборщики

Больше всего это ощущается в закрытом металлическом ящике, лифте нового поколения, который называется лифтом с регистрацией места назначения. Это те самые, где нужно нажать кнопку этажа ещё до входа в лифт. Он использует так называемый алгоритм об упаковке в контейнеры. И никакого вольнодумства, чтобы каждый выбирал лифт сам. Все, кто едут на десятый этаж, идут в лифт номер два, и все, кто едут на третий этаж, идут в лифт номер пять. Проблема в том, что люди волнуются. Люди паникуют. И понятно почему. Потому что в лифте нет очень важных деталей, таких как кнопки. Детали, которые люди используют. Всё, что есть, это номер, который двигается вверх и вниз, и та самая красная кнопка с надписью "Стоп". Вот для чего мы это делаем. Мы это делаем удобным для машин. Сколько это можно терпеть? Как далеко можно зайти? Очень, очень далеко.

Давайте вернёмся на Уолл-стрит. Алгоритмы Уолл-стрит зависят, прежде всего, от одной вещи, и это скорость. Они работают с мили- и микросекундами. Чтобы дать понять, что такое микросекунда — щелчок мышью занимает полмиллиона микросекунд. Но, если алгоритм с Уолл-стрит опоздал на пять микросекунд, он проиграл. Так что если вы — алгоритм, вы бы искали такого архитектора, какого я встретил во Франкфурте. Он опустошал небоскрёб — выкидывал всю мебель, всё инфраструктуру для людей, покрывал полы сталью, подготавливая их для серверных стоек — всё для того, чтобы алгоритм мог подобраться поближе к интернету.

Вы думаете, что интернет — это такая распределённая система. Конечно, так и есть, но она откуда-то начинается. В Нью-Йорке, она начинается отсюда: Carrier Hotel, расположенный на Гудзон-стрит. Вот, где провода приходят в город. Дело в том, что с каждым удалением отсюда теряются несколько микросекунд. Вот эти парни на Уолл-стрит, Марко Поло и Чероки Нэйшн, они восемь микросекунд позади всех парней, заселяющихся в здания, опустошаемые вокруг Carrier Hotel. И это будет продолжаться. Здания будут опустошаться, потому никто из вас, сантиметр за сантиметром, доллар за долларом, вы никогда не сможете выжать столько прибыли из этого пространства, сколько смог выжать Бостонский пройдоха.

Но если подняться, подняться высоко, можно увидеть ров длиной 1300 километров между Нью-Йорком и Чикаго, построенный за последние несколько лет компанией Spread Networks. Это оптоволоконный кабель, проложенный между двумя городами для передачи одного сигнала в 37 раз быстрее, чем щелчок мышью — только для этих алгоритмов, только для Карнавала и для Ножа. Подумать только, мы прогрызаем США насквозь, динамитом и землеройками, чтобы алгоритм смог закрыть сделку микросекундой раньше, всё ради каналов связи, которые никогда не использует человек. Это предсказание судьбы, всегда продвигаться дальше.

Проложенный между двумя городами оптоволоконный кабель

К сожалению, наша работа уже предопределена. Всё это только теория. Это математики из MIT. Правда в том, что я не понимаю практически ничего, о чём они говорят. Это что-то о световых конусах и квантовом связывании, и я в этом не разбираюсь. Но я понимаю эту карту. Она говорит, что, если вы пытаетесь зарабатывать на рынках, обозначенных красными точками, это где люди и города, нужно помещать сервера в места, обозначенные голубыми точками, для наибольшей эффективности. Как можно заметить, большая часть этих голубых точек находится посреди океана. Вот этим и займёмся, постройкой пузырей, или платформ. Чтобы делать деньги из воздуха, надо лезть в воду, потому что это мудрое решение, если ты — алгоритм.

Деньги сами по себе не так интересны. Интересно, что деньги мотивируют. Мы изменяем саму Землю вот такой алгоритмической оптимизацией. Если вернуться, и посмотреть на фото Майкла Найджара в этом свете, можно понять, что они не метафора, а пророчество. Они — пророчество эффектов сейсмического, земного масштаба, которые имеет наша математика. Ландшафт всегда формировался подобным образом, нелёгким сотрудничеством человека и природы. Но сейчас появилась третья эволюционная сила: алгоритмы — Бостонский пройдоха, Карнавал. И нам нужно их понять, как и природу. В каком-то смысле, они и есть природа.

Спасибо.