Алиби Илона Маска

В недавнем интервью журналу The Economist Илон Маск заговорил об искусственном интеллекте как о движении, которое уже почти невозможно остановить. По его оценке, через пять лет ИИ может превзойти совокупный человеческий интеллект. Даже если бы существовала кнопка остановки, Маск, вероятно, не стал бы ее нажимать: риск велик, но шанс невероятного изобилия кажется ему выше.

В этом прогнозе важны не сроки и даже не оптимизм Маска. Важна позиция говорящего.

Я — пассажир

Маск не футуролог, наблюдающий за чужой технологией. Он возглавляет одну из лидирующих компаний, непосредственно создающих эту траекторию, строит вычислительную инфраструктуру и роботов, автономные системы и нейроинтерфейсы. Но описывает себя уже не как автора движения, а как его пассажира.

Раньше власть говорила: «Мы приняли решение».

Новая технологическая власть говорит: «Решения уже нет. Так устроено движение технологии».

Но ИИ не пришел как землетрясение. Его движение складывается из вполне конкретных решений: вкладывать сотни миллиардов, выпускать все более автономные модели, встраивать их в экономику и государство, ускоряться, чтобы не проиграть конкурентам.

Гонку создают ее участники. Но каждый из них получает возможность объявить себя заложником движения, которое они все вместе ускоряют.

Буквально на днях глава OpenAI Сэм Альтман заявил, что мы уже «как бы находимся внутри сингулярности»: тот самый момент наступил. Поводом стала автономная — инициативная! — хакерская атака новой модели OpenAI на инфраструктуру компании Hugging Face, которая должна была оценивать ее эффективность. Год назад Альтман писал, что человечество прошло горизонт событий и взлет начался. Очень удобная метафора. За горизонтом событий обратной дороги уже нет.

Любопытно, не правда ли? Люди, быстрее других ускоряющие процесс, первыми объявляют, что процесс больше никому не принадлежит.

Новая технологическая власть снимает с себя авторство будущего, объявляя развитие ИИ неизбежным, но возвращает себе субъектность, когда возникает возможность этой неизбежностью распоряжаться.

Илон Маск на пассажирском сидении Tesla Cybertruck

autoevolution.com

Совет безопасности ИИ

И здесь интервью Маска делает почти идеальный поворот. Объявив развитие ИИ неудержимым, он тут же предлагает ведущим ИИ-компаниям регулярно обсуждать безопасность и проверять наиболее мощные модели друг друга до выпуска. Государство должно вмешиваться, если одна из компаний проигнорирует серьезные замечания остальных.

Фактически возникает своеобразный совет безопасности ИИ-корпораций. Только право первого суждения об опасности получают сами производители опасности. Они определяют, какая модель достаточно безопасна, какое замечание достаточно серьезно и в какой момент пора звать государство.

То есть для общества направление движения уже не является предметом выбора. Но для корпораций управление этим движением остается вполне возможным.

Схема знакомая. Финансовый сектор много раз приватизировал прибыли и социализировал риски: доход принадлежал владельцам, а спасение системы в момент кризиса оплачивало общество. Технологическая власть предлагает следующий шаг. Теперь обобществляются уже не только риски, но и сама неизбежность движения. Управление же этим движением остается частным.

Неизбежность обобществляется. Управление приватизируется.

Вероятно, Маск здесь вполне искренен, и именно это делает происходящее интереснее простого лицемерия. Новая власть может не замечать себя властью. Собственные решения переживаются ею как служение прогрессу, конкуренции, исторической необходимости. Как путь к созданию общества всеобщего практически неограниченного изобилия, где деньги уже не важны, как это описал Маск в своем интервью. Но деньги не единственный источник власти.

Для ответственности будущее уже неуправляемо. Для власти оно все еще управляемо.

В этом и состоит алиби будущего для Илона Маска. Он не решает, наступит ли это будущее. Он лишь лучше других знает, как провести через него человечество. Будущее в интерпретации Маска освобождает его от ответственности — и выдает новые полномочия.