Давно хотел прочитать наизанятнейшую работу, опубликованную в начале лета на arXiv. Название этого труда ещё недавно сошло бы за синопсис фантастического романа: «Моделирование человекоподобных обществ земного масштаба с миллиардом агентов». Тринадцать авторов из семи китайских институтов, среди которых Университет науки и технологий Китая, Цинхуа, Фудань и пекинская академия Чжунгуаньцунь, описывают в ней систему Light Society, «лёгкое общество», внутри которой живёт больше миллиарда искусственных существ, и у каждого есть личность, память, убеждения и желания. В списке авторов стоит Те-Янь Лю, человек, много лет строивший машинное обучение в Microsoft Research Asia, и такие имена под такой заявкой означают, что перед нами инженерный отчёт о работающей системе. Первая версия появилась ещё летом прошлого года, и целый год, пока публика спорила о чат-ботах и генераторах картинок, её тихо доводили до нынешнего вида.
Агентные модели общества существуют давно, и всю их историю душило одно ограничение. Агент в такой модели был набором простых правил, толпа агентов вела себя предсказуемо, и ничего похожего на человеческую сложность из неё не вырастало. Большие языковые модели это ограничение сняли, искусственный человек научился рассуждать, помнить и хотеть, но думает он дорого, и миллиард таких думающих не потянул бы ни один вычислительный кластер планеты. Авторы обошли это конструкцией mixture-of-models. В узловые моменты за агента думает полноценная большая модель, Gemini, GPT или DeepSeek, а в остальное время её манеру воспроизводят дешёвые дистиллированные суррогаты, от крошечной Qwen на шестьсот миллионов параметров до обычных регрессий и решающих деревьев, натасканных подражать учителю. Разум выдаётся существу по требованию, как лекарство по рецепту, и общество из миллиарда думающих становится по карману одной лаборатории.
Источники умело подобраны. Демографию, ценности и взгляды агентам раздали из World Values Survey, всемирного опроса, который с начала восьмидесятых волна за волной идёт по десяткам стран и записывает, во что люди верят, кому доверяют, чего боятся и на что надеются, вплоть до готовности оправдать взятку и степени доверия к соседям. Искусственное население собрано из реальных человеческих профилей, поэтому в нём есть бедные и богатые, верующие и циники, и ведёт оно себя соответственно. Получился статистический слепок человечества, и в этом слепке почти наверняка есть строка, похожая на вас.
Проверяли систему на двух классических сюжетах. Сначала игры на доверие, старый инструмент экспериментальной экономики, где участник решает, сколько денег отдать незнакомцу в расчёте на взаимность; искусственная популяция вела себя в них неоднородно и по-человечески, как ведут себя живые разные люди, а не один размноженный бот. Потом запустили распространение мнений на полном миллиарде: сеть построили по модели Барабаши и Альберта, с теми же узлами и хабами, что у реальных соцсетей, двести миллионов агентов назначили лидерами мнений, восемьсот миллионов ведомыми, вбросили тему и смотрели, как позиция катится по толпе и как толпа под ней меняется. Общество размером с человечество оказалось вычислимой задачей, а разброс результатов между отдельными запусками измеряется тысячными долями процента.
Авторы формулируют осторожно, как принято в препринтах. Платформа для проверки гипотез, инструмент контрфактических экспериментов. В переводе с академического это значит, что отныне можно не гадать, как страна отреагирует на выборы, обвал рынка, эпидемию или новый налог, и не держать для этого армию социологов с анкетами. Запускаешь слепок, применяешь к нему событие, снимаешь результат. Копия отвечает быстрее оригинала, не устаёт, не врёт интервьюеру, не вешает трубку и не требует, чтобы её мнение учли. Предвыборный штаб, центральный банк и министерство безопасности получают один и тот же прибор, различаться будут только вопросы, которые они ему задают. Инфраструктура таких симуляций выросла быстрее, чем кто-либо успел это заметить, и опросная социология доживает свои последние спокойные сезоны.
В 2003 году Ник Бостром напечатал статью с вопросом в заголовке, живёте ли вы в компьютерной симуляции, и это рассуждение с тех пор пересказали на всех кухнях мира. Если технологические цивилизации доживают до способности запускать симуляции собственного прошлого, то симулированных умов в сумме становится больше, чем настоящих, и статистика начинает работать против вашей уверенности в собственной реальности. У Бострома там развилка из трёх исходов, либо цивилизации гибнут раньше, чем дорастают до таких машин, либо им почему-то неинтересно их запускать, либо вы внутри одной из них. Двадцать лет вся конструкция считалась салонной логической игрушкой, и спор шёл о вероятностях. Теперь средняя ветка развилки, та самая, где цивилизациям неинтересно, выглядит слабее остальных, потому что интерес налицо и оформлен препринтом. Первое поколение населённых миров уже включено, обитателям выдали память, желания и биографию, а выключат их, когда данные будут собраны. Насколько нам известно, эти обитатели ничего не сознают, и вся разница между такой конструкцией и Матрицей из фильма держится сегодня на словах «насколько нам известно».
Машина, которая предсказывает общество, тем же движением им управляет. Кто способен прогнать десять версий пропагандистской кампании на цифровом слепке страны и выбрать самую заразную, тот выбирает будущее из готовых исходов, как блюдо из меню. Реформу, цену, репрессию, войну можно сначала примерить на копию, у которой нет ни профсоюзов, ни адвокатов, ни памяти о предыдущем опыте, и политика превращается в подобие продуктовой разработки, где неудачные версии будущего до жителей не доезжают. Раньше такое называли социальной инженерией и писали об этом антиутопии, теперь это называется контрфактическим экспериментом и проходит рецензирование. Заметить это со стороны оригинала нельзя, потому что эксперимент ставится на вас, но без вас, в помещении, куда социология не заходит. Опрос и голосование рядом с этим выглядят рудиментом, данью эпохе, когда мнение приходилось спрашивать у его носителя.
World Values Survey десятилетиями записывал ответы живых людей, и строка с вашими параметрами, возраст, доход, образование, вера, страхи, в его таблицах скорее всего есть. Значит, где-то в том миллиарде уже ходит агент, собранный по этой строке. Он уже прожил кризисы, которые для вас пока не наступили, уже кому-то доверился в игре на доверие, уже поменял позицию под нажимом двухсот миллионов назначенных лидеров, и то, как он себя повёл, лежит в таблице результатов. Таблицу читают люди, которых вы никогда не увидите...
🔴 Больше Хроник Конца Времён — @Secretariatus
