Машина дубликатов

Стало модно предсказывать крах пузыря ИИ, поэтому хочу привести небольшой мысленный эксперимент.

Представьте, что мы изобрели машину, которая может создавать точные копии объектов, включая людей. Это дорого, одна копия стоит порядка 100 млн долларов США.

Тем не менее, давайте посмотрим на экономический эффект такого изобретения.

Долгосрочный экономический рост традиционно описывается функцией:

Y = F(L, K, A), где

L — труд (количество работающих),

K — капитал (средства производства),

A — технологический прогресс.

Копирование обычных предметов, включая средства производства, с помощью нашей машины совершенно нерентабельно (условимся, что она не может копировать объекты, размером больше человека) из-за высокой стоимости, но что, собственно, на счет людей?

Если копируется человек, мы фактически мгновенно увеличиваем L. Но мгновенное создание одного рабочего на заводе за 100 млн $ — это довольно бессмысленная забава, не правда ли?

Более того, при неизменном параметре А, увеличение L и K дают убывающую отдачу — стандартная модель Солоу — каждый новый рабочий на заводе менее полезен, т.к. рабочие места небесконечны, каждый новый станок, при неизменном количестве рабочих — тоже самое, в какой-то момент все будут ими обеспечены.

Именно поэтому догоняющее развитие всегда быстрое, т.к. достаточно просто достроить то чего у вас не хватает. А вот в точке насыщения начинается рост за счет технических инноваций, и он весьма медленный — эмпирически мы видим, что он не превышает 3-4% в год всю последнюю сотню лет.

Но, если в классических моделях экономического роста техпрогресс А — это просто параметр, который задается извне, то в более современных моделях, вроде той, за которую получил Нобелевскую премию Пол Ромер в 2018 году, A — это эндогенный параметр, в частности, результат инвестиций в знания и человеческий капитал.

Таким образом, L — это не просто число людей, т.к. труд неоднороден, а распределение когнитивных способностей.

Ключевой дефицит — редкие таланты с высокой предельной производительностью в производстве идей.

Это приводит нас к, в общем-то, очевидной мысли, что копировать имеет смысл только высокопродуктивных агентов (топовых учёных, предпринимателей, инженеров и т.д.), чтобы масштабировать не просто L, а L с высокой предельной производительностью.

Можно ли прикинуть насколько сильный технологический прирост может дать дупликация нескольких тысяч суперталантливых ученых и инженеров в год?

Я набросал несколько вычислений на салфетке, которую потом выкинул, так что вам придется поверить мне на слово:

В США в сфере R&D занято порядка 1,69 млн исследователей. Накидаем три режима работы машины:

1) Если наша машина будет делать 50–500 копий/год ⇒ 1,000–10,000 копий за 20 лет, то это составит порядка 0.06%–0.59% от всех исследователей в США.

2) 1,000–10,000 копий/год ⇒ 20,000–200,000 за 20 лет, это ≈ 1.2%–11.8% от пула исследователей.

3) 10,000–50,000 копий/год ⇒ 200,000–1,000,000 за 20 лет, ≈ 11.8%–59.0% от пула исследователей.

Режим 1 даже за 20 лет добавляет 1–10 тыс. “суперталантов”. Это много политически и культурно, но макроэкономически может дать лишь прибавку порядка +0.1…+0.5 п.п. к долгосрочному росту.

Режим 2 за 10–20 лет может создать десятки тысяч копий очень продуктивных людей. В этом режиме ускорение может стать заметным: +0.5…+2 п.п. к устойчивому росту.

Режим 3 фактически приближает нас к массовому масштабированию R&D и управленческого интеллекта. Здесь можно говорить о 5–8% устойчивого роста на горизонте десятилетий.

Для понимания масштаба: рост на 3% в год это удвоение экономики страны за ~ 23 года. При стабильном росте около 8% в год экономика страны будет удваиваться каждые 9 лет. Именно подобный рост экономической эффективности может окупить любые, кажущиеся сегодня нереалистично завышенными, вложения в разработку AGI.