Telegram-канал «Малоизвестное интересное». ИИ ведет мир к новой перманентной холодной войне

О первом из двух великих пророчеств Оруэлла знают немногие. Для большинства он — автор знаменитого романа-антиутопии «1984». В нем он пророчески описал появление Министерства правды, переписывающего историю, Полиции мысли и Большого Брата, под колпаком которых живет общество, а также появление ставших суперпопулярными мемов «мир есть война», «час ненависти», «мыслепреступление» и «новояз».

Но этот роман — второе великое пророчество Оруэлла. Первое же было опубликовано на несколько лет раньше (в 1945 году) в форме эссе «Ты и атомная бомба». Это поразительное по точности предсказание грядущего поворота истории мира из-за появления сверхоружия — атомной бомбы. Результатом этого, как пророчествовал Оруэлл, станет «долгий мир» без крупномасштабных войн. И ценой установления этого «мира, который не будет миром», станет перманентная холодная война между США и «русскими» (у которых «пока нет секрета изготовления атомной бомбы, но все указывает на то, что они получат ее в течение нескольких лет»).

Так оно все и произошло. Но еще более поразительное заключается в следующем.

В эссе «Ты и атомная бомба» Оруэлл лаконично и точно описал механизм зависимости хода мировой истории от прогресса технологий.

• Мировая история — это в значительной степени история оружия.

• Появление все более мощного оружия — результат развития технологий.

• Новое оружие может быть «простым» — относительно дешевым и доступным для производства любой страной (луки, ружья, автоматы, гранаты…) или «сложным» — дорогим и доступным для производства лишь «супердержавами» (как танки, линкоры и бомбардировщики — примеры 1945 года).

• «Сложное» оружие по своей природе «тираническое» (оно делает сильных сильнее). А «простое» по своей природе «демократическое» (оно, «пока на него не нашли управы, дает когти слабым»).

• Ядерное оружие — «суперсложное» и потому «супертираническое». «Атомная бомба может окончательно завершить процесс отъема у эксплуатируемых классов и народов способности к восстанию и в то же время заложить основу военного равенства между обладателями бомб».

• Обладатели же ядерного оружия, «раз невозможно победить друг друга, <…>, скорее всего, продолжат править миром порознь». И в результате этого «мир придет не ко всеобщему самоуничтожению, но к эпохе такой же ужасающей стабильности, какими были рабовладельческие эпохи древности» (с поправкой на рост благосостояния из-за прогресса).

Почему я сегодня об этом пишу? Да потому, что это сбывшееся в XX веке предсказание в точности повторится в XXI веке с появлением нового «сверхоружия» — «суперсложного» и «супертиранического». Это генеративный ИИ больших моделей.

О том, что большинство решений о будущем этих сверхмощных технологий будут принимать все более крошечные группы капиталоемких субъектов частного сектора двух стран, предупреждали в феврале авторы отчета Predictability and Surprise in Large Generative Models. Новый большой и серьезный (100+ стр) отчет AINOW «Ландшафт 2023: противостояние технической мощи» пишет о том же. «Только горстка компаний с невероятно огромными ресурсами может строить крупномасштабные модели ИИ». «Даже если бигтех в своих проектах будет делать свой код общедоступным, огромные вычислительные требования этих систем сохранят за этими проектами доминирование на коммерческих рынках».

Хорошо ли это? Не факт. Хотя — кто знает. Как писал Оруэлл, «если бы атомная бомба оказалась чем-то дешевым и легко производимым, как велосипед или будильник, возможно, мир снова погрузился бы в варварство, но, с другой стороны, это могло бы привести к концу национального суверенитета и основанию высокоцентрализованного полицейского государства». Это стопроцентно применимо и к ИИ.

Впереди:
— новая холодная война США и Китая;
— торжество Большого Брата там и там.

Telegram-канал «Малоизвестное интересное»