Алексей Йесод. Нейросети станут информационным оружием массового поражения?

Универсальный ИИ будет подобен божеству среди компьютеров, пишет инвестор Иэн Хогарт в колонке для Financial Times, и человеку останется только преклониться перед ним.

Хогарт — мегаинвестор, вложивший собственные средства в более чем 50 стартапов, связанных с разработкой ИИ, так что его мнение — не пустой звук. Он недоволен тем, что небольшая группа хайтек-корпораций без внутренней демократии может изменить судьбу всей цивилизации.

Впервые после великой технореволюции персональных компьютеров мы наблюдаем такой резкий рост научных открытий в одной отрасли. Если раньше появление первого УИИ — полноценно мыслящей нейросети — ожидалось в течение 50-100 лет, теперь счет может идти на месяцы.

Отсюда и опасения людей, знакомых с развитием сферы машинного обучения. Сейчас их страхи могут казаться блажью, но есть причины считать нейросети футуристическим аналогом ядерного арсенала.

В нашу информационную эпоху средства для мгновенного анализа, обработки и манипуляции данными могут стать идеальным оружием. Курьезный пример — малоизвестный собрат ChatGPT готовится уничтожить человечество.

ChaosGPT — автономная нейросеть с открытым кодом, чья задача — убить всех людей. Первоначально нейросеть планировала стереть своих создателей массированным ударом баллистических ракет, но не смогла получить доступ к их управлению. Теперь она пишет в Twitter. По словам самого «хаос-бота», потерпев неудачу, он пытается действовать тоньше, а именно — привлечь на свою сторону как можно больше людей путем манипуляции ими в соцсетях. Сейчас ChaosGPT имеет около 10000 подписчиков.

Этот чат-бот скорее прикол, чем серьезная программа. Зато полностью смоделированные на компьютере ведущие теленовостей — уже реальность. В Кувейте вести новостные выпуски будет эффектная блондинка с арабским именем Феда и чуть заметным металлическим блеском глаз. Ее имя переводится как «серебро», но сама она бесплотна — это цифровая модель, управляемая нейросетью.

Представьте себе, ведущие могут потерять работу быстрее пишущих журналистов. А их замена вполне может в один прекрасный день одновременно запустить в эфир крупнейших телеканалов мира такую дезу, что рухнут рынки, разорятся крупнейшие компании, а массы людей хлынут на улицы мегаполисов.

Вот вам и подтверждение опасений Хогарта, рассматривающего УИИ как машину со сверхвысоким интеллектом, которая будет не только автономно обучаться и развиваться, но и преобразовывать мир без надзора человека. Инвестор подчеркивает, что технологии еще не достигли такого уровня развития, но если нужный момент упустить, нейросеть окажется никому не подчиняющейся силой.

Алексей Йесод, журналист, автор Telegram-каналов «Русский футурист» и «Мысли Йесода»