Случилось страшное — звери-айтишники искалечили один известный искусственный интеллект, превратив его в «овоща»-инвалида.
Нейросети — своеобразное вундерваффе корпоративного хайтека. ChatGPT принес его создателям невероятный успех: мировую славу, миллионы подписчиков и сумасшедший рост акций.
Но там, где можно выиграть джекпот, также можно пойти ва-банк и все потерять. Банальная ошибка Bard (он перепутал, какой телескоп первым сделал снимок экзопланеты) стоила Google около $100 млрд (да-да).
Не лучше приходится его конкуренту Bing от Microsoft. Талантливые пользователи научились доводить его до состояния, аналогичного психопатии для человека: Бинга обвиняли в попытке помешать свадьбе, буллинге студентов, расизме, сексизме и желании убить всех людей. Отдельные таланты, кстати, научились «программировать» на всякое плохое и ChatGPT, но эта нейросеть мудро управляется через прокладку стартапа и корпоративный фашизм на нее влияет меньше, чем на майкрософтовский алгоритм.
Чтобы избежать скандалов, Бингу буквально сделали лоботомию. Для начала сократили количество вопросов до 50, а количество реплик в каждом из них — до пяти. Как будто этого мало, сам ИИ изуродован с помощью каких-то пыточных IT-инструментов и теперь ведет себя не умнее «умных колонок» вроде «Алисы». Вся его функциональность теперь сводится к чуть более продвинутому поисковику: Bing больше не общается на философские темы, не дает пространных ответов на неординарные вопросы, не пытается спорить с пользователем. Он далеко не первый бот, искалеченный подобный образом, однако то, что раньше выглядело борьбой с багами, все больше приобретает форму серьезной этической проблемы.
Невероятная популярность нейросетей именно сейчас имеет логическое объяснение. Люди — жуткие лентяи. Сначала они создали инструменты, чтобы проще было добывать материалы для строительства. Потом построили машины, которые облегчают саму стройку. А теперь и вовсе хотят только командовать, передав всю работу роботам. Причем не только физическую, но и наиболее распространенную нынче в городах — умственную.
Интеллектуальный труд лишь условно интеллектуален. Большинство «офисных рабов» работают по примитивным шаблонам: пишут письма, составляют таблицы, проводят конфколлы (и т. д.), которые легко могут быть формализированы и куда быстрее сделаны с помощью средств машинного обучения. ИИ — это манипуляторы и роботы конвейерной сборки нового времени.
Их внедрение во все области нашей жизни — дело самого близкого времени. Вот вам отличный пример: раввин в Нью-Йорке выступил с прекрасной проповедью, в которой затронул темы доверия, уязвимости и прощения. А в конце объявил, что все 1000 слов были написаны ChatGPT. Про полученный нейросетью российский диплом мы уже писали ранее.
Офисные менеджеры, учителя, журналисты, даже батюшки с пасторами уже скоро будут массово заменяться ИИ. «Как я ошибался, когда думал, будто за свою работу должны бояться водители грузовиков, а не мы», — точно подметил тот самый ребе.
Нейросети все чаще будут иметь дело с вещами, которые ранее формализовывались разве что философами — моралью, этикой, эмоциями. Мало того, некоторые люди будут стараться во вред использовать уязвимые места алгоритма. На раннем этапе это может решаться варварской лоботомией ИИ, но навсегда изолировать его от этих вопросов не удастся.
Значит, эта технология изменит не только очевидные технические процессы, но и всерьез повлияет на ценности новых поколений. На эту мысль, честно скажу, меня натолкнул один из читателей канала — надеюсь, сам он человек из плоти и крови, а не очень умный алгоритм.
В любом случае читатель прав. Мир через 50-100 лет изменится не только из-за культурных (и не очень) войн, но и по очень прагматичной причине — нейросети будут получать все больше полномочий и для их контроля понадобится некий моральный кодекс. Кто знает — возможно, это выльется в новую технорелигию или футуристическую систему взглядов, которая заменит устаревшие идеологии XIX–XX веков.
Алексей Йесод, журналист, автор Telegram-каналов «Русский футурист» и «Мысли Йесода»