Человечество провалило тест интернета. Как теперь не провалить тест ИИ — большой вопрос.
За величайшие изобретения, менявшие эволюционную траекторию развития вида, люди уже дважды платили колоссальную цену.
Платой за первое такое изобретение — письменность — стала постепенная деградация памяти людей, все более утрачиваемой по мере совершенствования их «внешней памяти».
Платой за второе величайшее изобретение — интернет, перегрузивший нас информацией больше, чем мы можем обрабатывать, — стали нарастающая деградация когнитивной глубины мышления людей, нарастание стресса, снижение концентрации внимания и поляризация политического дискурса.
Одержимость количественными показателями объема, скорости и эффективности сформировала у цивилизации ошибочную модель познания.
Отдавая приоритет инструментам, процессам и практикам, позволяющим нам достигать больших результатов, быстрее и эффективнее (с точки зрения производительности и материальных затрат), мы обрели третье величайшее изобретение — искусственный интеллект (ИИ).
И если развитие ИИ-помощников пойдет по тому пути, что формируют сейчас киты бигтеха, модели познания людей будет нанесен катастрофический и, возможно, невосполнимый урон.
Передавая все больше функций познания ИИ, люди не только еще более утратят и так уже далеко не лучшую память. Вдобавок они будут неотвратимо терять функциональность своих важнейших когнитивных гаджетов (типа критического мышления), все более полагаясь на когнитивные гаджеты больших языковых моделей.
Перекладывание своей интеллектуальной работы на ИИ будет иметь для интеллектуальных способностей людей такие же последствия, что и отказ от физической работы, передаваемой механизмам, ведущий к деградации физических способностей.
Вот почему важнейшим вызовом для человечества сегодня является решение задачи снижения цены, которую нам предстоит заплатить за фантастические блага, сулимые цивилизации от внедрения ИИ.
Можно ли было снизить цену, заплаченную людьми за массовое распространение письменности, — неизвестно. Ибо было давно, и никто точно не знает, как. Но вот с массовым распространением интернета все было буквально на наших глазах. И мы определенно знаем, что многое можно было сделать иначе, минимизируя цену утрат и деградаций.
О том, как, провалив тест интернета, человечеству не провалить тест ИИ, читайте новое эссе Эзры Кляйна — это мастрид.
Telegram-канал «Малоизвестное интересное»