Сергей Карелов: Утрата доверия способна погрузить мир в хаос

Новое канадское исследование Университета Ватерлоо «Видеть больше не значит верить: обзор состояния фальшивок, людей, сгенерированных искусственным интеллектом, и других неверифицируемых медиа» подвело черту в острой дискуссии, идущей уже полгода после публикации австрало-китайского исследования «Видеть — не всегда значит верить: Сравнительный анализ человеческого и модельного восприятия изображений, сгенерированных искусственным интеллектом».

Как и в первом исследовании, результаты абсолютно обескураживают. Люди не в состоянии:
— надежно отличать правдивое изображение людей (фото и видео) от фальшивок, изготовленных ИИ (люди совершают примерно 40% ошибок);
— конкурировать с ИИ при распознавании фальшивых изображений (ИИ распознает фальшивки примерно в 3 раза лучше людей).

На первый взгляд, это, конечно, плохо. Но вроде бы не катастрофа и даже не совсем новость. Как говорит один из авторов канадского исследования, «дезинформация не нова, но инструменты дезинформации постоянно меняются и развиваются».

Однако куда глубже, на мой взгляд, вывод Рэя Далио (американского миллиардера, инвестора и управляющего хедж-фондом Bridgewater Associates, считающегося одним из величайших новаторов в мире финансов).

Вот его заключение.

• Большие сообщества людей рушатся без скрепляющего их доверия, после чего неизбежно скатываются в крупные внутренние конфликты — обычно это какая-то форма гражданской войны (холодной, горячей или гибридной).
  
  
• Опросы показывают шокирующе низкие результаты доверия в обществе:
  — большинству политиков в правительстве не доверяют 89%;
  — в справедливость суждений политиков по отношению к другим политикам и просто к людям не верят 86%;
  — в то, что большинство представителей СМИ рисуют точные картины, не верят 83%;
  — справедливости правовой системы не доверяют 65%.

Это значит, что последним бастионом доверия для людей оставался вариант увидеть самому и разобраться, где правда, а где ложь. И вот теперь, с широким распространением ИИ, этот последний бастион падет, открывая новую мировую эпоху крупных внутренних конфликтов.

Сергей Карелов, IT-эксперт, автор Telegram-канала «Малоизвестное интересное»