ИИ готов войти в каждый дом: пора начинать бояться «бунта машин?»

Британский словарь Collins выбрал главным словом 2023 года «искусственный интеллект» (ИИ). Объясняется это тем, что ИИ стал «следующей великой технологической революцией» и о нем сейчас много говорят. Особенное внимание привлекают к себе продвинутые чат-боты, как ChatGPT и ему подобные. «Революционная языковая модель на основе ИИ ворвалась в общественное сознание в конце 2022 года, поразив нас своей способностью имитировать естественную человеческую речь», — говорится в сообщении на сайте Collins.

В свою очередь, международная маркетингово-исследовательская компания Ipsos опубликовала исследование, в котором систематизируются культурные нарративы, связанные с ИИ, которые проникают в сознание потребителей посредством ТВ и СМИ. В их числе названы такие: «превосходство над человеком» и «человек становится изгоем».

Запад принял «декларацию Блетчли»

Так или иначе, человечество ощущает растущее беспокойство по поводу того, что машинное сознание становится все более развитым и изощренным. В эти дни в Великобритании политики из 28 стран собрались на первый саммит по безопасному использованию ИИ. В так называемой «декларации Блетчли», принятой в среду на этом саммите, говорится о необходимости регулирования искусственного интеллекта и международной координации в разработке стратегий по его развитию.

«Нет ничего более поворотного в будущем наших детей и внуков, чем технологические достижения, такие как искусственный интеллект. Мы обязаны обеспечить безопасное и ответственное развитие ИИ, осознавая риски, которые он представляет, на достаточно ранних стадиях процесса», — заявил британский премьер Риши Сунак, принявший участие в саммите.

Примечательно, что само название декларации саммита содержит отсылку к одной из самых мрачных страниц человеческой истории. В усадьбе Блетчли-парк, на территории которой было решено провести саммит по ИИ, во время Второй мировой войны находился секретный британский криптографический центр, теперь широко известный тем, что там работала команда знаменитого математика Алана Тьюринга, взломавшая код нацистской шифровальной машины Enigma.

Белый дом берет ИИ под свой контроль

Президент США Джо Байден явно не случайно именно на этой неделе издал указ, предписывающий разработчикам мощных систем искусственного интеллекта, которые потенциально могут представлять риск для национальной и экономической стабильности Соединенных Штатов, проводить тесты по безопасности ИИ, а затем предоставлять американским властям полученные результаты и «другую критически важную информацию».

Администрация Байдена особо подчеркнула необходимость противодействовать попыткам врагов Америки использовать ИИ в военных целях. Кроме того, в США будет специально маркироваться контент, созданный ИИ — это делается, чтобы защитить граждан от возможного введения в заблуждение и мошенничества.

Маск снова бьет тревогу, а Скарлетт Йоханссон подает на ИИ в суд

В западной массовой культуре уже довольно давно одной из популярных тем стала угроза «восстания машин». В последние годы она активно подогревается многими знаменитостями, которые громогласно предупреждают о потенциальной угрозе ИИ для человечества. В этот четверг тема снова оказалась на виду в несколько другом ракурсе — актриса Скарлетт Йоханссон подала в суд на приложение на основе искусственного интеллекта (ИИ), которое без разрешения использовало ее образ и голос в рекламных целях.

Инноватор-миллиардер Илон Маск, отправившийся на форум в Блетчли-парк, тоже начал там рисовать мрачные картины будущего. «В первый раз мы сталкиваемся с ситуацией, когда существует нечто, что сможет стать умнее самого умного из нас», — заявил он, назвав искусственный интеллект потенциально наиболее опасным «экзистенциальным риском» для человечества. «Вероятность того, что ИИ окажется полезным, составляет 80%, но остается еще 20% на то, что он будут нести угрозу людям. Так что разумным будет надеяться на лучшее, а готовиться к худшему», — полагает Маск.

Китай прокладывает свой путь

Примечательно, что в ходе подготовки саммита в Блетчли-парке разгорелся спор, должен ли в нем участвовать Китай. В итоге приглашение было все же направлено, что в Пекине расценили как «демонстрацию незаменимой роли КНР в глобальном сотрудничестве в области ИИ».

Действительно, сфера искусственного интеллекта в Китае быстро развивается, несмотря на усиливающуюся технологическую блокаду со стороны США, не всегда, впрочем, эффективную. Китайские IT-гиганты во главе с Baidu не только строят собственные системы, подобные ChatGPT, но и создают инфраструктуру, необходимую для развития ИИ в будущем. Вместе с тем китайские эксперты сомневаются, что саммит в Блетчли-парке даст существенные результаты, поскольку в составе его участников «ясно виден перекос в сторону крупных западных держав, которые соперничают между собой в сфере ИИ».

Китайское официальное англоязычное издание Global Times (GT) опубликовало редакционную статью с таким заголовком: «Не интерпретируйте участие Китая в глобальном саммите по безопасности искусственного интеллекта слишком узко». В ней отмечается, что приезд представителей КНР в Блетчли-парк «вызвал множество дискуссий» и был воспринят как признак потепления в китайско-британских отношениях. В западных СМИ даже появились рассуждения о крупном прорыве в международных отношениях, если Лондону удастся примирить Вашингтон и Пекин. Однако GT подчеркивает, что «такие интерпретации, честно говоря, несколько узки и ограничены». Китай направил делегацию на саммит, чтобы «продемонстрировать свою открытость и ответственный подход к благополучию всего человечества». Но это не означает изменения его позиции о недопустимости политизации темы ИИ.

При этом Пекин предлагает собственную стратегию, названную «Глобальная инициатива управления ИИ». Она направлена на противодействие «идеологическому размежеванию или формированию эксклюзивных групп», которые будут препятствовать другим странам в разработке продвинутых систем искусственного интеллекта.

Взгляд из Москвы

В России, которую Великобритания, следуя общей западной санкционной политике, на саммит по ИИ не пригласила, придерживаются в целом схожих взглядов. Установление строгих международных правил развития искусственного интеллекта, как и создание международного агентства по регулированию ИИ, аналогичного МАГАТЭ в сфере ядерных технологий, маловероятно из-за высокого уровня соперничества стран в этой области, полагает ведущий эксперт Центра компетенций Национальной технологической инициативы «Искусственный интеллект» на базе МФТИ Александр Родин.

«Стоит ожидать очень жесткую бескомпромиссную конкуренцию. Многие китайские, американские, российские, да и любые другие игроки будут свой продукт „продавливать“, используя весь тот инструментарий, который находится у них в руках: и международные санкции, и торговые войны, и параллельный импорт. Потому что все понимают, что искусственный интеллект — это технология, которая сулит очень большие выгоды», — приводит его слова ТАСС.

Зато у нас готовы доверить ИИ проверку домашки

Можно сказать, что в нашей стране в целом пока сложилось не самое настороженное отношение к ИИ. Вот новости с ленты ТАСС только за эту неделю: «В трех регионах России начал работу чат-бот судебных приставов „Полина“», «В Новосибирской области запустили пилотный проект по мониторингу дорог с помощью ИИ», «Российские ученые научили нейросети распознавать туберкулез и опухоли мозга».

Более того, правительство РФ планирует до 2030 года провести работу по привлечению систем искусственного интеллекта не только для планирования образовательных программ, но и к проверке домашних заданий у школьников.

Михаил Макаров