Анатолий Несмиян. Человечество не готово к взаимодействию с ИИ

Илон Маск, группа экспертов по искусственному интеллекту и руководителей отрасли призывают к шестимесячной паузе в обучении систем более мощных, чем GPT-4. Об этом они заявили в открытом письме.

Проблема здесь, скорее, не в возможностях искусственного интеллекта, а в том, что человечество само не готово к взаимодействию с ним. Проще говоря, до тех пор, пока не будут выработаны механизмы, ограждающие человека от возможных рисков со стороны искусственного интеллекта, ускорять прогресс в этой области становится слишком опасным.

Однако очевидно, что прогресс замедлить можно, но только на короткой дистанции. И только в силу чрезвычайных обстоятельств. Кстати, в фантастической литературе такие обстоятельства описывались: во вселенной «Дюны» Фрэнка Герберта как раз развитие компьютеров и искусственного интеллекта было категорически запрещено в силу случившейся катастрофы под названием «Батлерианский Джихад» — войны, развязанной мыслящими машинами.

Более разумным было бы не останавливать прогресс, а управлять им, но для этого требуются механизмы глобального контроля, которых сегодня просто не существует.

Скорее всего, письмо Маска и остальных ничего не даст, так как оно существует в пространстве, в котором ему просто не на что опереться. Мысли и идеи, высказанные в нем, правильные, но механизма реализации, кроме прямого запрета, нет. А значит — его быстро либо опрокинут, либо обойдут. Даже если запрет будет введен, что тоже весьма сомнительно.

При этом шесть месяцев, о которых говорится в письме, — это вообще ни о чем. За это время вряд ли можно даже осмыслить саму проблему, не говоря уже о ее решении.

Анатолий Несмиян, блогер, аналитик