Евгений Коган. В плохих руках искусственный интеллект действительно может быть опасен

Ходят слухи, что создатель ChatGPT Сэм Альтман не на шутку обеспокоен возможным восстанием машин и всегда возит с собой детонатор, чтобы уничтожить сервера OpenAI. Кто смотрел небезызвестный «Терминатор», тот понимает, о чем идет речь.

На самом деле главными угрозами ИИ Сэм Альтман считает возможную дезинформацию и рост безработицы.

Дезинформация — это следствие одной из наиболее серьезных проблем: галлюцинаций ИИ. Например, ChatGPT может дать убедительный, но полностью выдуманный ответ, что связано с техническими особенностями работы языковых моделей. Такие казусы происходят с ИИ регулярно. Совсем недавно в сети писали про забавный случай, когда боты от Microsoft и Google ссылались друг на друга, выдавая при этом ложную информацию.

Безработица может стать следствием развития технического прогресса и автоматизации умственного труда, об этом предупреждают аналитики. С рутинными задачами, связанными с обработкой большого объема данных, ИИ будет справляться эффективнее человека. Да и в творческих профессиях тоже не все гладко. Например, на Amazon появилась отдельная категория для книг, написанных ИИ, так как за последние месяцы подобное творчество заполонило виртуальные витрины. Хотя вряд ли творческим профессиям грозит вымирание. Обязательно найдутся люди, которые независимо от уровня развития технологий предпочтут машинному контенту творчество человека. Неспроста в эпоху стриминговых сервисов по-прежнему остаются ценители живого исполнения, виниловых пластинок и т. п.

От себя хочется добавить к этому списку киберугрозы. Сегодня в свободном доступе есть технологии, позволяющие полностью скопировать голос человека по короткому аудиосообщению. А также технологии замены лиц на видео и прочие инструменты, которые помогут мошенникам совершить кражу личности. Следовательно, будут особенно востребованы решения в сфере кибербезопасности, связанные с ИИ. Особенно системы распознавания дипфейков.

У Intel уже есть такое решение, и думаю, в дальнейшем спрос на подобные технологии будет расти, особенно в банковской сфере или органах безопасности.

На данном этапе развития ИИ не представляет угрозы для человечества, но в руках злоумышленников действительно может быть опасен. Неудивительно, что Илон Маск и другие эксперты призывают к регулированию сферы ИИ, разработке правил и стандартов безопасности. К сожалению, пока что эти призывы не услышаны, а IT-гиганты даже сокращают специалистов по этике ИИ.

Евгений Коган, экономист, автор Telegram-канала bitkogan