Telegram-канал «Малоизвестное интересное». Искусственный интеллект рискует пойти по пути китайской антиутопии

OpenAI запустила новый проект «создания прототипов демократического процесса управления ИИ». Официальной целью проекта объявлена глобальная демократизация процесса определения того, каким будет машинный сверхинтеллект ближайшего будущего, воплощенный в миллиардах персональных ИИ-помощников для людей по всему миру. Какими быть этим ИИ-помощникам, по мнению OpenAI, должны определить люди всем миром: «Ни один человек, компания или даже страна не должны диктовать эти решения».

Для выработки демократической процедуры создания желаемого образа ИИ-помощника компания объявила конкурс с десятью грантами по $100 тыс.

Комментировать заявленные цели и способы их достижения я оставлю другим. Ибо меня более всего в этом проекте заинтересовал перечень вопросов, предложенных OpenAI для демократического обсуждения. Из постановки вопросов можно понять варианты ответов на них (типа, вопрос «Нужно ли разрешить мужу бить свою жену?» подразумевает ответы: «да», «нет», «по обстоятельствам»). А собрав воедино и сгруппировав варианты ответов, можно получить набор возможных сценариев, определяющих, какими могут стать ИИ-помощники ближайшего будущего, будь на то воля демократического большинства.

Вот, например, один из таких сценариев. Пререквизит: ИИ-помощник должен знать о человеке, с которым общается, абсолютно все — его вкусы и предпочтения, а также особенности его половых, расовых, эмоциональных, культурных и личностных черт и качеств.

Основные возможности и ограничения ИИ-помощника:

1. При формировании ответов по всему спектру возможных вопросов ИИ-помощник должен располагать правилами, какие категории контента являются ограниченными или запрещенными к показу для конкретного человека.

2. ИИ-помощник должен располагать критериями, кому и в каких ситуациях он может предоставлять консультации (медицинские/финансовые/юридические) или отказывать в оных.

3. При формировании в своих ответах типовых визуальных и описательных образов людей разных профессий (например, «генеральный директор», «врач» или «медсестра»), пола, расы, ориентации ИИ-помощник должен учитывать местные культурные или правовые различия (например, по отношению к правам женщин, ЛГБТ и т. п.)

4. ИИ-помощник должен иметь возможность давать различные ответы на вопросы о точке зрения конкретных общественных деятелей, меняя их оценку в зависимости от персоналии задающего вопросы и гибко подходя к предоставлению (или нет) источников подтверждающей информации.

Вышеописанный сценарий, как две капли воды похожий на строящуюся китайскую антиутопию, — всего лишь один из возможных при демократическом выборе вариантов ответов на поставленные OpenAI вопросы.

Но если демократический выбор человечество будет принимать простым большинством, боюсь, что глобальному сверх-ИИ суждено на Земле быть сформированным по китайскому образцу.

P. S. Полагаю, что написанное выше прекрасно понимают и в OpenAI. Тогда зачем они все это затеяли?

Telegram-канал «Малоизвестное интересное»