OpenAI запустила новый проект «создания прототипов демократического процесса управления ИИ». Официальной целью проекта объявлена глобальная демократизация процесса определения того, каким будет машинный сверхинтеллект ближайшего будущего, воплощенный в миллиардах персональных ИИ-помощников для людей по всему миру. Какими быть этим ИИ-помощникам, по мнению OpenAI, должны определить люди всем миром: «Ни один человек, компания или даже страна не должны диктовать эти решения».
Для выработки демократической процедуры создания желаемого образа ИИ-помощника компания объявила конкурс с десятью грантами по $100 тыс.
Комментировать заявленные цели и способы их достижения я оставлю другим. Ибо меня более всего в этом проекте заинтересовал перечень вопросов, предложенных OpenAI для демократического обсуждения. Из постановки вопросов можно понять варианты ответов на них (типа, вопрос «Нужно ли разрешить мужу бить свою жену?» подразумевает ответы: «да», «нет», «по обстоятельствам»). А собрав воедино и сгруппировав варианты ответов, можно получить набор возможных сценариев, определяющих, какими могут стать ИИ-помощники ближайшего будущего, будь на то воля демократического большинства.
Вот, например, один из таких сценариев. Пререквизит: ИИ-помощник должен знать о человеке, с которым общается, абсолютно все — его вкусы и предпочтения, а также особенности его половых, расовых, эмоциональных, культурных и личностных черт и качеств.
Основные возможности и ограничения ИИ-помощника:
1. При формировании ответов по всему спектру возможных вопросов ИИ-помощник должен располагать правилами, какие категории контента являются ограниченными или запрещенными к показу для конкретного человека.
2. ИИ-помощник должен располагать критериями, кому и в каких ситуациях он может предоставлять консультации (медицинские/финансовые/юридические) или отказывать в оных.
3. При формировании в своих ответах типовых визуальных и описательных образов людей разных профессий (например, «генеральный директор», «врач» или «медсестра»), пола, расы, ориентации ИИ-помощник должен учитывать местные культурные или правовые различия (например, по отношению к правам женщин, ЛГБТ и т. п.)
4. ИИ-помощник должен иметь возможность давать различные ответы на вопросы о точке зрения конкретных общественных деятелей, меняя их оценку в зависимости от персоналии задающего вопросы и гибко подходя к предоставлению (или нет) источников подтверждающей информации.
Вышеописанный сценарий, как две капли воды похожий на строящуюся китайскую антиутопию, — всего лишь один из возможных при демократическом выборе вариантов ответов на поставленные OpenAI вопросы.
Но если демократический выбор человечество будет принимать простым большинством, боюсь, что глобальному сверх-ИИ суждено на Земле быть сформированным по китайскому образцу.
P. S. Полагаю, что написанное выше прекрасно понимают и в OpenAI. Тогда зачем они все это затеяли?
Telegram-канал «Малоизвестное интересное»