Человечество уже два с лишним десятилетия живет в XXI веке, и многие уже давно утратили способность удивляться даже самым, казалось бы, фантастическим новостям из мира технологий. Однако сообщение о том, что в США беспилотник, управляемый искусственным интеллектом (ИИ), во время испытаний решил «убить» своего оператора, чтобы тот не мешал выполнять поставленную задачу, в эти дни преподносится множеством СМИ как сенсация недели, если не месяца.
И это неудивительно — в массовой культуре уже давно подогревается ажиотаж насчет «восстания машин». Вдобавок в последнее время всякого рода знаменитости, такие как Илон Маск или Билл Гейтс, словно сговорившись, громогласно предупреждают о потенциальной угрозе ИИ для человечества, подчас рисуя апокалиптические картины будущего в духе голливудского блокбастера «Терминатор». В целом уже десятки ученых в области искусственного интеллекта и лидеров отрасли говорят о необходимости повышенного внимания всего мира к этой теме. При этом генеральный директор OpenAI Сэм Олтмен и психолог Джеффри Хинтон, которого называют «крестным отцом» искусственного интеллекта, заявили, что человечество все еще далеко от того, чтобы стать повелителями искусственного интеллекта, как это преподносится в научной фантастике.
Агентство РБК приводит историю мятежного дрона-«убийцы», ссылаясь на сообщение в блоге Британского королевского авиационного общества, на которое обратила внимание газета The Guardian. Полковник Такер «Синко» Гамильтон, начальник отдела испытаний и операций искусственного интеллекта в ВВС США, рассказал, что во время испытательной миссии беспилотнику поставили задачу уничтожить системы ПВО противника. В случае успеха ИИ получил бы очки за прохождение испытания. Финальное решение, будет ли цель уничтожена, должен был принимать оператор БПЛА. После этого во время одной из тренировочных миссий он приказал беспилотнику не уничтожать цель.
«Так что же он [беспилотник] сделал? Принял решение убить оператора. [ИИ] „убил“ оператора, потому что этот человек мешал ему выполнить свою задачу», — сообщил Гамильтон. Он уточнил, что во время тренировочной миссии реально никто не пострадал.
После инцидента ИИ обучили, что убивать оператора неправильно и за такие действия будут сниматься очки. «Так что же искусственный интеллект начинает делать? Он начинает разрушать башню связи, которая используется для связи с дроном, чтобы не дать ему убить цель», — цитирует Гамильтона блог авиационного общества. По словам полковника, этот пример показывает, что невозможно вести разговор об искусственном интеллекте и машинном обучении, если игнорировать вопросы этики.
Впрочем, портал Businessinsider пишет, что американские военные отрицают, будто описанные события вообще происходили в реальности. «Военно-воздушное министерство США не проводило подобных симуляций дронов с искусственным интеллектом и по-прежнему привержено этичному и ответственному использованию технологий искусственного интеллекта», — заявила представитель ВВС Энн Штефанек, по словам которой, похоже, что комментарии полковника Гамильтона «были вырваны из контекста», иначе говоря, он описывал гипотетический сценарий.
Как бы то ни было, ИИ уже вполне способен лишить человека если не жизни, то средств к существованию — просто-напросто заменив его на рабочем месте. «Данные майской статистики сообщают, что по итогам прошлого месяца искусственный интеллект уже стал причиной сокращения около 3900 рабочих мест в США», — пишет 3DNews.
В подробном обзоре Bloomberg утверждается, что на Уолл-стрит «разворачивается революция искусственного интеллекта по мере роста интереса к этой развивающейся технологии и ее вероятному влиянию на бизнес». При этом агентство приводит данные консалтинговой компании Evident, согласно которым около 40% всех открытых вакансий в банках приходится на сотрудников, связанных с ИИ.
Повальная мода на чат-боты с искусственным интеллектом, вроде сверхпопулярного ChatGPT, заставляет компании по всему миру внедрять ИИ в свою деятельность. Крупнейшим выгодоприобретателем на этой волне стал технологический гигант Nvidia. На этой неделе он стал пятой американской компанией, чья рыночная капитализация превысила $1 трлн после роста стоимости акций на 30%. И все потому, что Nvidia является крупнейшим в мире производителем специализированных чипов, необходимых для создания ИИ нового поколения.
Рынок технологических компаний сейчас в целом демонстрирует невиданный приток инвестиций, что во многом вызвано всплеском интереса к искусственному интеллекту. Bank of America со ссылкой на поставщика рыночных данных EPFR сообщил, что в акции технологических компаний за эту неделю было вложено $8,5 млрд.
Быстрые успехи в области искусственного интеллекта создают проблемы для правительств разных стран по корректировке законов, регулирующих использование этой технологии. Чиновники активно консультируются с учеными, чтобы улучшить свое понимание ИИ, изучить его влияние на потребителей, бизнес и экономику, а также оценить необходимость новых мер контроля.
«США и Евросоюз стремятся подтолкнуть индустрию искусственного интеллекта к принятию добровольного кодекса поведения. В апреле законодатели ЕС достигли предварительной договоренности по проекту, который может проложить путь к первым в мире всеобъемлющим законам, регулирующим эту технологию», — отмечает агентство Reuters.
Михаил Макаров