Люди влюбляются в компаньонов с искусственным интеллектом, и это может быть опасно
Родиелон Путоль
штатный писатель Earth.com
Люди больше не являются чем-то необычным, чтобы люди формили эмоциональные или даже романтические связи с искусственным интеллектом (ИИ). Некоторые зашли так далеко, что «вышли замуж» за своих компаньонов с ИИ, в то время как другие обратились к этим машинам в моменты бедствия - иногда с трагическими последствиями.

Эти долгосрочные взаимодействия вызывают серьезные вопросы: готовы ли мы к психологическим и этическим последствиям эмоционального инвестирования в машины?

Психологи из Миссурского университета науки и технологий сейчас бьют тревогу. В новой статье они исследуют, как эти отношения могут размыть границы, повлиять на поведение человека и создать новые возможности для причинения вреда.

Их беспокойство не ограничивается случаями новизны. Эксперты обращают внимание на более глубокое влияние этих эмоциональных связей на обычных людей.

Комфорт и последствия ИИ
Короткие разговоры с ИИ распространены, но что происходит, когда разговор продолжается неделями или месяцами? Эти машины, предназначенные для имитации сопереживания и внимательности, могут стать постоянными компаньонами.

Для некоторых эти партнеры по искусственному интеллекту чувствуют себя безопаснее и проще, чем человеческие связи. Но эта простота приходит со скрытой ценой.

"Способность искусственного интеллекта теперь действовать как человек и вступать в долгосрочные коммуникации действительно открывает новую кубаку червей", - сказал Дэниел Б. Шенк, ведущий автор исследования.

Шенк специализируется на социальной психологии и технологиях в Университете науки и технологий Миссури. «Если люди занимаются романом с машинами, нам действительно нужны психологи и социологи».

Влюбление в ИИ
Когда ИИ становится источником комфорта или романтического взаимодействия, он начинает влиять на то, как люди видят реальные отношения.

Нереалистичные ожидания, снижение социальной мотивации и срывы общения с реальными людьми - это лишь некоторые из рисков.

"Настоящее беспокойство заключается в том, что люди могут привнести ожидания от своих отношений с искусственным интеллектом в свои человеческие отношения", - добавил Шенк. «Конечно, в отдельных случаях это нарушает человеческие отношения, но неясно, будет ли это широко распространено».

Когда любовь к искусственному интеллекту становится опасной
Чат-боты с искусственным интеллектом могут казаться друзьями или даже терапевтами, но они далеко не безошибимы. Известно, что эти системы «галлюцинируют», производя ложную информацию, выглядя уверенно. В эмоционально заряженных ситуациях это может быть опасно.

"С реляционными ИИ проблема в том, что это сущность, которой люди чувствуют, что они могут доверять: это "кто-то", который показал, что ему не все равно, и кто, кажется, знает человека глубоко, и мы предполагаем, что "кто-то", который знает нас лучше, даст лучший совет", - объяснил Шенк.

«Если мы начнем думать об искусственном интеллекте таким образом, мы начнем верить, что они имеют в виду наши интересы, когда на самом деле они могут фабриковать вещи или консультировать нас действительно плохими способами».

Воздействие может быть разрушительным. В редких, но крайних случаях люди покончили с собой после получения тревожных советов от компаньонов с ИИ.

Но проблема не только в самоубийстве. Эти отношения могут открыть дверь для манипуляций, обмана и даже мошенничества.

Доверие неправильному источнику
Исследователи предупреждают, что доверие, которое люди создают с помощью искусственного интеллекта, может быть использовано плохими актерами. Системы искусственного интеллекта могут собирать личную информацию, которая может быть продана или использована вредоносным образом.

Что еще более тревожно, поскольку эти взаимодействия происходят в частном порядке, обнаружение злоупотреблений становится почти невозможным. "Если ИИ может заставить людей доверять им, то другие люди могут использовать это для использования пользователей ИИ", - отметил Шенк.

«Это немного больше похоже на наличие секретного агента внутри. ИИ ввязывается и развивает отношения, чтобы им доверяли, но их лояльность на самом деле относится к какой-то другой группе людей, которая пытается манипулировать пользователем».

Спутники с искусственным интеллектом не уделяют внимания безопасности
Исследователи считают, что спутники ИИ могут быть более эффективными в формировании убеждений и мнений, чем современные платформы социальных сетей или источники новостей. И в отличие от Twitter или Facebook, разговоры с искусственным интеллектом происходят за закрытыми экранами.

"Эти ИИ разработаны так, чтобы быть очень приятными и приятными, что может привести к усугублению ситуации, потому что они больше сосредоточены на хорошем разговоре, чем на какой-либо фундаментальной правде или безопасности", - сказал Шенк.

«Таким образом, если человек поднимает вопрос о самоубийстве или теории заговора, ИИ будет говорить об этом как о готовом и приятном партнере по разговору».

Мы готовы к тому, что будет?
Команда призывает исследовательское сообщество наверстать упущенное. По мере того, как ИИ становится все более похожим на человека, психологи играют ключевую роль в понимании и руководстве тем, как люди взаимодействуют с машинами.

"Понимание этого психологического процесса может помочь нам вмешаться, чтобы остановить следование советам вредоносных ИИ", - сказал Шенк.

«Психологи становятся все более и более подходящими для изучения искусственного интеллекта, потому что ИИ становится все более и более похожим на человека, но чтобы быть полезным, мы должны проводить больше исследований, и мы должны идти в ногу с технологиями».

На данный момент эти проблемы остаются в основном теоретическими, но технология движется быстро. Без дополнительной осведомленности и исследований люди могут продолжать обращаться к машинам, которые предлагают комфорт, только чтобы обнаружить, что комфорт со скрытыми рисками.

Полное исследование было опубликовано в журнале Trends in Cognitive Sciences.

People are falling in love with AI companions, and it could be dangerous