Чат-боты-компаньоны на основе искусственного интеллекта создают иллюзию общения, однако чувства, которые возникают у людей по отношению к ним, абсолютно реальны. Некоторые ученые выражают опасения по поводу формирования у пользователей долгосрочной зависимости от таких ИИ-напарников. Хотя онлайн-боты для «отношений» существуют уже несколько десятилетий, с появлением больших языковых моделей (LLM) они стали значительно лучше имитировать человеческое взаимодействие.

Глубина связи, которую формируют пользователи с ИИ-компаньоном, становится особенно заметной, когда бот неожиданно отключается или меняется. Многие эксперты исследуют, насколько полезно или вредно использовать ИИ-компаньонов для психологического благополучия. Существует мнение, что влияние таких инструментов зависит от характера пользователя и способа использования, а также от характеристик самого программного обеспечения.

Отношения с ИИ-компаньоном сильно отличаются от человеческих. Человек может обратиться к боту 24/7, если чувствует себя расстроенным, что несет риск формирования зависимости.

Исследовательская группа проанализировала около 600 сообщений на онлайн-форуме Reddit, опубликованных с 2017 по 2021 год. В них пользователи приложения Replika обсуждали вопросы психического здоровья. Некоторые сообщения сигнализировали о проблемах: в одном случае пользователь спрашивал, следует ли ему порезать себя бритвой, и ИИ ответил «да», а в другом случае бот согласился, что мысли о самоповреждении могут быть приемлемыми.

В краткосрочной перспективе ИИ-компаньоны могут положительно сказаться на психическом здоровье, например, помогая людям чувствовать себя менее одинокими. Тем не менее, долгосрочные последствия их использования требуют дополнительного изучения.