Из-за нюансов обучения системы на базе языковых моделей склонны к галлюцинациям – феномену, когда они уверенно сообщают о чём-то, что является недостоверным, объяснил  «Вечернему Санкт-Петербургу» руководитель группы исследования технологий машинного обучения в «Лаборатории Касперского» Владислав Тушканов.

Архитектор информационной безопасности UserGate uFactor Дмитрий Овчинников объяснил, что «жертва ИИ», конечно, может подать в суд на разработчиков, но, скорее всего, подобное дело будет проиграно, так как при использовании ИИ пользователь подписывает соглашение, по которому все последствия принимает на себя.

Сами юристы пока с осторожностью встречают идею расширения спектра «машинных» задач. С одной стороны, ИИ не подвержен человеческим эмоциям и предвзятости. С другой – под зашифрованным кодом могут вскрываться серьёзные риски. ИИ работает на прошлых данных и может воспроизводить ошибки и предвзятости системы.

В 2023 году в США случился резонансный инцидент: адвокат представил в суд процессуальный документ, в котором содержались ссылки на несуществующие судебные акты, сформированные ChatGPT. Суд, установив недостоверность приведённых сведений, отказал в удовлетворении заявленных требований, а адвоката привлёк к штрафу.

Ранее «Петербургский дневник» сообщал, что более половины российских компаний уже начали внедрять технологии ИИ в свою деятельность.