Риски развития искусственного интеллекта все же существуют. Группа специалистов в области искусственного интеллекта (ИИ), в том числе бывшие и действующие сотрудники ведущих компаний, таких как OpenAI, Google DeepMind и Anthropic, подписали открытое письмо, в котором выражают глубокую обеспокоенность рисками, которые несет развитие ИИ.

В письме сказано: «Мы понимаем серьезные риски, связанные с этими технологиями. Они варьируются от дальнейшего углубления существующего неравенства, манипуляций и дезинформации, до потери контроля над автономными системами ИИ, что потенциально может привести к исчезновению человечества».

Авторы письма считают, что развитие ИИ должно проходить под строгим контролем научного сообщества, политиков и общественности. Однако, коммерческие интересы компаний, занимающихся разработкой ИИ, часто становятся препятствием для такого контроля.

«Мы опасаемся, что компании не готовы к последствиям появления общего/сильного искусственного интеллекта», – сказал  Дэниел Кокотайло, бывший сотрудник OpenAI, который ушел из компании в начале этого года. По его мнению, вероятность появления «общего искусственного интеллекта» к 2027 году составляет 50 процентов.

«Компании, занимающиеся искусственным интеллектом, имеют мощные стимулы избегать контроля, так как это замедляет разработку новых продуктов, что в условиях быстрого развития ИИ-технологий дает конкурентам заметное преимущество», – отмечают подписанты письма.

Пример Евросоюза, где несмотря на строгие регуляции появился только один заметный игрок на рынке ИИ – французская компания Mistral AI с капитализацией всего 2 млрд. долларов, в то время как лидер рынка, американская OpenAI, достигла уже 80 млрд. долларов, подтверждает такие опасения.

Авторы письма призывают к более ответственному подходу к развитию ИИ и к необходимости введения строгих норм и правил для регулирования этой сферы.