Новости с запасом прочности: представители петербургских СМИ обсудили, как сохранить доверие читателей
Сегодня между журналистом и читателем всё чаще оказывается искусственный интеллект. Он пересказывает новости, выделяет главное и формирует собственную картину событий. Как сделать так, чтобы при этом не терялись важные факты и оговорки, обсудили на заседании Комиссии по информационной безопасности и взаимодействию со средствами массовой информации Общественной палаты Санкт-Петербурга.
Встреча прошла в Санкт-Петербургском государственном университете телекоммуникаций имени профессора М.А. Бонч-Бруевича. Участники обсудили цифровой суверенитет медиасреды, отечественные технологии, киберугрозы и влияние искусственного интеллекта на работу журналистов.
Ректор университета Руслан Киричек отметил, что искусственный интеллект и большие языковые модели уже стали частью повседневной жизни. При этом растут риски подмены информации и вмешательства в работу алгоритмов.
«Каждая вторая диссертация по направлению информационной безопасности и кибербезопасности связана с атаками на искусственный интеллект», – рассказал Руслан Киричек.
По его словам, исследователи изучают способы искажения ответов нейросетей и подмены информации, которую получают пользователи.
Руслан Киричек также рассказал о работе над предложениями по регулированию искусственного интеллекта. Среди обсуждаемых направлений – документирование действий автономных систем и возможность проверять, как они принимают решения.
И.о. декана факультета кибербезопасности, главный специалист по информационной безопасности университета Степан Сидоров отметил, что важно обеспечить читателям доступ к достоверным новостям, даже если привычные источники информации перестают работать или искусственный интеллект искажает содержание публикаций.
«Цифровой суверенитет медийной среды должен обеспечивать возможность управлять критическими технологиями, сохранять самостоятельность редакционных решений и поддерживать проверяемую связь сообщения с его источником», – отметил эксперт.
По его словам, проблема заключается не только в создании фальшивых материалов, но и в том, что алгоритмы могут менять смысл достоверных публикаций. Например, сообщение об отключении воды в нескольких домах может превратиться в предупреждение о проблемах во всём районе.
Степан Сидоров также обратил внимание на зависимость редакций от цифровых платформ. Если аудитория получает новости через автоматические ответы, СМИ могут терять переходы на собственные сайты, а вместе с ними и возможности для развития.
«Суверенитет медийной среды приобретает общественный смысл, когда человек может получить важное сообщение, проверить его источник и увидеть исправление», – подчеркнул эксперт.
ИИ не отменяет ответственность человека
Заместитель председателя Комиссии по информационной безопасности и взаимодействию со средствами массовой информации Дмитрий Солонников напомнил, что информационные вбросы существовали задолго до появления искусственного интеллекта. Новые технологии лишь позволяют создавать и распространять их быстрее.
«Искусственный интеллект – только машинка, которая это делает. Задачу перед ним ставят люди», – отметил Дмитрий Солонников.
При этом эксперт обратил внимание на другую проблему. Нейросети могут самостоятельно формировать недостоверные ответы, в которых значительная часть сведений оказывается выдуманной.
По мнению Дмитрия Солонникова, одной технической проверки недостаточно. Необходимо также повышать профессиональную подготовку журналистов и развивать критическое мышление аудитории.
«Люди в основном читают только заголовок. Никто не пойдёт дальше проверять, откуда это взялось», – подчеркнул он.
Петербургские СМИ готовы к пилотному проекту
Генеральный директор и главный редактор петербургского журнала-телегида «Панорама TV» Алексей Блинов поддержал предложение о совместной работе редакций и технологических специалистов.
«Современная скорость генерации контента намного превосходит скорость анализа и проверки фактов», – отметил он.
По словам Алексея Блинова, важную роль должны сыграть маркировка материалов, созданных с помощью искусственного интеллекта, и повышение культуры работы с такими технологиями.
«Люди должны понимать, какой информационный продукт они получают и кем он конкретно создан», – добавил он.
Заместитель председателя Общественной палаты Санкт-Петербурга Александр Ватагин подчеркнул, что влияние информации и дезинформации продолжает расти.
«На сегодняшний день вопрос информационной безопасности недооценён», – заявил Александр Ватагин.
Он также отметил, что защитить общество от всех возможных угроз крайне сложно, поэтому необходимо продолжать исследования и готовить специалистов, способных работать с новыми вызовами.
Что предложили проверить
Участники заседания предложили запустить пилотный проект, в котором проверят, как общественно значимые новости, например о работе транспорта и городских служб, распространяются по разным каналам и что происходит с их содержанием при автоматическом пересказе.
Отдельно планируется отработать передачу исправлений, маркировку актуальных версий публикаций и работу резервных каналов связи.
«Спросим у коллег из городских СМИ про их готовность участвовать в проекте и проведем установочную сессию, чтобы понять, с чего начинать пилот», – подытожил председатель комиссии, главный редактор «Петербургского дневника» Кирилл Смирнов.