ИИ поможет делать фактчекинг: ученые ВШЭ упростили процесс верификации информации
В Центре ИИ НИУ ВШЭ разработали ассистента по проверке фактов. Программа позволит повысить качество работы с информацией, уменьшить риски ошибок и предубеждений, а также экономить время и ресурсы. Важным преимуществом программы является ее способность работать с различными типами утверждений.
Сегодня для проверки утверждений часто используют нейронные сети, хотя изначально они и не предназначены для решения этой задачи и могут «галлюцинировать», то есть генерировать тексты, не соответствующие действительности. Нейронные сети обучаются на больших объемах данных, и, например, если эти данные содержат ошибки или неточности, то и результаты работы сети могут быть ошибочными. Ассистент, разработанный в НИУ ВШЭ, направлен на решение этой проблемы.
Программа состоит из нескольких основных компонентов, среди которых поиск подходящих текстовых фрагментов для утверждения пользователя, сравнение этих фрагментов с утверждением и, наконец, принятие окончательного решения о верности утверждения. Результатом работы программы является итоговое решение, вероятность этого решения и подтверждающие или опровергающие текстовые фрагменты.
Дмитрий Ильвовский, руководитель проекта «Искусственный интеллект в информационных процессах» Центра ИИ НИУ ВШЭ
«Важным преимуществом программы является ее способность работать с различными типами утверждений. Благодаря использованию машинного обучения и современных алгоритмов нам удалось добиться обработки и анализа информации с достаточно высокой точностью и надежностью. Однако пользоваться ассистентом надо с известной степенью осторожности, поскольку он пока не заменяет профессионального фактчекинга, а область его применения ограничена».
Настраиваемый алгоритм программы, разработанной в НИУ ВШЭ, состоит из нескольких достаточно надежных компонентов, которые можно развивать и улучшать. В частности, ученые обучили программу автоматически проверять факты на основе данных «Википедии» на русском, английском и болгарском языках. Технически программа работает для любых утверждений, сформулированных в виде текста длиннее пяти слов. Если факта нет в «Википедии», программа, скорее всего, скажет, что для проверки «не хватает информации». Это один из штатных ответов системы.
Разработчики НИУ ВШЭ адаптируют программу по запросу и обучают ее на данных необходимых источников. Виртуальный помощник обладает понятным пользовательским интерфейсом и может использоваться исследователями, фактчекерами или разработчиками фреймворка как встроенный инструмент верификации или как плагин в браузере.
Все подробности о программе можно узнать в Центре ИИ НИУ ВШЭ.
Вам также может быть интересно:
Фактчекинг: время постправды требует достоверной информации
В МИА «Россия сегодня» прошла пресс-конференция по итогам деятельности фактчекинговой платформы «Лапша медиа» и работы по противодействию распространению фейковой информации. Партнером этого проекта является Высшая школа экономики. Старший директор по коммуникациям НИУ ВШЭ Андрей Лавров принял участие в мероприятии и рассказал об университетской экспертизе в сфере противодействия распространению фейковой информации.
Высшая школа экономики и АНО «Диалог Регионы» запускают совместный проект по фактчекингу
Искажение фактов, измененные цитаты и вырванные из контекста слова стали постоянным явлением в информпространстве. НИУ ВШЭ запускает совместный с АНО «Диалог Регионы» проект в рамках фактчекинговой платформы «Лапша». Специалисты НИУ ВШЭ будут проводить проверку достоверности распространяемой в соцсетях информации, заниматься поиском интересных примеров заведомо ложных сообщений и информировать читателей о техниках фактчекинга.