Содержание
- Поймать вора. , ,
- Нет ошибок, нет стресса - ваше пошаговое руководство по созданию изменяющего жизнь программного обеспечения без разрушения вашей жизни
- Остановка распространения
Источник: Mast3r / Dreamstime.com
вынос:
Исследователи обращаются к ИИ для борьбы с поддельными новостями. Но может ли это действительно помочь или будет только хуже?
Ожидается, что фальшивые новости станут серьезной проблемой в ходе предстоящих президентских выборов, не говоря уже о том, что они в целом вызывают коррозию в нашей публичной речи в целом. В сегодняшнем связанном обществе становится все труднее отличать факты от вымысла, поэтому некоторые исследователи начинают концентрироваться на способности искусственного интеллекта решать эту проблему.
Конечно, есть надежда, что машины или, точнее, алгоритмы будут лучше, чем люди, обнаруживать ложь. Но является ли это реалистичным ожиданием или просто еще одним случаем броска технологии на кажущуюся неразрешимой проблему?
Поймать вора. , ,
Один из способов, которыми ученые данных планируют повысить остроту искусственного интеллекта в этой области, состоит в том, чтобы позволить ему генерировать поддельные новости. Институт искусственного интеллекта Аллена в Вашингтонском университете разработал и публично выпустил Grover, движок обработки естественного языка, предназначенный для создания ложных историй по широкому кругу вопросов. Хотя поначалу это может показаться контрпродуктивным, на самом деле это довольно распространенная тактика обучения искусственного интеллекта, при которой одна машина анализирует результаты другой. Таким образом, аналитическая сторона может быть запущена намного быстрее, чем полагаться на реальные фальшивые новости. Институт утверждает, что Гровер уже может работать с точностью 92%, но важно отметить, что он только способен отличить контент, созданный ИИ, от контента, созданного человеком, что означает, что умный человек все еще может подделать ложную историю мимо него. (Чтобы узнать больше, ознакомьтесь с Технологией Around Fighting Fake News.)
Конечно, в правильных руках Гровер может быстро продвинуть наше понимание того, как создаются поддельные новости и как они распространяются, и это теоретически может быть использовано для того, чтобы помешать их в реальном мире. Но, как недавно отметил Futurism.com, некоторые эксперты, которые взяли систему на пробный запуск, встревожены тем, насколько она эффективна для создания правдоподобной лжи и даже подражания стилям написания законных новостных агентств, таких как Wall Street Journal и New York. Времена.
Но поскольку ложь - это интуитивно понятный и управляемый эмоциями акт, возможно ли, чтобы даже самые умные машины, которые все еще движимы холодной, жесткой логикой, могли когда-либо достичь уровня общего понимания, необходимого для выявления лжи? Мария Алмейда из Unbabel недавно отметила, что, хотя некоторые итерации могут быть довольно хорошими в этом, ни один алгоритм не может надеяться достичь полного человеческого понимания. Это означает, что ИИ мог бы значительно улучшить проверку фактов и сравнительный анализ, но последний вызов лучше оставить квалифицированным специалистам.
По иронии судьбы, однако, эта возможность будет наиболее полезна при обнаружении фальшивых видео, которые начинают появляться в социальных сетях. С ИИ, способным анализировать визуальные данные вплоть до отдельных пикселей, он будет гораздо более искусным в обнаружении измененных изображений, чем измененных слов и понятий.
Тем не менее, утверждает Чарльз Тауэрс-Кларк из Forbes, главная проблема с фальшивыми новостями заключается не в том, что его создают несколько человек, а в том, что на него влияет так много людей. Люди склонны верить в то, во что они хотят верить, а не в то, что факты заставляют их верить. Таким образом, даже если высокоразвитый движок ИИ заявляет, что их убеждения неверны, люди будут более склонны сомневаться в машине, чем они сами.
«Внедрение машинного обучения для борьбы с распространением фальшивых новостей достойно восхищения, - говорит он, - и существует необходимость в решении этой проблемы, так как доверие к основным средствам массовой информации подвергается сомнению. Но с распространением дезинформации, усугубляемой социальными сетями, может ли обнаружение и раскрытие источников поддельных новостей побороть человеческий инстинкт верить тому, что нам говорят? »
Нет ошибок, нет стресса - ваше пошаговое руководство по созданию изменяющего жизнь программного обеспечения без разрушения вашей жизни
Вы не можете улучшить свои навыки программирования, когда никто не заботится о качестве программного обеспечения.
Таким образом, настоящая проблема заключается не в том, чтобы выявлять и опровергать поддельные новости, а в том, чтобы понять, почему они распространяются в социальных сетях намного быстрее, чем реальные новости. Отчасти это связано с природой самих поддельных новостей, которые, как правило, являются захватывающими и непристойными по сравнению со сравнительной скукой реальности. В конце концов, реалистично ли ожидать от технологии исправления того, что по сути является нетехнической проблемой? (Подробнее о том, как ИИ меняет медиа, см. 5 «Достижения ИИ в области публикаций и медиа».)
Остановка распространения
Вот почему важно сосредоточить внимание ИИ на техническом аспекте поддельных новостей, а не на человеческом аспекте, говорит Робин Харрис из ZDNet. И действительно, большинство исследователей обучают ИИ для того, чтобы понять, как различать естественные и искусственные паттерны распространения через социальные сети. Ключевые показатели, такие как скорость преобразования дерева, время ретвита и общие данные ответов, могут использоваться для выявления и нейтрализации дезинформационных кампаний, даже если их источник скрыт под слоями цифрового уловки. В то же время ИИ может использоваться для управления другими технологиями, такими как блокчейн, для поддержки прослеживаемых, проверяемых информационных каналов.
Дело в том, что поддельные новости - не новое явление. Из грязной журналистики начала 20-хго Век, вплоть до пропаганды самых ранних цивилизаций, обманывающий общественность - давняя традиция как для нынешних правительств, так и для революционеров. Сегодняшнее различие заключается в том, что цифровые технологии демократизировали эту возможность до такой степени, что почти каждый может опубликовать ложь и наблюдать, как она распространяется по всему миру в считанные часы.
Такие технологии, как ИИ, безусловно, могут внести некоторую ясность в эту путаницу, но только люди могут полностью понять и судить правду.