Содержание
- Хорошая история более убедительна, чем вся правда
- Видеть все еще верит?
- Не поддающиеся обнаружению подделки
- Нет ошибок, нет стресса - ваше пошаговое руководство по созданию изменяющего жизнь программного обеспечения без разрушения вашей жизни
- Возможные последствия
- Упреждающее планирование
Источник: Mike2focus / Dreamstime.com
вынос:
Потребление медиа развивается вместе с технологическими достижениями, такими как искусственный интеллект (ИИ). Хотя мы в целом придерживаемся прогресса, мы также должны осознавать недостатки некоторых форм технологий. У ИИ есть темная сторона, когда он используется для продвижения поддельных новостей.
Темная сторона технологии была одной из тем, которые были рассмотрены на второй конференции NYC Media Lab Machines + Media, которая была спонсирована и проведена Bloomberg в ее глобальной штаб-квартире в городе 15 мая. Хотя некоторые из сессий были больше о том, какие технологии в настоящее время доступны для СМИ, даже те, кто поднял тень манипулирования и дезинформации.
Хорошая история более убедительна, чем вся правда
На сессии, озаглавленной «Состояние искусства», Гилад Лотан, вице-президент по науке о данных, Buzzfeed, указал, что проблема поддельных или вводящих в заблуждение новостей не может быть обвинена только в медиа-компаниях или новых технологиях. «Люди не обязательно ищут факты», - сказал он. «Читатели хотят истории».
Он добавил, что удовлетворение этого стремления к рассказам и любимым рассказам может привести к фальшивым новостям, которые «больше манипулируют, чем ложная информация». На самом деле, рассказ может не содержать ничего ложного. Что является фальшивым в этом, так это то, что сообщаемые факты подобраны вишней и удалены из более крупного «жулика», чтобы привести «читателей к выводу».
В том же духе, на сессии «Платформа + СМИ», Келли Борн из Инициативы Демократии США Фонда Уильяма и Флоры Хьюлетт сказала: «Людям нравятся новости, которые укрепляют их убеждения, особенно если они вызывают возмущение». Она предупредила, что капитализация СМИ эта тенденция может привести к «идеальному шторму», который вызовет в нас худшее. Это усугубляется возможностью полностью сфабрикованных презентаций.
Видеть все еще верит?
Технология играет важную роль в рассказывании истории с помощью изображений и видео. Мы обычно верим тому, что видим, если нет явных признаков манипуляции. Однако, по мере того как ИИ повышает реалистичность фальшивых видеороликов, теперь стало возможным буквально вкладывать слова в уста общественных деятелей. (ИИ используется не только в гнусных целях. Ознакомьтесь с некоторыми конструктивными решениями, изложенными в 5 путях, которые компании могут захотеть рассмотреть с помощью ИИ.)
Опасность производства ИИ очень правдоподобных видеороликов была продемонстрирована на сессии под названием «Решения для темной стороны машинно-управляемых медиа». Она началась с видео, в котором Барак Обама говорил о том, чего бывший президент фактически никогда не говорил. Движение все еще было немного не синхронизировано со словами, поэтому в нем есть некоторые следы фальшивого видео, и большинство зрителей заявили, что могут распознать его как фальшивку.
То, что Обама манипулировал видео, не достигло реализма воскресения Питера Кушинга в роли Гранд-Моффа Таркина для «Изгоя-одного». Как объясняется в статье в «Нью-Йорк Таймс», эффект был достигнут благодаря тому, что актер носил «материалы для захвата движения на голове» в то время как перед камерой «чтобы его лицо могло быть заменено цифровым воссозданием картины Кушинга». Главный креативный директор фильма / старший супервайзер визуальных эффектов назвал это «супер-высокотехнологичной и трудоемкой версией работы». составить."
Не поддающиеся обнаружению подделки
Теперь, благодаря достижениям искусственного интеллекта, в частности, генеративным состязательным сетям (GAN), достичь магического эффекта кино теперь легче, чем когда-либо. Используя GAN, одна система ИИ очищает отснятый материал до тех пор, пока он не станет достаточно хорошим, чтобы быть принятым системой ИИ, предназначенной для обнаружения подделок.
Нет ошибок, нет стресса - ваше пошаговое руководство по созданию изменяющего жизнь программного обеспечения без разрушения вашей жизни
Вы не можете улучшить свои навыки программирования, когда никто не заботится о качестве программного обеспечения.
В этом видео вы можете увидеть, как исследователи демонстрируют, как актер может управлять движениями лица публичной фигуры, чтобы создать любое выражение и произношение с уровнем точности, обычно не встречающимся в видео, снятом доктором.
В то время как не каждый человек, который играет с видео, имеет такую систему, доступную в настоящее время, программное обеспечение будет доступно большему количеству людей в ближайшем будущем.
Возможные последствия
Дхрув Гулати, основатель и генеральный директор Factmata, говорит, что он «очень обеспокоен» тем, как эта возможность может быть использована для того, чтобы помещать в видео не только лица мировых лидеров, но и руководителей компаний и знаменитостей в качестве доказательства того, что они говорят или делают то, чего у них нет , Разрушительная сила видео будет усилена за счет достижения вирусного эффекта от ботнетов.
Это означает, что мы «больше не можем доверять своим лживым глазам», - заявил Мор Нааман, доцент кафедры информатики Cornell Tech. Он был обеспокоен тем, что приведет к потере доверия.
Другие обеспокоены разжиганием пламени насилия. Уже «слегка измененные видеоролики» «используются для того, чтобы вызвать насилие в развивающемся мире», - отметил Авив Овадья, главный технолог, Центр социальной ответственности. (Социальные сети могут быть эффективным способом распространения ложной информации. Ознакомьтесь с 4 наиболее разрушительными хакерскими ссылками.)
Сара Хадсон, партнер Investing in US, выразила обеспокоенность тем, что манипуляции с изображениями «в масштабе» представляют «невероятную угрозу общественной безопасности».
Упреждающее планирование
Овадья сказал, что необходимо «предотвратить как можно больше таких злоупотреблений». Вот почему так важно «заблаговременно думать при разработке технологий» о том, «как уменьшить негативные последствия» и «выделять ресурсы для устранения этих непреднамеренных последствий».
Невозможно повернуть время вспять на пути прогресса, но мы должны убедиться, что направление, которое мы выбрали, продумано и спланировано. Это означает не просто работать над технологиями, чтобы увидеть, что можно сделать, но подумать о том, что можно сделать, что следует предотвратить.
Путь к технологическим инновациям заключается в том, чтобы продумать возможные последствия и спланировать меры предосторожности до того, как возникнут опасности. Для этого нам потребуется сотрудничество между исследователями, технологическими компаниями и правительственными учреждениями для установления стандартов и лучших практик, которых будут придерживаться люди. Это должно быть приоритетом для всех заинтересованных сторон.