al_ven


твои следы и есть твоя дорога

от фрагмента к фрагменту


Previous Entry Share Next Entry
Генеративные сети и массовое производство фейков
al_ven
"Распространение фальшивых новостей — это лишь первая волна фейкового контента, нашествие которого стоит ожидать в ближайшие годы. Генеративные нейросети (GAN) уже позволяют создавать видеоролики, на которых люди делают то, чего не делали, и говорят то, что никогда не говорили. Журнал The Economist объясняет, как устроен новый мультимедийный мир, в котором ничему нельзя доверять.

The Economist приводит в пример видеоролик Alternative Face v1.1, созданный немецким художником Марио Клингеманном. На видео певица Франсуаза Арди в возрасте 20 с небольшим лет (ей сейчас 73 года) воспроизводит речь Келлиэнн Конуэй — советницы президента США Дональда Трампа. Конуэй получила известность после использования парадоксального термина «альтернативные факты». Видеоролик как раз представляет собой «альтернативный факт» и медийное явление совершенно нового порядка. Alternative Face v1.1 создала генеративная нейросеть — система на основе машинного обучения. Проанализировав старые видеозаписи с Арди, программа генерировала уникальный видеоконтент, которого на самом деле не было, а поверх наложила аудиодорожку с комментариями Конуэй.

Генеративные нейросети могут вывести фальшивые новости на новый уровень, в котором фейковые видеоролики и аудиодорожки нельзя будет отличить от настоящих. Принцип работы GAN-систем прост. Нейросети изучают статистические характеристики аудиозаписи, а затем воспроизводят их в другом контексте. При этом они улавливают изменения в речи с точностью до миллисекунды. Достаточно ввести текст, который нейросеть должна воспроизвести, и получится правдоподобное выступление, например, Трампа или другого политика. Хотя на самом деле никакого выступления не было."

Я бы на так на это посмотрел. Не в том дело, что фальшивые новости начнут производиться массово и все заполонят, а вто, что в определённом смысле все это уже давно произошло))) Одной из первых фейковых новостей была новость о существовании «бога» (богов, духов, демонов, анелов…). Это была топовая и очень рейтинговая новость))) И поверили же безо всяких там современных технологических ухищрений, не все, правда, поверили, но из неповеривших мало кто выживал...))) И много ещё было других фейковых новостей было, в которые также верили — о неизменности и «естественности» существующей системы власти, угнетения, неравенства и любого социального конструкта.
Конечно, конечно, это не совсем одно и тоже, и я иронизирую, но…
В предупреждении о нашествие фальшивых новостей имплицитно содержится утверждение, что сейчас можно различить фальшивые и нефальшивые новости, но тут не все так просто…)))
И это большая тема — от неизбежной предвзятости, невозможности «объективной» передачи информации и отражения реальности, в силу особенностей человеческой психологии, коммуникации, языка, проблем эпистемологического порядка и технической стороны вопроса, до уже имеющихся проблем, связанных со сферой массмедиа (медиатизированная реальность, влияние капитала и рынка и пр.) - уже сейчас можно ставить вопрос о возможности проведения границы между фальшивыми и нефальшивыми новостями, между реальным и виртуальным)))
Но, конечно, если процесс массового производства фейковых новостей пойдет, то очень любопытно к чему все это может привести. Понятно, что последствия эти будут сложны, нелинейны и малопредсказуемыми, но вряд ли однозначно плохими))) В конце концов некоторые тенденции могут дойти до полного абсурда и это приведёт к их лучшему пониманию, возможно)))
Таким образом пострадать может, например, возможность доверия — одно из базовых условий для функционирования социального и человеческих отношений. С доверием и сейчас то не очень, мягко говоря...

Recent Posts from This Journal

  • философы, ненавидящие капитализм

    Речь о западных философах, которые видели и видят суть капитализма, и осуждают буржуазию. Отечественный философ Михаил Рыклин написал книгу…

  • Симулякр Давидович "Троцкий" 😊

    О сериале «Троцкий». Довольно уныло выглядит. По сути он рассказывает только его создателях и спонсорах, об их уровне развития, о типе…

  • 1917 - 2017

    Много чего можно было бы сказать по поводу 7 ноября, а тем более к столетию Великой Октябрьской социалистической революции. К сожалению, пока…


?

Log in

No account? Create an account