DARPA пытается победить «глубокие фейки».
Но похоже, что эта битва уже проиграна.

Через несколько недель по проекту, финансируемому военными DARPA, ведущие мировые эксперты в области цифровой экспертизы соберутся на конкурс в области ИИ. Они будут конкурировать за создание с помощью ИИ наиболее убедительных поддельных видеороликов, изображений и аудио, а также попытаются разработать инструментарий, способный автоматически отлавливать и разоблачать такие подделки https://goo.gl/L4KyUd.

Подобные подделки, называемые «глубокие фейки» (deepfakes), стали «ядерным оружием» фейковых новостей. На этих видео-роликах с помощью глубокого обучения нейросетей, внешность и голоса знаменитостей наложены на тела актеров, которые творят и говорят всякое непотребство (не поленитесь пройтись по всем ссылкам этого поста, дабы прочувствовать глубину фейков).

Началось это, как положено, с порнографии. И если кто пропустил скандал с нейросетью, наученной «пририсовывать» лица знаменитостей порноактрисам, вот https://goo.gl/NhcvEV и вот https://goo.gl/oZz1PD резюме, а это видеообъяснение http://newsvideo.su/video/8286398.

Со времен этого порноскандала ситуация сильно усугубилась. Теперь, с помощью генеративных состязательных сетей (GAN), научились
- не только изготавливать внешне не отличимые для зрителя «глубокие фейки»,
- но и изготавливать их таким образом, что подделку невозможно инструментально распознать.

Простота изготовления и невозможность распознавания подделок (только посмотрите, как они издеваются над Президентом Путиным https://goo.gl/KoBi8n) ставят шах и мат службам национальной безопасности даже таких стран, как США.

Битва «снарядов и брони» вышла на последний этап. Броня научилась выявлять подделки с вероятностью 75% https://goo.gl/QMkn2w, однако новое поколение снарядов пробивает эту броню с вероятностью 80%.

Большинство экспертов уверены, что без 100%ной мобилизации на решение этой задачи компаний Google и Facebook (а по-хорошему, и всех остальных грандов ИИ) эту задачу не решить https://goo.gl/jFTTs7.

Но это конец независимому от государства ИИ. А если по-честному, то и конец свободы слова.

И потому американские вояки хватаются за соломинку, делая одну из последних попыток решить проблему в ходе открытого мирового конкурса под эгидой DARPAвской программы Media Forensics (MediFor).

Шутки шутками, но вопрос, быть или не быть тотальной цензуре, может решиться в ближайшие несколько месяцев.

#Deepfakes

https://goo.gl/L4KyUd

U.S. Military Funding an Effort to Catch Deepfakes | RealClearDefense

| Realcleardefense