Comments 135
Практически "красная плёнка"
Та самая, "красная плёнка"...
Рынок изучают. Если зайдёт, можно принимать предзаказы. /s
Скорое появление нейросетей, которые будут генерировать дипфейки, неотличимые от настоящих фото, будет способствовать тому, что настоящие ню фото для злоумышленников потеряют всякую ценность, так как всегда можно будет сказать , что это нейронка нагенерила. Не знаю, как это может разрушить карьеру. Другой вопрос, если такие нейронки будут труднополучимы и люди просто не успеют к ним привыкнуть, тогда для мошенников будет раздолье, конечно.
Так что вся эта борьба больше на руку злоумышленникам работает, чем простым людям. Вымогатели себе в любом случае успеют обучить нейронку на "раздевание", со временем. И если простой люд этого знать не будет (это не будет распространено повсеместно или хотя бы не будет наслуху), вот тогда да, тогда можно будет шантажировать дипфейками.
Так вижу.
Скорое появление нейросетей, которые будут генерировать дипфейки, неотличимые от настоящих фото
Всмысле "скорое появление"? Они уже здесь. То что таких сервисов нет в публичном доступе, это не технологические ограничения, а социальные и законодательные.
Фотографиям уже нельзя доверять вообще никаким. Сейчас водораздел доверия пролегает в области видео - подлинность статичного диктора в кадре уже не достоверна, но движущийся человек в сложной сцене, показаный с разных ракурсов скорее всего подлинный.
Человек-то может и подлинный, а вот задник видео может быть нарисован/наложен.
Ну, так уже лет 50 как может быть наложен. И что?
Вот это - давно уже не истина:
Сейчас водораздел доверия пролегает в области видео
И это ещё если не учитывать ситуации, когда абсолютно реальное видео будут продвигать для подтверждения "мнений", прямо-противоположных реальным фактам. Что уже лет 20 - сплошь и рядом.
Так что сами по себе дипфейки ситуацию никак не меняют - там и так всё уже давным-давно ужасно...
То, что эти технологии есть, но их нет в публичном доступе моему утверждению никак не противоречит. Для граждан, которые "не в теме", это всё колдунства и если он/она видит фото, где сферическая (возможно в вакууме) Марьивановна развлекается со своим кем-то там, заначит это действительно её фото. А если у гражданина, на телефоне будет стоять такое приложение, которые его/её нарисует так же, да ещё на единороге, да чтоб не отличимо от реальности было, тогда увидев в домовом чате фото Мариивановны он/она его просто пролестнёт, как забавный мем.
Не-а. Даже если на глазах этого гражданина собрать ровно такой же дипфейк, он всё равно поверит тому, что в домовом чатике опубликовано, даже незнакомцем. Не любой гражданин, соглашусь, но, боюсь, большинство.
Судя по тому что возможность сделать поддельные нюдсы уже минимум год есть у любой хоть немного компьютерно грамотной школоты (помните недавние новости?) И никакого социального импакта это не вызвало - ваши опасения напрасны. Опасность от использования дипфейков для мошенничества путем социальной инженерии есть, но в общем бизнес научился с этим жить.
Пока не видел результатов их работы. Чтоб они выглядели хоть насколько нибудь реалистично. Возможно не попадались.
Гуглите Unstable Diffusion, или заходите в Discord, там уже полно примеров, если покрутить историю на 2 года назад, то можно посмотреть как все развивалось.
Там еще есть тред Animations, но там зачастую генерируют из существующего видео, хотя вроде были попытки с нуля сгенерировать.
Как только Sora релизнут, думаю в скором времени появится "правильная версия" Sora, которая будет уметь, то что не умеет официальная Sora.
В смысле "нет в публичном пространстве"? В поиске сразу находится куча таких сервисов без проблем
Движущийся это тоже уже пройденный этап. Сейчас для идентификации нужно просить собеседника почесать нос и провести пальцем по губам. Но скорее всего через полгодика и это победят.
А с 1999 глда не только фото, но и видео. На котором человек, похожий на генпрокурора развлекается с двумя шлюшками.
Уже нет. Видео дипфейки делаются слишком легко.
Это все возможно уже очень давно. Называется Фотошоп. Туториалов как присобачить голову Васи Пупкина к голой Анжеле Девис в сети полно.
Все что изменилось - стало доступнее. Что-то сродни насколько обработка стала доступнее с появлением Фотошопа по сравнению с лабами.
В любом случае корреляции с реальным человеком нет и не будет. Это речь про разрушить что-то. А на просто сиськи давно всем пофиг. Эротика проиграла порно. ©️ Пентхаус (или какой-то другой журнал эротики, не помню точно).
Никогда не видел работы с приделыванием голов к обнажённым телам, которые были бы неотличимы от реальности. Пропорции тела, границы на шее (которые обычно закрывают тем или иным образом), странное освещение и т.д.
Творений нейросетей это тоже касается. Пока не видел ничего такого, чтоб меня заставило засомневаться, реальное фото или нет. Точнее даже не так, я скорее буду сомневаться в реальности настоящего фото (или видео), которое снято как-то необычно, со странным светом, бликами или чем-то подобным.
Возможно, я слишком параноидален. Или что-то пропустил.
Никогда не видел работы с приделыванием голов к обнажённым телам, которые были бы неотличимы от реальности.
Это, скорее всего, потому что ваша нейронка уже сильно обучена на большом количестве материалов. Но не все успели так свои нейронки натренировать и они впролне себе обманываются текущим качеством дипфейков.
Вы хотите какой-то пиксель перфект ,а если взять всратое видео со старой камеры снятое в помещении с плохим освещением, плохим битрейтом и фреймрейтом, то там вам будет намного сложнее отличить дипфейк от цифрового шума.
Вообще можно натренировать нейронку для обхода именно вас и скажем обманывать вас на в 100% случаев, а хотя бы вызывать больше сомнений, скажем в 30-50% случаев чтобы вы сомневались.
Еще кстати можно брать реальные видео, которые похожи на обработанные и заставлять вас делать факт-чекинг и после этого у вас будет еще больше сомнений :)
Чё, и raw-файлы прям генерируют? И "проявить" потом можно по-разному?))
Если обнаженная фотография с дипфейком может разрушить карьеру… куда то не туда свернуло общество и цивилизация в целом
Где то по дороге потеряли логику и здравый смысл (
Фото учительницы в купальнике уже вполне способно разрушить карьеру этой учительницы, так что да, совсем не туда
Но она врёт же. Типа "стандартные тела"
Это художник, он так видит.
Классическое смещение обучающей выборки
У девушек тела обычные, а у мужиков датасет подвел, конечно
Да, если даже на обнаженную часть руки посмотреть - видно, что рука полностью другая. Соответственно эта фигня просто бошки вставляет
разве проблема в самих дипфейках?
мне кажется, проблема в том, как люди к ним относятся.
Приведите мне пример, пожалуйста, как обнаженное фото человека может повлиять на его карьеру?
А как может повлиять на вашу карьеру ваше обнажённое фото, отправленное с вашего почтового ящика секретарше вашего директора?
Эм, позвонит и скажет "ты что сдурел что ли". И дело будет даже не в том что секретарь в полтора раза старше :)
Все сильно зависит от общества, в котором Вы вращаетесь. В одном окружении одно и то же фото может не иметь никаких последствий, кроме, возможно сальных шуточек, а в другом, более консервативном, приведет к активному порицанию, отторжению и травле, причем выйти из такой ситуации будет крайне затруднительно, если вообще возможно.
о том и речь. проблема в том, как люди к ним относятся.
ну появилось вдруг голое фото почему-то (и в общем не важно, фейк это или нет), и чего?
Ну, например, представим какого-нибудь известного футболиста.. И выходит, вдруг, ролик в соцсетях с этим футболистом, где он делает что-нибудь, не очень публичное, чем не принято хвастаться в мужской компании. Поднимается шумиха в желтой прессе, болельщики соперников придумывают горы обидных шуток и мемов, на матче орут обидные слова.. У человека падает настроение и качество игры и тп. На фоне этого скандала срывается парочка перспективных денежных контрактов на рекламу.
И, заметим, это мы знаем только про тех, которые были обнародованы. А, возможно, на фоне этого кто-нибудь другой заплатил вымогателям, чтобы это не повторилось с ним.
Одну учительницу затравали и уволили за то, что у нее была фотография в ВК-странице, где она была в спортивном купальнике (это где тело сильно закрыто) и участвовала в спортивном мероприятии (плаванье).
А вы говорите про голое тело! Гос служащим в этом плане очень тяжело, там до идиотизма доходит.
Люди что были в Мутаборе категорически с вами согласны на их карьере это никак не отразилось :) да это было реально, но как развернутся события предугадать сложно... вот сегодня устраиваешь частную косплей вечеринку для взрослых, а завтра отъезжаешь на 15 суток...
В текущих реалиях дипфейк на тему политики или подделка чека с донатом в другую страну или аудио/видео дипфейк с лозунгом другой страны могут помочь отъехать в СИЗО, а не только вот эти травля и общественное порицание ( ͡° ͜ʖ ͡°)
не знал что эта камера умеет еще и почту взламывать)
Ну ладно, а как повлияет на вашу карьеру *что угодно выставляющее вас в негативном ключе*, отправленное с вашего почтового ящика секретарше вашего директора?
Почту взламывать умеют другие инструменты.
Просто, блин, вы серьёзно спрашиваете о влиянии на карьеру?
Тут людей за дикпики выгоняют. Понимаете, просто фотка члена, который как бы вообще не идентифицировать. А тут обнажёнка.
да) мой изначальный комментарий недостаточно ясный
я имел ввиду это:
Я, конечно, имел ввиду примеры, исключающие этот фактор.
фактор отношения людей к этому)
Вот и вопрос имени Оккама, зачем заморачиваться с какими-то камерами с каким-то там ИИ, если с тем же результатом можно просто отправить с нужного адреса рандомный хрен, которых в сети и так уже достаточно на несколько поколений секретарш.
Голову Чендлера к резвящимся геям еще Росс прифотошопливал в далеком 2003м - безо всякого ИИ, на собственном интеллекте, то есть сама тема уже тогда прочно вошла в культурные коды. Стоит ли говорить, что гибриды Алиссы Милано и сканированных разворотов из Хастлера 30 лет назад лежали на каждой уважающей себя BBSке.
Но вот именно какое-то сомнительное поделие из щепочек и тридэ-принтера, куда попало вкрячивающее обнаженку якобы идентичную натуральной (и попутно еще пару дополнительных пальцев и коленочку - для достоверности), совершит переворот в мире корпоративного блекмейла. Прелесть.
Кактусы стали новым локальным мемом в Волгограде после увольнения преподавателя Алексея Жданова из колледжа управления и новых технологий за то, что он выложил фото суккулента в рабочий чат.
Коллеги Жданова - скромные и воспитанные дамы — посчитали растение чересчур неприличным и эротичным. Фаллическая форма шелковистого кактуса кое-кому ярко напомнила мужской половой орган.
https://bloknot-volgograd.ru/news/volgogradtsy-ustroili-kaktus-fleshmob-v-podderzhku-1711271
Никак. Будет вопрос что за хрень, будет адекватное объяснение что это чья-то атака, всё. Конечно я буду искать кто и как смог это организоваиь, но не более того
Если кто-то начнет [а значит сможет] слать что-то с моего почтового ящика то он сможет нанести много вреда и без обнаженных фото.
да никак
все давно вкурсе что такое дипфейк, тем более все давно вкурсе что такое фотошоп и развод на "денег дай, а то солью".
тем более после того как половине людей в стране писал в телегу или вазап якобы их гендиректор предупреждая о том что сейчас на телефон позвонит якобы ФСБ'шник...
да и после корпоратива никто не поверит в реальность фото если у меня внезапно вот такие вот кубики на животе нарисуются))))))
на самом деле в 90% случаев такой email перерастёт в звонок "ты чё, пьян?!" в ответе на который будет "да я в душе не е** что за имейл отвяньте" на чём всё и заглохнет.
Вы последние несколько лет в интернет не выходили, новости не читали? Таких (и даже более безобидных фото) - очень много.
Учительницу уволили за фото в купальнике.
я ведь сказал, что дело в отношении людей к этому. Я, конечно, имел ввиду примеры, исключающие этот фактор.
интересно, насколько это законно в правовом государстве)
Можно ещё вспомнить как Миа Халифа начала получать угрозы за её.. эмм.. профессиональную деятельность. (я сам-то не знаю кто это, мне друг рассказал).
Самый прикол в том, что эта самая Мия Халифа вообще случайно стала известной.
В смысле там по биографии история примерно такая - в 2011 году вышла замуж за гражданина США и переехала в США из Ливана. Работала что-то типа в закусочной. Где-то в 21 год решили подзаработать и сняться таки в порно. Через пару месяцев её порно ролики, внезапно, стали номер 1 в мире. А она, заработав что-то типа 12к баксов, к тому моменту уже забила на съёмки, доучилась и работала бухгалтером.
Потом, она, правда, начала светить лицом и монетизировать известность, но и тут, внезапно, она чаще светится на спортивных каналах, типа ESPN.
Но типа она идя в порно вряд-ли ожидала, что станет самой успешной и узнаваемой.
Погуглил, это все-таки "другое". Первое - учительница в светской стране, пострадала за обычное фото (сгенерированное фото возомжно ухудшило ее жизнь еще больше). Второе - женщина из фанатично религиозной страны/области, получает угрозы за реальную деятельность (и видимо, специально провоцирует скандальные обсуждения) противоречащую религии (по мнению адептов), и там необязательно ее фото, в ряде случаех хватает карикатур или слухов (сгенерированные фото особенно не вляиют, карьера построена на скандалах и работы, по-видимому, полностью не лишится) .
При всей дикости отмены учителей, вы сравниваете учительницу, самостоятельно выложившую свою "полуобнаженную" фотку, и дипфейк? Т.е. мастерский фотошоп из непонятного источника никого не компрометирует, а дипфейки будут?
Это считается "полуобнаженный" фоткой?
К тому-же девушка показывает награду, а не трясет телом на нудистом пляже в пьяном угаре....
Видимо стране важнее пенсионерки из СССР что толком не могут дать новые знания детям.
За мою учебную жизнь, по пальцам можно было пересчитать учителей с которыми хотелось учиться и получать знания.
Сейчас по линии жены, есть родня, молодые учителя. Так они детей в походы таскают, на природу, устраивают всякие интересности на школьном стадионе в выходные, и летние каникулы...
Мне бы такое в школе....
Определение, взятое в кавычки, не подлежит буквальной трактовке!
Это "запретитьнаказать" головного мозга
Практикуется стариками имеющими власть и ненавидящие молодых.
Ключевое слово "мастерский". С фотошопом надо уметь работать, чтобы что-то правдоподобное соорудить. Нейросеть снижает порог входа до уровня среднего Васи.
Это раньше нужно было уметь работать. В современный фотошоп нейронка уже включена из корообки.
Ключевое - "непонятный источник".
Сваять фейковую обнаженку можно уже сейчас без особых проблем, но это не приводит ни к каким массовым атакам с целью отмены, потому что решающее значение имеет источник "компромата"!
Видеозаписям доверяют куда больше, чем фото, а дипфейки сейчас чертовски хороши, и? Где волна отмен?
Её не уволили.
Приведите мне пример, пожалуйста, как обнаженное фото человека может повлиять на его карьеру?
Здесь сложность не в том, что о тебе скажут, а в том что ты сам съешь себя мыслями о том, что о тебе могут сказать. В итоге проще будет уволиться.
Лет 10 назад видел настоящую раздевающую камеру: в аэропорту Шереметьево. Это была специальная кабинка, в которой человека просвечивали рентгеновскими лучами, которые свободно проходили через одежду, отражаясь от кожи.
Зайдя за спину оператору я несколько минут наблюдал за работой: Лишенные волос и одежды тела получались забавные, словно отлитые из пластика модельки, с перетяжками на тех местах, где их сжимали резинки и приклеенными к телу непрозрачными предметами.
В прошлом году зашел посмотреть еще раз --- но нет, технологию понерфили. Сейчас показывается только общий силуэт тела.
Там скорее всего был не рентген, а микроволновый сканер.
рентгеновские лучи
отражались от кожи
Вам не стыдно такую антинаучную чушь писать?
Мсье фантаст, ему можно.
Вам не стыдно такую антинаучную чушь писать?
Ни капли. Не вижу ничего антинаучного в наличии отраженных от кожи рентгеновских лучах: часть проходит, часть отражается.
Существуют устройство для визуализации поверхности тела человека и обнаружения объектов, скрытых под одеждой — рентгеновские сканеры на основе обратного рассеяния лучей
Зы. Минус в карму от меня.
Если на голых фотках у меня будет такой болт как у негров из образца - даю отмашку на старт производства.
тоже подумал "ну хотя бы на каких-то фотках красивое тело будет, отлично".
И кубики пресса! И орлиный взгляд! Ух! :)
Хуже если камера урежет до "пары пикселей", вот тогда придется доказывать, что не дип фейк) Представляю сколько пресетов можно сделать для обработки...))
И у женщин грудь увеличивается ;)
Страшно, очень страшно
Давно пора вводить цифровую подпись фотографии на самом чипе сенсора, и чтобы браузер проверял все фотографии с подписью на предмет того, не скомпрометирована ли подпись, и показывал предупреждение для неподписанных фотографий, точно так же как ругается на http.
Любую подпись можно подделать, дипфэйки и вот подобное сейчас реально очень просто создавать (и то и другое забавы ради когда-то проверял) и единственным способом наверное пока что является проверка фото на подлинность с помощью другой нейросети. Подписи сравнивать просто будет не счем, как мне кажется.
Ой, не, давайте без лишних DRM где попало. Просто не нужно доверять всему, что видишь в Интернете.
Интернету, вообще, нельзя доверять. Весь интернет как единая нейросеть, которая специально генерирует, интересующие вас, статьи и комментарии на хабре, вынуждая вас писать комментарии, читая вашу почту и зная о вас всё в мельчайших подробностях.
Есть большая проблема - вокруг куча лысых обезьян, которые слепо доверяют интернету/зомбоящику. И эта масса может испортить жизнь кому угодно просто потому что им не понравилось что-то из увиденного/услышанного. А подобная технология позволяет любому школотрону сгенерировать "компрометирующее" изображение очень достоверного качестве. А дальше толпа уже не будет разбираться - настоящая картинка или нет.
При чем тут DRM, просто подпись, такая же, как с сертификатами TLS. Вы же не считаете, что TLS имеет хоть какое-то отношение к DRM?
генерим дипфейк, распечатываем и перефотываем камерой с "подписью на сенсоре". Получаем подписанный дипфейк.
С видео чуть сложнее, но тоже можно заморочиться.
Ага, Canon уже пытались. А потом в сети появились подписанные фотки где Сталин держит в руках айфон: https://petapixel.com/2010/12/01/russian-software-firm-breaks-canons-authenticity-verification-big-time/
Так ведь таких "сервисов" уже и сейчас в интернете хватает. Лёгкий гуглёж выдаст пяток сходу, а то и десяток. Некоторые даже работают. Но работают криво: по реальным фотографиям сразу видно, что нейросети пока что не такие умные, как на промо-материалах)
Сама культура есть дипфейк. Многие исторические представления сформированы художественными образами, далёкими от исторических данных.
Это прям-таки олицетворение современного "научно-технического прогресса"... Тонкие технологии, сложные матмодели, огромная вычислительная мощь направляются на генерацию того, что и так присутствует в любых штанах -))
Это другое. В данном случае с другими массаогабаритами.
И это при том что на примере интернета уже должно было быть понятно что такие технологии будут применяться не так как изначально планировали. Интернет вместо того чтобы люди обменивались знаниями и развивались - используется для порно и котиков. Так и с ИИ - вместо помощи в интеллектуальном развитии людей - используется для генерации порно и дипфейков.
А кто помнит сериал из ~90-х, где (в одной из серий) подросток игрался то ли фотоаппаратом, то ли очками, с функцией "раздевания"?
Норм. Из дрища сделали культуриста и цензура до колена. Где можно сфотографироваться?
Когда-то HTTP было достаточно для пользования интернетом. Потом появился HTTPS.
<сарказм> Предлагаю запретить все письменные пренадлежности ведь с помощью них можно написать вымышленный рассказ напрочь разрушающий чью-либо деловую репутацию </сарказм>
А по факту чтобы сохранить адекватное восприятие в нашем мире пора уже понимать что любое фото и даже видео может быть дипфейком. Кроме того, голые дип фейки на нынешнем уровне врядли воспроизведут адекватно множество мелких но узнаваемых деталей которые врядли можно расчитать по одетым фото.
Более того стоит понимать что в мире сосуществуют рессурсы где люди сами выхладывают голые фото и видео разной степени художественности и есть как общества так и субсообщества которые категорически этого неприемлят.
У них деталь не допечаталась - заполнение видно, но походу это фича.
Интересно, как эта штука с татуировками работает? Понятно, что если у меня на глютеусе "bob" наколото, то сетка это не увидит и не нарисует. Но если на видимой области, к примеру, рукав забит, будет ли и на фейке рука с картинками?
Тем временем один чел добился приемлемой работы нейросетевого чита для сетевых шутеров на RTX 2080Ti и собирается выложить его для всех:
Hidden text
Не помогут даже жёсткие античиты как у Valorant, ведь эту нейросеть можно установить на другой ПК и подавать ему только картинку, получая обратно движения мыши.
Читов, которые можно установить на другой ПК - пруд-пруди, это не новость и никого не удивит, особенно разработчиков античитов. А у Valorant вообще ручная проверка для высоких КД.
Я стараюсь следить за этим и на Хабре ещё не встречал описание читов, которые можно установить на другой ПК.
Зачем так делать? Т.е. человек играет на одном ПК с читом и без античита, а на второй ПК с античитом приходят только траектории мыши?
В основном это DMA. Второй ПК просто как прокладка для трафика игры (в каких-то случаях), либо имеет доступ к памяти ОС (DMA). Например, на втором ПК рисуется карта и местоположение всех врагов. Из плюсов: можно стримить и проводить на игровом ПК любые проверки, кроме лишнего драйвера ничего там не найдется.
Если это исходное фото, то он мутант
Не ожидал, что картинка с телефона будет таких размеров о_О
Это вы ещё зубы у него не пересчитали - 33, не меньше!
Дизайнеры представили Nuca — ИИ-фотокамеру, которая раздевает людей на снимках