(Фото: Hiya)
Вы когда-нибудь задумывались, не было ли видео, или аудиозаписи создано искусственным интеллектом, чтобы обмануть вас и заставить поверить, что это реально? Что ж, теперь для этого есть расширение для браузера Chrome.
Hiya's Deepfake Voice Detector — это расширение, которое может обнаруживать сгенерированный искусственным интеллектом дипфейк-звук практически в любом месте в интернете, в том числе на видео или записях, опубликованных в X/Twitter, YouTube и Facebook. Для доступа к нему после установки требуется подтверждённый адрес электронной почты для создания учётной записи.
Для его использования необходимо предоставить доступ к каждому тесту. Расширение прослушивает только несколько секунд дипфейка, прежде чем принять решение. Однако для обнаружения дипфейка оно сосредоточено на аудио, поэтому видео без звука не будут проверяться. После того как вы попросите его проанализировать вашу активную вкладку Chrome с воспроизводящимся видео, ниже в расширении отобразится история просмотренного контента на случай, если вы захотите вернуться к результатам.
Разработчики Hiya заявляют, что они выпускают инструмент прямо сейчас, чтобы предотвратить обман зрителей политическими подделками в течение недель, предшествующих федеральным выборам в США. Крупные политические фигуры уже подверглись обширным глубоким подделкам, от робочих звонков президента Байдена ранее в этом году до глубоких подделок вице-президента Камалы Харрис и изображений с искусственным интеллектом, изображающих фанатов Тейлор Свифт, поддерживающих Дональда Трампа.
«В Hiya мы стремимся бороться с мошенничеством, обманом и дезинформацией», — говорится в заявлении президента Hiya Куша Париха. «Дипфейки становится всё труднее обнаружить, что затрудняет различение реального и сфабрикованного контента. Клонирование голоса, будучи невероятной технологической инновацией, также используется киберпреступниками для мошенничества и даже для попыток повлиять на важные события, такие как выборы».
Мы протестировали расширение Hiya на нескольких видео, в том числе на одном, где дипфейки Трампа и Байдена обмениваются колкостями в прямом эфире. Расширение Hiya оценило видео на 59 баллов из 100 по шкале «подлинности» с примечанием: «Наши модели не уверены в этом голосе». Это немного успокаивает, но жаль, что расширение не смогло с большей уверенностью определить, что видео было дипфейком.
Тем не менее, оно часто бывает точным. Реальное видео Илона Маска, говорящего о криптовалюте, было подтверждено как "вероятно подлинное" в тесте PCMag с использованием Hiya. Расширение также смогло правильно идентифицировать очевидные подделки Маска как "вероятную подделку" и подделку разговора вице-президента США Камалы Харрис со своим напарником-губернатором Тимом Уолцем, что дало обоим низкие баллы доверия.
Он определил видео с Уиллом Смитом, критикующим Байдена, с 118 000 просмотров как дипфейк, хотя некоторые пользователи на X, похоже, были обмануты и решили, что это настоящее видео. И он определил это видео с предполагаемым бывшим учеником Уолтца и это видео с Андерсоном Купером как дипфейки.
Если вы не уверены в результатах Hiya, вы можете попробовать проанализировать несколько разных частей записи, чтобы получить более чёткое представление. В противном случае вам придётся провести собственное исследование и в целом с осторожностью относиться к сенсационному контенту, публикуемому в социальных сетях. Однако есть и другие способы распознать дипфейки, например, попросив человека в прямом эфире повернуться боком или прислушавшись к странному акценту в его голосе. Плохие дипфейки могут быть размытыми или звучать так, будто аудиоклипы склеены между собой, но хорошие дипфейки распознать сложнее.
В опросе Hiya 13% американцев заявили, что видели видео с дипфейками. Но, возможно, многие видели их, не подозревая об этом. В прошлом дипфейки на YouTube «прямые трансляции» с «Илоном Маском» или фальшивые копии основателей криптовалют, таких как основатель Ethereum Виталик Бутерин, обманом заставляли жертв попадаться на уловки мошенников.
Доступ к Hiya пока бесплатный в период выборов. Однако неясно, начнет ли компания взимать плату за доступ к нему позже, хотя другие инструменты для обнаружения подделок существуют уже много лет. YouTube недавно анонсировал собственный инструмент обнаружения подделок для своего видеосайта, но для начала он будет доступен только избранным создателям.
