Материал раздела Технологии

Байден больше не позвонит: как в США и ЕС взялись бороться с дипфейками

В США и Европе сделали первые шаги в борьбе с ИИ-мошенничествами. Законодатели ускорились после двух скандалов: с поддельными звонками избирателям от Байдена, сгенерированными нейросетями, и бесконтрольного распространения порнодипфейков с Тейлор Свифт
Фото: Midjourney
Фото: Midjourney

В США впредь будет незаконным использовать в роботизированных звонках голоса, сгенерированные с помощью нейросетей, — такое решение 8 февраля приняла Федеральная комиссия по связи (FCC). А Европа в обозримом будущем планирует криминализировать порнодипфейки. 6 февраля 2024 года переговорщики ЕС пришли к соглашению по законопроекту, согласно которому к середине 2027 года будет введена уголовная ответственность за распространение такого рода контента, а также за «порноместь» и домогательства в интернете.

Методы интернет-мошенников в последнее время благодаря искусственному интеллекту стали более изощренными, технологичными и правдоподобными. Технология, лежащая в основе подобных афер, называется «дипфейк» (от англ. deep learning — «глубокое изучение» и fake — «подделка»). «С помощью нее мошенники могут создавать невероятно убедительные, но обманчивые аудиозаписи, изображения и видеоролики, что делает людей уязвимыми для манипуляций», — объясняет старший вице-президент компании по кибербезопасности Verimatrix Клаус Шенк.

«Мошенники используют технологии клонирования голоса, чтобы вымогать деньги, вредить репутации знаменитостей и дезинформировать избирателей. Теперь у властей штатов будут новые инструменты для борьбы с преступниками и защиты населения», — заявила председатель FFC Джессика Розенворсел.

Вот что подтолкнуло законодателей поспешить.

25 тыс. звонков от Байдена

В январе 2024 года жители американского штата Нью-Гэмпшир начали получать звонки от Джо Байдена, в которых он призывал их не голосовать на праймериз Демократической партии.