Напередодні Amazon оголосила, що працює над новою функцією Alexa, яка буде імітувати чийсь голос після прослуховування запису протягом хвилини. Ця заява викликала багато турбот. Очевидно, якщо ця функція надходить в Alexa, то з великою ймовірністю зловмисники будуть використовувати її небезпечними способами. Наприклад, його можна використовувати для здійснення шахрайства щодо викрадення людей або фальсифікації аудіо важливих рішень компанії. Незабаром світ зміниться, тому що не буде впевненості в тому, хто що сказав.
Amazon зробив акцент на двох аспектах нової функції Alexa, анонсуючи цю технологію імітації голосу з підтримкою штучного інтелекту. По-перше, там говорилося, що робити покупки стане доступнішим (досі не знаємо як). По-друге, Amazon сказав, що це був би хороший варіант для тих, хто хоче згадати голоси своїх близьких (особливо, якщо вони померли).
Amazon's Alexa voice assistant will be able to mimic any person's voice after hearing a short audio clip. Amazon markets the tech as a way to remember a deceased family member.https://t.co/4c0c52aLQ3
— Jan Wolfe (@JanNWolfe) June 22, 2022
Нова функція Alexa викликає багато занепокоєння
На заході Рохіт Прасад показав Alexa, яка прикидається за бабусю, що читає уривок із «Чарівника країни Оз». «Одна річ, яка мене найбільше здивувала в Alexa, — це дружні стосунки, які у нас з нею. У цій ролі товариша людські атрибути емпатії та афекту є ключовими для побудови довіри», — сказав він. — «Так багато з нас втратили когось, кого ми любимо під час пандемії COVID-19».
Проте демонстрація створила враження про технологію як про цифровий інструмент воскресіння мертвих. Розуміючи, що справи йдуть погано, Прасад сказав, що головною метою служби було не імітувати голоси мертвих.
https://twitter.com/bigblackjacobin/status/1539753998307233793?ref_src=twsrc%5Etfw
Сівей Лю, професор комп’ютерних наук та інженерії в Університеті Буффало, чиє дослідження включає глибокі фейки та криміналістичну експертизу цифрових медіа, сказав, що він стурбований розвитком.
«Безперечно, є переваги технологій перетворення голосу, які слід розробити Amazon, але ми повинні знати про можливі зловживання. Хижак може маскуватися під члена сім’ї чи друга під час телефонного дзвінка, щоб заманити невідомих жертв, а фальсифікований аудіозапис високопоставленого керівника, який коментує фінансове становище її компанії, може привести до ладу фондовий ринок».
Офіційної інформації про те, коли з’явиться нова функція Alexa, немає. І ми в цьому сумніваємося після стількох виправданих побоювань, що Amazon коли-небудь запустить його.
