За даними OpenAI, сервіс Voice Engine розробляється з 2022 року. Влітку 2023 року цей сервіс був представлений «глобальним політикам на найвищому рівні», щоб продемонструвати його потенціал та ризики. А після цього компанія OpenAI відклала запуск Voice Engine з причин можливих шахрайств із голосовими підробками.
Понад рік тому OpenAI анонсувала революційну функцію для свого чат-бота ChatGPT – Voice Engine, технологію штучного інтелекту, здатну клонувати людський голос на основі короткого 15-секундного аудіозапису. Попри значний потенціал, ця розробка так і не стала широко доступною для користувачів, бо, як з’ясувалося, на те є вагомі причини, пов’язані з безпекою та етичними міркуваннями.
ChatGPT за час свого існування отримав численні оновлення та нові можливості, вражаючи користувачів здатністю генерувати розгорнуті відповіді, створювати детальні звіти, обробляти зображення та навіть переглядати веб-сторінки через інтегрованого агента штучного інтелекту. Однак, Voice Engine, попри первісні плани щодо його інтеграції в ChatGPT або випуску як окремого інструменту, залишається в обмеженому доступі для вузького кола партнерів.
Причина такої обережності криється в очевидних ризиках, пов’язаних з технологією клонування голосу. Як зазначають експерти, можливість легко створювати автентичні копії голосів відкриває широкі можливості для зловживань. Це стосується не лише створення фейкових аудіозаписів політиків чи знаменитостей з метою дезінформації, а й більш приземлених, але не менш небезпечних ситуацій, таких як шахрайство з використанням клонованих голосів близьких людей.
Сам факт існування діпфейкових зображень, які стали поширеними після запуску відповідної функції в ChatGPT, є яскравим прикладом потенційних зловживань простими у використанні технологіями штучного інтелекту. Враховуючи менш жорсткі правила безпеки, що діяли на момент випуску інструменту генерації зображень, вільний доступ до Voice Engine з аналогічним рівнем контролю міг би значно полегшити зловмисникам використання клонованих голосів у шахрайських схемах.
Попри очевидні ризики, технологія клонування голосу має і потенційно корисні застосування. Серед них – дубляж фільмів та телешоу іншими мовами зі збереженням оригінального голосу актора, допомога людям з вадами мовлення або тим, хто втратив голос, у спілкуванні, а також можливість перекладу розмовної мови в режимі реального часу зі збереженням голосового тембру та інтонації.
Сьогодні кілька партнерів мають доступ до Voice Engine, включаючи стартап Livox, який створює пристрої, що дозволяють людям з обмеженими можливостями спілкуватися більш природно. Генеральний директор Карлос Перейра розповів TechCrunch, що хоча Livox в кінцевому підсумку не зміг вбудувати Voice Engine в продукт через вимоги до використання інструменту в Інтернеті (багато клієнтів Livox не мають Інтернету), він вважає цю технологію «дійсно вражаючою».
З огляду на зростаючу кількість шахрайств, пов’язаних з клонуванням голосу за допомогою штучного інтелекту, обережна позиція OpenAI щодо широкого розповсюдження Voice Engine виглядає цілком виправданою. Усвідомлення потенційних ризиків та затримка з публічним запуском свідчать про відповідальний підхід компанії до впровадження нових, потужних технологій штучного інтелекту.
Питання про те, коли Voice Engine стане доступним для широкої аудиторії, залишається відкритим, але очевидно, що це відбудеться лише після впровадження надійних механізмів захисту від зловживань та підвищення обізнаності суспільства щодо можливостей та ризиків штучного інтелекту.
За матеріалами t4
Коментарі
Дописати коментар