Si ya existían los deepfakes (caras falsas) que OpenAI apueste por Voice Engine (clonación de voz) podría volverlo todo más complicado.
OpenAI, la compañía pionera en inteligencia artificial, anunció una novedosa herramienta denominada Voice Engine el viernes 29 de marzo. ¿Por qué? Porque buscan presentar su revolucionaria tecnología de clonación de voz basada en IA. Se acerca el ChatGPT de voces que podría cambiar el panorama actual (2024).
Esta innovadora herramienta, fruto de aproximadamente dos años, permite a los usuarios cargar una muestra de audio de tan solo 15 segundos para generar una copia sintética fidedigna de esa voz.
OpenAI genera inquietud por esto, los escenarios son muchos (y peligrosos)
Pese al orgullo que embarga a OpenAI por el potencial de su creación, la empresa no puede evitar sentirse inquieta ante la posibilidad de que esta tecnología sea objeto de usos impropios. En efecto, la compañía es plenamente consciente de la necesidad de adoptar un enfoque cauteloso a fin de garantizar una implementación responsable y ética de Voice Engine.
«Deseamos asegurarnos de que todos se sientan conformes con el modo en que se está llevando a cabo, que comprendemos cabalmente el panorama de los escenarios en los que esta tecnología podría entrañar riesgos, y que contamos con medidas de mitigación al respecto«, ha manifestado Jeff Harris, miembro del equipo de producto de OpenAI.
En su afán por desarrollar una inteligencia artificial segura y ampliamente beneficiosa para la sociedad, OpenAI se ha comprometido a responder con diligencia a los posibles abusos que pudieran derivarse del uso indebido de Voice Engine.
Ciertamente, esta aplicación emplea la misma tecnología subyacente a la API de conversión de texto a voz y a ChatGPT Voice, pero con el propósito específico de clonar una voz en lugar de leer en voz alta con la entonación y la inflexión de un extraño. La compañía subraya que su tecnología destaca por su excepcionalidad, al requerir únicamente una muestra de 15 segundos para «crear voces emotivas y realistas«.
Quizás también quieras leer: OpenAI negociará con Hollywood: El nacimiento del cine con IA es ¿Inevitable?
Páginas similares, y algunas muestras del poder de OpenAI
En el sitio web de OpenAI se pueden escuchar muestras de audio procesado mediante Voice Engine, las cuales resultan verdaderamente impresionantes. La capacidad de cambiar el idioma en el que habla alguien también es digna de mención. Sin embargo, por el momento no es posible probar la herramienta de forma individual.
Si bien ya existen diversas herramientas de clonación de voz disponibles, como ElevenLabs y traductores como Respeecher, OpenAI se ha erigido como un gigante desde que lanzara públicamente ChatGPT a finales de 2022. Y tan pronto como Voice Engine se convierta en un producto de acceso público, podría abrir las compuertas a todo tipo de nuevos abusos que ni siquiera habíamos imaginado.
La declaración emitida por OpenAI el viernes 29 de marzo enfatizaba: « Estamos adoptando un enfoque cauteloso e informado para un lanzamiento más amplio debido al potencial de uso indebido de voz sintética«, subrayando así las preocupaciones que todas las grandes empresas afrontan actualmente con este tipo de tecnología de IA.
Si bien no hay una fecha oficial, se espera que se libere a lo largo del 2024.
(Urgente 24)