YouTube está desarrollando herramientas para reconocer voces y caras creadas por IA en videos

YouTube está trabajando en nuevas herramientas para dar a sus creadores más control sobre el uso de su imagen y voz mediante IA generativa. En un comunicado, la plataforma aseguró que esta tecnología ayudará a proteger a sus creadores y socios, mientras impulsa el desarrollo responsable de la IA y permite explorar su potencial creativo.

La primera de estas herramientas, descrita como «tecnología de detección de voces sintéticas», permitirá a los creadores y artistas identificar y controlar automáticamente contenido que simule sus voces utilizando IA generativa. YouTube ha dicho que esta tecnología estará dentro del sistema Content ID y que su prueba piloto se comenzará el próximo año.

El anuncio sigue la promesa de noviembre de YouTube de crear herramientas que ayuden a las discográficas a eliminar clones de músicos generados por IA. La rápida evolución de estas herramientas ha generado preocupación entre los artistas. Más de 200 músicos, firmaron una carta abierta en la que califican la imitación por IA como un «ataque a la creatividad humana» y exigen una mayor protección para los creadores.

Se está desarrollando también una herramienta separada que podrá identificar rostros falsificados de creadores, actores, músicos y deportistas en la plataforma. YouTube sigue trabajando en ella y no ha dado detalles sobre su lanzamiento.

La plataforma también se ha comprometido a tomar medidas estrictas contra aquellos que recopilan datos de YouTube para crear herramientas de IA. «El acceso no autorizado al contenido de los creadores viola nuestros Términos de servicio», señaló YouTube, aunque esto no ha impedido que empresas como OpenAI, Apple, Anthropic, NVIDIA, Salesforce y Runway AI usen videos extraídos de la plataforma para entrenar sus sistemas.

Fuente: TheWrap