Las voces generadas por IA pueden ser utilizadas para manipular a las personas, haciéndolas creer que están interactuando con una persona real cuando en realidad están hablando con una máquina.
Para combatir este problema, investigadores de la Universidad de Granada (UGR) han desarrollado un nuevo sistema que permite averiguar si una grabación de voz es real o se ha generado mediante inteligencia artificial, con la particularidad de que integra modelos específicos para voces de personalidades que son objetivo frecuente de noticias falsas.
“Hemos generado una herramienta que integra soluciones propias y de terceros para discernir si un audio es real o está generado con algoritmos de inteligencia artificial. Una de las novedades que introduce esta herramienta es que no solo integra modelos generales, sino también modelos específicos generados en la UGR para voces de personalidades que son objetivo frecuente de desinformación”, explican los investigadores.
En concreto, la herramienta está especialmente capacitada para validar las voces del rey Felipe VI, el presidente del Gobierno, Pedro Sánchez, y la vicepresidenta del Gobierno y ministra de Trabajo y Economía Social, Yolanda Díaz.
Hasta ahora, el audio ha sido un problema ‘menor’ en comparación con otros tipos de contenidos falsos, como las fotografías o los vídeos. Sin embargo, en los últimos dos años está ganando terreno, por lo que es preciso contar con herramientas que ayuden a la detección de audios generados y sirvan como verificadoras de autenticidad.
Con información de 20minutos
