Más noticias – Noticias 24 horas
Investigadores de Microsoft en Asia han publicado un estudio que analiza los riesgos asociados con un programa de inteligencia artificial (IA) diseñado para generar voces extremadamente realistas.
Amenazas de inteligencia artificial
Los expertos siguen advirtiendo sobre los posibles peligros de la inteligencia artificial. Un artículo publicado por investigadores de Microsoft revela que la empresa está desarrollando un sistema que conlleva «riesgos potenciales».
Modelo VAL-E 2
El modelo de inteligencia artificial en cuestión es VALL-E 2, un programa que puede convertir texto en voz. Este tipo de tecnología se conoce como TTS (Text to Speech).
Capacidades de VAL-E 2
Los científicos del equipo de Microsoft Asia observaron que este nuevo modelo puede pronunciar de forma natural palabras complejas, incluso aquellas que son difíciles de leer o contienen frases repetidas.
Amenazas potenciales
También advierten de «riesgos potenciales» por un mal uso de VALL-E 2, por ejemplo para acceder a sistemas de identificación por voz o hacerse pasar por otras personas.
recomendaciones
El estudio sugiere que los usuarios deben dar su consentimiento al uso de su voz para que la IA pronuncie textos. Teniendo en cuenta las amenazas identificadas, se recomienda implementar un protocolo que garantice que el «propietario» de la voz consienta su uso.
Además, se discutió la posibilidad de desarrollar un modelo capaz de detectar si el sonido fue sintetizado utilizando VALL-E 2.
Declaraciones de Microsoft
Microsoft declaró en su sitio web de inteligencia artificial que la compañía «no tiene planes de incluir VALL-E 2 en el producto o ampliar su acceso público».
También te puede interesar – Medios digitales
