Suplantación de identidad por voz con IA, como innovar en la ley desde el Derecho

La inteligencia artificial (IA) ha revolucionado múltiples sectores, desde la salud, el comercio, la educación hasta el entretenimiento. Esta tecnología y su avanzada evolución, cada día se actualiza para ayudar y optimizar tareas. Sin embargo, el mal uso de esta tecnología ha dado lugar a nuevas formas de delito: la suplantación de identidad por voz. 

Desde el lado jurídico boliviano, hay oportunidades para la adecuación al rápido crecimiento de la tecnología. Pero ¿cuál es el marco jurídico para aplacar estas malas prácticas?

William Llanos, docente de la carrera de Derecho de la Universidad Franz Tamayo, Unifranz, considera que en Bolivia se requieren actualizaciones en las normativas con el propósito de adaptar con la incorporación de leyes y regulaciones. Esto permitirá establecer los controles pertinentes y de esta manera presentar un marco regulatorio más específico con relación a suplantación de voz con IA.

“Es necesario la actualización de normativas; es decir adaptar nuestras leyes a conductas como la suplantación de identidad y fraude para incluir de manera explícita el uso de IA. De la misma manera, implementar regulación específica de la clonación de voz para establecer controles estrictos sobre la generación y uso de modelos de voz sintética” explica Llanos.

De la misma manera, el jurista reconoce, que las normativas no están acorde a la evolución de la tecnología, esta última ha sido más rápida a comparación de la transformación y adaptación de las leyes.

“En nuestro país, la rapidez con la que evoluciona la tecnología no ha sido acompañada con la misma rapidez por el derecho, por lo que nos encontramos frente a desafíos para el derecho, pero también para la ciberseguridad” 

Prácticamente hay un vacío específico sobre el uso de la IA en delitos de clonación de voz.

Leyes en favor de la Identidad

En el ámbito jurídico boliviano, en lo que corresponde a derecho civil, desde la Constitución Política del Estado (CPE) en el inciso dos del artículo 21 se reconoce que las bolivianas y los bolivianos tienen el derecho “a la privacidad, intimidad, honra, honor, propia imagen y dignidad”.

De manera más específica, en el Código Civil boliviano, en los incisos uno y dos del artículo 16 sobre derechos de la personalidad, se establece el derecho a la imagen según indica el texto “I. Cuando se comercia, publica, exhibe o expone la imagen de una persona lesionando su reputación o decoro, la parte interesada y, en su defecto, su cónyuge, descendientes o ascendientes pueden pedir, salvo los casos justificados por la ley, que el juez haga cesar el hecho lesivo. II. Se comprende en la regla anterior la reproducción de la voz de una persona”

Al respecto, Llanos explica que en el mundo hay algunas jurisdicciones que han comenzado a desarrollar leyes específicas para la inteligencia artificial. Por ejemplo, señala a La Unión Europea, donde se ha impulsado el “Reglamento de IA” que busca establecer límites éticos y de responsabilidad sobre el uso de esta tecnología. Pero destaca que la suplantación de identidad mediante IA aún requiere un marco normativo más detallado.

“Otros países han reformado sus códigos penales para incluir la suplantación de identidad digital como un delito autónomo. Estas regulaciones pueden servir como base para abordar la clonación de voz, aunque muchas aún no contemplan explícitamente el uso de IA” explica el jurista.

Suplantación de voz, casos más recientes

Entre el diez y once de febrero se publicó en diferentes medios de comunicación sobre la clonación de voz, donde se suplantó las identidades de dos autoridades del Estado boliviano a través de audios que fueron creados con inteligencia artificial.

Un reciente caso fue la clonación de voz de Omar Veliz, actual Ministro de Educación, donde se hacían publicaciones engañosas en las plataformas de Tik Tok y Facebook para ofrecer trabajo en el sector público a cambio de dinero, específicamente en el ministerio donde Veliz es la principal autoridad. Se generaban llamadas de la publicación engañosa, donde los estafadores se hacían pasar por funcionarios públicos, y reproducían en audio la simulación de la voz de Veliz para infundir credibilidad en la víctima a través del audio

Otro segundo caso reciente fue la difusión de una noticia falsa, donde se reproduce un audio de simulación de voz de Eduardo del Castillo, Ministro de Gobierno. El audio trata sobre una candidatura de Del Castillo para las próximas elecciones nacionales del 2025, descartando al actual presidente Luis Arce. El audio fue acompañado por una imagen trucada de una de las conferencias de prensa pasadas del actual Ministro de Gobierno.

La suplantación de identidad por voz con IA utiliza la técnica conocida como "voice cloning" o clonación de voz, y se apoya de la IA para replicar la voz de una persona y lograr la similitud con precisión asombrosa, abriendo la puerta a estafas y fraudes cada vez más sofisticados. “Es muy importante que a medida que adecuamos nuestra normativa, también se establezcan marcos de cooperación con otros países para combatir la suplantación de identidad por voz con IA” finaliza Llanos.