Las maravillas de la Inteligencia Artificial (IA) han sido ampliamente celebradas en diversos campos, desde la medicina hasta la industria del entretenimiento. Sin embargo, como toda herramienta poderosa, tiene un lado oscuro que puede ser devastador. Almendralejo ha sido testigo de esta cara sombría con el regreso a las aulas.
El inicio del curso escolar en esta localidad ha estado marcado por un escándalo sin precedentes. Madres angustiadas han denunciado que sus hijas menores de edad han sido víctimas de amenazas y extorsiones basadas en imágenes falsas de ellas desnudas. Estas imágenes, creadas por aplicaciones de IA, son tan realistas que desafían la distinción entre la realidad y la ficción. Tanto que la madre de una de las menores alegaba que "yo porque conozco a mi hija, pero cualquier persona que vea eso se piensa que es ella desnuda". Aunque las jóvenes nunca se hayan dejado fotografiar en dicha situación, la tecnología hace que parezca que sí. El término "deepfake" ha resonado en los pasillos de los colegios y en las conversaciones de los padres, convirtiéndose en la pesadilla de este inicio de curso.
Este fenómeno no es nuevo, pero su alcance y facilidad de acceso son alarmantes. Lo que comenzó como recreaciones hiperrealistas de celebridades en situaciones comprometedoras, ha evolucionado a un negocio lucrativo que mueve millones de euros. Existen innumerables sitios web que presentan a famosas en escenas en las que nunca participaron. En España, la cantante Rosalía ya ha sido víctima de esta manipulación, denunciando una imagen falsa en la que aparece desnuda, creada y difundida por el cantante JC Reyes. La ganadora de dos Grammy, 11 Grammy Latino y dos Billboard no tardó en defenderse por redes sociales.
— R O S A L Í A (@rosalia) May 23, 2023
Sin embargo, no todo es negativo en el mundo de la IA. Recientemente, las redes sociales se han inundado de videos y memes icónicos de España, doblados al inglés mediante inteligencia artificial. Estos ejemplos demuestran que la tecnología, en manos adecuadas, puede ser una fuente de entretenimiento y educación.
— Kim Jong-un (@norcoreano) September 13, 2023
— Víctor Guinot (@victorguinot) September 14, 2023
La regulación y control del uso de estas aplicaciones debería estar al orden del día, protegiendo así a los mas vulnerables. Además la educación y la conciencia son esenciales para garantizar que la IA sea una herramienta que nos beneficie y no una amenaza, por lo que es tarea de todos garantizar que se utilice de manera ética y responsable.
