Usos perversos de la Inteligencia Artificial (IA)
Usos perversos de la Inteligencia Artificial (IA)
Ricardo Monreal Ávila
No te pierdas por nada la lectura de está seria advertencia que nos hace nuestro apreciado amigo y colaborador de Candelero Ricardo Monreal Avila, sobre la perversidad que empieza a manejarse con el mal uso de la nueva tecnología de la Inteligencia Artificial (IA) mediante las llamadas “Deep fakes” (mentiras profundas) que están sustituyendo a las “Fake news” (noticias falsas) y que ya se utilizaron contra Marcelo Ebrard. Monreal dice que “se aventura” a darnos algunas recomendaciones para no caer en este tipo de mentiras que pueden contribuir a incrementar los riesgos de violencia en este disputado proceso electoral que, de hecho, ya arrancó. Así que no creas en todo lo que escuchas ni confíes en todo lo que ves. En estos tiempos de “Deep fakes”, más vale verificar y validar que lamentar.
-x-x-x-x-x-x-x-x-
Las Fake news o noticias falsas son asunto del pasado; lo nuevo son las llamadas Deep fakes o “mentiras profundas”. ¿En qué consiste esta nueva variante de la difusión de información en la Era de lo que Tesich denominó como la posverdad?
Se trata de imágenes, audios, videos e información aparentemente fáctica que imitan la apariencia y la voz de las personas. Son elementos tan convincentes, al momento de difundir hechos o declaraciones, que no dejan lugar a dudas y pueden parecer tan reales que engañan no sólo al público, sino también a los algoritmos y la tecnología que se emplea para filtrar este tipo de información.
Esta nueva realidad nos coloca ante un fraude digital, sin obviar los evidentes problemas de difamación, calumnia, así como el robo de identidad y datos personales que suponen estas prácticas.
El uso de esta “herramienta”, por llamarle de alguna manera, en diferentes contextos, busca confundir o generar percepciones equívocas. Se nutre del incesante desarrollo de la inteligencia artificial y aprovecha las incontables alternativas que existen actualmente para difundir información, desde los medios tradicionales de comunicación hasta las redes sociales.
Me detengo aquí, en un elemento novedoso fundamental: la inteligencia artificial (IA). Si bien no se trata de un fenómeno reciente, hablamos de una tecnología de última generación que puede considerarse como el resultado de la combinación de Matemáticas, Filosofía, Psicología, Lingüística, Neurología, Ciencias de la Computación y otros campos.
A través de una consulta a la herramienta ChatGPT (Chat Generative Pre-trained Transformer), que precisamente es una de las novedosas herramientas creadas a partir de la IA, encontré una sencilla definición para esta tecnología:
La simulación de la inteligencia humana en máquinas que están programadas para pensar y aprender como los humanos. Implica el desarrollo de sistemas informáticos o algoritmos que puedan realizar tareas que normalmente requieren de la inteligencia humana, como comprender el lenguaje natural, reconocer patrones, resolver problemas complejos y tomar decisiones.
Además, de acuerdo con lo que nos explica la misma IA, esta combinación de algoritmos abarca una amplia gama de tecnologías y técnicas que incluyen elementos como el aprendizaje automático, el aprendizaje profundo, el procesamiento del lenguaje natural, la visión por computadora, la robótica, los sistemas expertos, el aprendizaje por refuerzo y la planificación de IA, entre otros.
La IA tiene una amplia gama de aplicaciones en diversas industrias, incluidas la atención médica, las finanzas, el entretenimiento, el transporte y más. Posee el potencial de automatizar tareas repetitivas, mejorar la toma de decisiones y resolver problemas de todo tipo, incluso los más complejos.
Sin embargo, también plantea cuestiones éticas y sociales relacionadas con la privacidad, el uso de datos personales, los prejuicios y hasta el desplazamiento laboral.
A medida que la IA siga avanzando, es muy probable que desempeñe un papel cada vez más importante en la configuración del futuro de la tecnología y de las relaciones sociales.
Precisamente, una de estas cuestiones éticas y morales recae en el problema que mencionamos al principio: las Deep fakes, que se suelen emplear para efectos socialmente negativos, como difamación, divulgación de mentiras, calumnia, manipulación y engaño. Desde luego, la política es una de las principales actividades que ha impactado el (mal) uso de la inteligencia artificial y el predominio de las Deep fakes, pues por la naturaleza de este oficio estas prácticas tienen un terreno fértil y provechoso.
Proveen un instrumento que fácilmente puede emplearse en estratagemas negativas, principalmente en el plano digital. De hecho, existen redes sociales que ofrecen herramientas abreviadas para emplear la IA en sus plataformas.
En Estados Unidos, por ejemplo, la arena política ha sido víctima de la difusión de Deep fakes en contra de ex presidentes y candidatos, como Barack Obama y Donald Trump, así como en contra de otros personajes de la vida pública de ese país.
En México, el pasado fin de semana circuló una mentira profunda en contra de Marcelo Ebrard; se trató de una grabación que empleaba información de su voz para imitarla exactamente, y en la cual hacía un llamado a sumarse a otra fuerza política para apoyar a su aspirante a la presidencia de la República. Inmediatamente el equipo del ex canciller salió a desmentir estas grabaciones y aclarar su procedencia.
Es muy probable que a medida que avancen las campañas políticas y la competencia alcance sus puntos más álgidos, se utilicen cada vez más estas tácticas y las Deep fakes formen parte de la conversación pública. Por ello, es imprescindible estar listos para no caer en este tipo de engaños y conocer los elementos que nos permitan distinguir la información veraz de la mentira.
Aquí aventuro algunas ideas y consejos para no caer en este tipo de mentiras:
Corroborar, verificar y validar en distintas fuentes y medios alternativos lo que estamos viendo o escuchando. Es preferible acudir a la fuente principal.
Ver y escuchar con detenimiento la imagen y el audio que la acompaña, pues por lo general este tipo de montajes digitales todavía presentan ciertos elementos que nos permiten distinguir información real de elementos manipulados.
Recurrir al sentido común: desconfiar de cualquier noticia o información grandilocuente, sensacionalista y desmedida. Aconsejo seguir el viejo consejo que nuestras maestras y maestros de la infancia nos decían: “no creas en todo lo que escuchas ni confíes en todo lo que ves”.
En tiempos de Deep fakes, más vale verificar y validar que lamentar.
X y Facebook: @RicardoMonrealA