Reemplazo de la identidad: ¿un límite de la inteligencia artificial?

Sabemos qué la inteligencia artificial produce información gracias a una relación de datos preestablecidos y cargados por humanos, no por tener el poder de razonar dicha información. Ese procesamiento se realiza de manera rápida, arrojando datos qué en ocasiones no son ciertos. Esto lo podemos verificar al momento de ordenarle a la IA un resumen, un diagrama o trabajo para presentar y vemos qué los datos no coinciden con los textos adjuntados. Estos errores pueden producir trabajos de estudios qué a pesar de parecer correctamente confeccionados, tienen datos falsos, investigaciones inventadas, cómo también imágenes y videos. Pero, ¿qué sucede si además identifican personas qué no son las mismas que muestran en las imágenes?, ¿ qué problemas puede traer si la IA confunde a una persona por otra y difunde esa información?. 

El caso de la activista y politóloga Argentina, Flavia Broffoni, habré una incógnita en el manejo de la información personal y los daños qué puede provocar la inteligencia artificial si no se aplican políticas regulatorias, o restrictivas. Sobre el hecho, dónde la profesional recibió amenazas y dificultó su vida en esos días, la IA cruzó un límite qué según los responsables de Google no podía ser cruzado, argumentando que la inteligencia artificial

 "no podía validar ni comentar capturas de pantalla difundidas por servicios de mensajería sin contar con un enlace directo que permitiera verificar técnicamente el resultado". 

 Pero lo cierto es qué no sólo difundió una información errónea, sino qué además confirmó su identidad al ser consultada en el buscador, por otra persona qué estaba en un lugar que la activista no había conocido y qué en su aspecto físico, es más joven. Los datos qué utilizó la IA estaban en la red, pero la vinculación la realizó la propia inteligencia, lo que hace más grave el alcance de esta herramienta. 

En Argentina la Ley 25.326 de Protección de Datos Personales, sancionada en el año 2000, tiene un alcance limitado qué no contempla el avance de las nuevas tecnologías ni la utilización en plataformas digitales, qué solicitan información personal para completar formularios o avanzar en el acceso a aplicaciones. 

¿RESPUESTAS MANIPULADAS O UN ENGAÑO A NUESTRO SENTIDO?

Acceder a una respuesta de la inteligencia artificial puede llevarnos a tomar con total certeza lo qué estamos leyendo o bien puede condicionar nuestro pensamiento, de cualquiera de las dos maneras no va a contradecir nuestro parecer, según un estudio realizado en 2025 en Brasil. Los investigadores de la Universidad Estatal de Campinas (UNICAMP), consideran que la IA toma la orientación política qué los usuarios tienen para arrojar resultados afines a éstos. Respondiendo a la simpatía que los humanos manifiestan al validar las prácticas diarias y las búsquedas, sobre todo mostrando una mayor afinidad a las respuestas que puedan brindar los diferentes tipos de inteligencias artificiales por sobre la opinión de un humano. 

Esta investigación no sólo lleva a comprender que las IA nos brindan datos sin contraste, sin datos ni fuentes verificables, sino que además cumplen con alimentar nuestro propio pensamiento. Algo así cómo un amigo qué nos quiere "endulzar" el oído sólo para seguir recurriendo a él cada vez qué lo necesitemos. Las consecuencias de un pensamiento ensimismado, vació de información científica y confiable, qué se retroalimenta con más información qué cargamos en la red. Muestra la gravedad en materia de desinformación y en la creación de vínculos más pobres entre seres humanos por sobre el uso de los dispositivos tecnológicos, alimentando una brecha cognitiva. Ya qué llevado a las redes sociales, aumentan las diferencias en torno a los discursos ideológicos y políticos.   

¿Pero qué podemos hacer si una información no es correcta, nos engaña o nos confunde?¿Qué hacemos para frenar el acceso a nuestra información personal y evitar la vulneración de ella?. ¿ Cómo podemos confiar en lo que nos brinda la inteligencia artificial y fluye en la red?. 

Aunque parezca algo impensado, hoy podemos hablar de camuflarnos visualmente para evitar ser captados por la IA, quizás no es la solución definitiva a éstos interrogantes, tampoco en el corto plazo ya que la inteligencia avanza a niveles agigantados, mejorando su alcance. Pero es una opción qué el diseñador Simon Weckert creó en una camisa imperceptible para las IA, luego de que las autoridades alemanas aumentaran el uso de la vigilancia informática en ese país. Al igual que EEUU, las principales potencias del mundo, están desarrollando y apostando al uso de las IA para optimizar la protección de datos. Identificar rápidamente ataques digitales, controlar a la población y preservar la seguridad de cada región.

Es difícil imaginar hoy un futuro libre de IA, sobre todo porque se convirtió en una herramienta de uso cotidiano para las sociedades del mundo. Todavía no hay políticas que sirvan para orientar la mirada, la perspectiva de su creación y avance tan rápido, mucho menos para asegurar su uso noble o fines didácticos. Lo qué si es claro es que hay muchos "grises" qué no se pueden explicar y en su práctica, los vínculos humanos se licuan cada vez más, perdiendo identidad.

Para seguir reflexionando sobre esto, podes escuchar el siguiente Podcast sobre la IA y 3 aspectos qué aún nos condicionan y ponen en debate su uso:

Fuentes: 

• https://www.rionegro.com.ar/sociedad/una-inteligencia-artificial-confundio-a-una-activista-chubutense-con-una-mujer-de-espana-y-recibio-amenazas-de-muerte-4732579/
• https://www.dw.com/es/la-ia-que-nunca-te-contradice-podr%C3%ADa-profundizar-la-polarizaci%C3%B3n-pol%C3%ADtica/a-79403649
• https://www.lavanguardia.com/neo/ia/20260901/11624466/nueva-capa-invisibilidad-ia-disenador-crea-camisa-hortera-confunde-tecnologia.html