Por Augusto Pomponio Hotton
Vivimos en un mundo donde la tecnología se hizo presente en todos, desde los más chicos hasta los más grandes. ¿Pero estamos conscientes de lo que hay detrás de su uso?. Últimamente, lo que más se usa para compartir y charlar son las redes sociales, y para crear utilizamos la Inteligencia Artificial. Lo que no sabemos es que hay un lado oscuro que te voy a contar en este artículo.
De creadores del dilema a denunciantes: ex trabajadores de redes sociales preocupados
Seguramente pensemos que las redes sociales no son malas, que son divertidas, que conectan personas, donde compartimos fotos, recuerdos y hacemos amigos.
Todo esto es verdad, pero lo que no vemos es lo que saben quienes la crearon: desarrolladores, ejecutivos y diseñadores que hicieron cada función.
En el documental El dilema de las redes sociales aparecen muchos de ellos hablando con sinceridad.
La mayoría son programadores, ingenieros, formadores, fundadores, y cofundadores que trabajaron en las empresas creadoras de las redes sociales.
No hablan de teorias conspirativas, hablan desde la experiencia de haber visto cómo un proyecto pensado para conectar tiene su lado oscuro.
Entre los denunciantes encontramos a Jeff Seibert (ex ejecutivo de Twitter), Tristán Harris (ex diseñador de Google), Tim Kendall (ex ejecutivo de Facebook), Bailey Richardson (una de las primeras empleadas de Instagram), Justin Rosenstein (ex ingeniero de Facebook y Google), Sean Parker ( ex presidente de Facebook) y más de 20 expertos que nos cuentan lo que vieron.
No son voces cualquiera. Son personas que tuvieron el poder de decidir qué pasaba en las plataformas que usamos hoy en día, pero se alejaron por miedo a las consecuencias de sus propias creaciones.
"Me gusta": Un gesto con problemas psicológico
En este apartado empezamos a poner en juego el mal de las redes sociales.
En un principio pensaríamos que un "me gusta" en Facebook no podría hacer nada mal a alguien. Justin Rosenstein, el ingeniero creador de este botón, dice que lo creó para difundir amor, pero nunca imaginó que este gesto causaría a los usuarios, sobre todo en adolescentes:
- Adicción
- Comparación
- Depresión
En el artículo La doble cara de la codificación nos muestran, con varios estudios, el gran problema que dejó esta simple reacción.
Muestran el aumento preocupante en niveles de ansiedad, depresión y autolesiones en los adolescentes desde 2011, en su gran mayoría chicas.
Esto se debe a la constante comparación social, la búsqueda de aprobación y la presión por mostrase feliz todo el tiempo, lo que genera un autoestima frágil y una sensación de vacío.
- Desde 2011, hay un gran aumento en la depresión y ansiedad en adolescentes.
- Muchos adolescentes con ingresos al hospital debido a autolesiones (cortes), este aumento un 62%, y un 189% en preadolescentes.
- Un gran aumentó en la tasa de suicidio, un 70% en adolescentes y un 151% en preadolescentes.
No solo las reacciones de estas redes tienen un impacto psicológico, sino que también las redes sociales generan un riesgo significativo de malestar psicológico y problemas en la salud mental.
Muchas apps nos manipulan emocionalmente. En un artículo hablo justamente de cómo TikTok puede mostrarnos videos que nos llevan de la felicidad a la tristeza, afectándonos.
Sin privacidad: las redes sociales nos conocen
Cuando pensamos en la privacidad, seguro nos imaginamos que es no compartir nuestras contraseñas o configurar nuestras redes para que otros no vean lo que publicamos. Pero en realidad, la privacidad digital es algo peor.
Cada clic, like, posteo y visualización que dejamos se convierte en información que vale oro para las compañias de estas redes sociales.
No solo recolectan esta información, sino que la usan sin nuestro consentimiento.
En el documental El dilema de las redes sociales se muestra cómo nos conocen: somos un muñeco vudú tecnológico donde las redes ya saben todo sobre nosotros: nombres, familiares, qué comemos, qué estudiamos, qué deportes nos gustan y muchas cosas más.
Nos manipulan para que nos quedemos dentro de su app. Solo nos muestran cosas de nuestro gusto y así nos retienen por horas.
Este modelo se llama capitalismo de vigilancia, donde convierten nuestra vida cotidiana en un recurso comercial.
Nuestros datos son la materia de estas empresas, que mantienen un registro constante de los usuarios y un monitoreo infinito.
Cada movimiento que hacemos es monitoreado por sistemas que ya nos conocen más que nosotros mismos, así es como crece esta vigilancia invisible sin que lo notemos.
Saben cuando te sentís solo o si mirás fotos de tu expareja.
Saben lo que hacés de noche, si sos introvertido o extrovertido, cuál es tu neurosis, tu personalidad. Lo saben todo.
¿Que hacen con esta información? Construyen modelos que predicen nuestras acciones, y la red social que tenga el mejor modelo gana nuestra atención.
El precio de estar conectados fue renunciar a nuestra privacidad sin darnos cuenta.
Una frase que nos dejan es: "Si no pagás por el producto, vos sos el producto".
Te dejo mis dos articulos donde expongo más sobre nuestra privacidad en Internet: Puerta abierta: Sin privacidad, internet sabe de nosotros y Concentración, algoritmos y vigilancia: el costo de estar siempre conectados.
Fake news: la mentira vale más que la verdad
Otro gran dilema es la desinformación en el mundo digital.
Las noticias falsas se esparcen mucho más rápido que las verdaderas.
National Geographic analizó cómo los adolescentes se ven muy influenciados por las noticias falsas y también como las redes sociales intervinieron.
Uno de los casos en el artículo es sobre una niña de 13 años en EE.UU que no quería llevar barbijo por el covid. Se negó diciendo que los barbijos no funcionan y que los niños más chicos no se contagiaban.
Durante la pandemia, este fenómeno se hizo más evidente.
Las redes sociales como YouTube estaban repletas de teorías conspirativas y mensajes antivacunas que quizás costo la vida de aquellos que lo creyeron.
En el documental se muestra el caso del basquetbolista Kyrie Irving, que tuvo que salir a disculparse por pensar que la tierra era plana. Contó que les salían muchos videos recomendados de terraplanistas con sus teorías que terminó creyendo y salió a hablar por todos lados como si fuera verdad.
Después de mostar este caso, nos advierten que nunca miremos los recomendados de YouTube.
Ahora, ¿por qué las redes no borran y siguen difundiendo la desinformación?
Las redes sociales ganan mucho dinero con cada publicación o video visto. No importa si es desinformación: si ese contenido es rentable para ellos, lo dejan.
"La indignación vende más", nos dice Tristán Harris.
Esto es lo que genera:
- Aumento de la participación: las noticias que generan indignación son las más compartidas, comentadas y reaccionadas, aumentando su visibilidad y monetización.
- Desinformación y manipulación: quienes difunden desinformación utilizan la indignación para amplificar sus narrativas y controlar la agenda.
- Modelo de negocio: las empresas de redes sociales descubrieron que la indignación es más rentable que otros enfoques, ya que es un motor de tráfico constante.
Artificial: una máquina que sabe todo
Una herramienta que seguro todos usamos en algún momento, tan útil que nos facilita la vida cotidiana. Pero detrás de toda esa magia hay una estructura invisible.
Antes, quería contarte que tengo un artículo muy desarrollado sobre el tema. Hace click aquí para leerlo.
Capitalismo de vigilancia, ahora más que nunca
Como vimos en mi artículo Un cuarto oscuro: el peor lado de las redes sociales y la IA, su fase se centraba en la recolección de datos. Bueno, ahora es mucho más perfecta, porque no solo recolectan, sino que analizan, hacen predicciones y acciones automatizadas.
Los algoritmos anteriormente nos mostraban contenido que se adaptaba a nuestros gustos. Ahora, la inteligencia artificial interactúa con nosotros, aprende nuestras emociones, nos responden en tiempo real e influye en nuestras decisiones con precisión.
Tal como las redes sociales, cada mensaje, posteo, fotos, videos o likes alimenta este sistema de predicción.
El problema es que ya no quieren saber qué queremos, sino hacernos querer algo.
Es por esto que los ex ejecutivos de Sillicon Valley como Tristán Harris, Tim Kendall o Chamath, los propios arquitectos de la IA, dan voz de alarma.
Hoy la Inteligencia Artificial crea el contenido que nos va a atrapar. Influyen directamente en nuestra mente.
También hay que decir la cantidad de videos creados con esta herramienta, tan bien creados que en el futuro no vamos a poder diferenciar lo falso de lo real.
¿Y a vos? ¿Ya te aparecieron videos falsos creados con IA?
Riesgos de la IA: en lo social, laboral e impacto ambiental
Juegan un papel clave en lo social, laboral y en la manipulación autónoma.
En un artículo de PiraniRisk nos muestran estos riesgos:
- Privacidad y seguridad de datos: la IA necesita millones de datos personales. Esto incluye mucha información personal sensible, y si no es protegida, puede filtrarse, venderse o ser hackeada.
- Laboral: muchas tareas se están automatizando, y algunos empleos pueden desaparecer. Desplazan a millones de trabajadores, en mi anterior artículo hable justo del puesto del docente, donde dicen que podrían mejorar la enseñanza.
- Fallos: hoy en día, la IA está en autos autónomos, hospitales o redes. Si algo sale mal, como alguna falla, pueden en poner en riesgo vidas o poner servicios en peligro.
- Noticias falsas: con la IA se pueden crear imágenes, audios y videos falsos que son creíbles. Esto pueden ser utilizados para manipular opiniones, influir en elecciones y sembrar desconfianza.
- Riesgos en la seguridad global: la Inteligencia Artificial puede usarse para espionaje o ciberataques. En las manos de alguien que la usa mal puede convertirse en una arma de guerra.
- Impacto ambiental: la IA, para funcionar, necesita de extracción de materias primas y no solo eso, sino que utilizan en gran cantidad recursos vitales como el agua y la energía. En un artículo de pure.uai nos dicen que una imágen creada con esta herramienta puede llegar a gastar 3,45 litros de agua. También generan desechos tóxicos y crean desigualdad.
Punto final: Los nativos digitales y Superficiales.
En este apartado vamos a conectar estos temas: Redes sociales y la Inteligencia Artificial con antiguos artículos que hice sobre Internet, con aportes de Carr y Desmurget. Mis dos artículos son: Somos un plástico moldeable al calor y ¿somos vulnerables por internet y la tecnología?
Sabemos que estamos en una época donde la atención, la memoria y la capacidad de pensar profundamente están siendo moldeadas por pantallas, algoritmos y notificaciones constantes.
Primero que nada, hay que recordar que Desmurget les dice a los jóvenes de hoy "nativos digitales". Los denomina así porque están creciendo con un excesivo uso de pantallas. También añade de que podrían ser la primera generación con coeficiente intelectual (IQ) más bajo que el de sus padres. Rompiendo una tendencia histórica donde cada generación era en promedio un poco más inteligente que la anterior.
A esto se lo llama el efecto flynn, donde se mostraba que el IQ aumentaba con el tiempo gracias a la mejor educación, salud, lectura y vida cultural. Pero ahora, en países como Francia, Noruega o Dinamarca, las nuevas generaciones están mostrando resultados más bajos. Esto no se debe a la genética, sino al estilo de vida digital.
¿Qué hacen las pantallas con nosotros?
La atención fragmentada. Carr lo anticipó y las redes lo perfeccionaron. En Superficiales nos explica Carr que internet nos entrena para saltar de estímulo en estímulo. Cada notificación interrumpe nuestro pensamiento, nos impide concentración y nos empuja a una lectura rápida y superficial.
Por otra parte, Desmurget piensa lo mismo. Señala que las pantallas generan una sobreestimulación de la atención, lo que nos provoca trastornos de concentración y aprendizaje.
Las redes sociales nos llevan a esta lógica. Diseñan funciones para capturar nuestra atención. Estas funciones son el scroll infinito, videos cortos, notificaciones, sonidos y recomendaciones.
Una infancia en peligro. Desmurget nos avisa que es importante este tema sobre todo en niños y adolescentes. "El tiempo frente a pantallas retrasa la maduración anatómica y funcional del cerebro".
Algo muy importante es el costo emocional, algo que mencionamos en el apartado del me gusta. Desmurget nos señala que las pantallas provocan disminución en la calidad y cantidad de interacciones intrafamiliares, que son fundamentales para el desarrollo emocional.
Esto se ve de forma clara en las redes sociales:
- Conversaciones cortas.
- Vínculos superficiales.
- Miedo de quedar afuera.
- Validación constante medida por likes o comentarios.
Los videojuegos también forman parte. Si bien desmurget no los clasifica como malos, sino que nos dice que ocupan demasiado tiempo y reemplazan actividades que desarrollan mejor el cerebro, como leer, conversar o practicar algo nuevo. Los juegos lo único que ofrecen son estímulos rápidos, luz, sonido y recompensas, lo que hace que nuestro cerebro se acostumbra a esa velocidad.
Lo que generan:
- Menos tiempo para actividades enriquecedoras.
- Sueño interrumpido.
- Estilo de vida sedentario (estar mucho tiempo sentado).
Las redes sociales y la IA forman parte de esta rutina. Buscan moldear nuestra identidad, vínculos y nuestra inteligencia. Toman cada una de nuestras vulnerabilidades y las multiplican, generando hábitos que nos empobrecen la memoria, reducen nuestra atención y la dificultad de pensar siendo críticos.
Por esto mismo tenemos que usarla conscientemente.
Reflexionando
Después de leer todo, ¿qué pensas sobre las redes sociales?
No se trata de borrar nuestros usuarios, apagar los celulares o nunca entrar a internet, sino de ser conscientes.
Entender que cada click que hacemos tiene un gran valor, que cada dato dice algo de nosotros y que cada minuto en las redes alimenta su modelo de sistema.
Conectados
Ahora nos podes ver y escuchar en YouTube y Spotify:
No te pierdas de conocer a Pía y Tom, dos asistentes que cree para que nos ayudaran a entender el mundo de las redes sociales y la Inteligencia Artificial. Una mirada directa y fácil de entender sobre lo que no vemos detrás de las pantallas.
Bibliografia:
- 9 riesgos en la Inteligencia Artificial y cómo gestionarlos - Pirani, fecha de acceso: noviembre 5, 2025.
- Revelan alto costo ambiental de data center que posibilitan usa de la IA - Pure.UAI.
- Capitalismo de vigilancia - Enrique Dans. 17 de junio de 2025.
- Las fake news siempre han existido, pero hoy en día se ha visto catapultadas por las redes sociales" - Universidad Complutense Madrid.
- Así es como las redes sociales pueden convertirse en una pesadilla - National Geographic por Daryl Austin. 8 de agosto de 2024.
- Cómo nos espían WhatsApp, Instagram y Facebook - Perfil por Gabriel Zurdo. 25 de agosto de 2020.
- Análisis y crítica de "el dilema de las redes" - contracultura. 13 de noviembre de 2020.
- Kyrie Irving, terraplanista, antivacunas. El Mundo. 5 de Febrero de 2023.
- La doble cara de la Codificación: Un análisis Comparativo de la problemática sociotécnica de las redes sociales y la IA. Resumen ejecutivo.
- La otra cara de la tecnología: Un análisis comparativo de las redes sociales y la Inteligencia Artificial.
- Los nativos digitales son los primeros niños con un coeficiente intelectual más bajo que sus padres - por Irene Hernández en la BBC.
0 comentarios:
Publicar un comentario