Español Português
AHORA

La dependencia de la IA amenaza la autonomía intelectual

El concepto de deuda cognitiva advierte sobre los efectos de delegar en la IA actividades que requieren reflexión

El uso constante de herramientas automatizadas puede reducir el ejercicio del pensamiento crítico. Foto: Banco de Imágenes/Pinterest.

Mundo – La creciente dependencia de herramientas de inteligencia artificial (IA) para escribir, investigar, programar y organizar información puede reducir la autonomía intelectual y debilitar la capacidad de pensamiento crítico. El fenómeno se relaciona con el concepto de “deuda cognitiva”, que describe los posibles efectos de transferir constantemente actividades intelectuales humanas a sistemas automatizados.

El debate también recupera las reflexiones del filósofo y sociólogo francés Edgar Morin sobre los riesgos de un conocimiento fragmentado, incapaz de comprender la complejidad de la realidad.

El problema va más allá de las limitaciones técnicas de los programas. También tiene que ver con la manera en que las personas utilizan estas herramientas y confían en las respuestas que producen. Cuando la tecnología comienza a asumir tareas que requieren interpretación, reflexión y elaboración de argumentos, existe el riesgo de que los usuarios dejen de ejercitar capacidades fundamentales para construir conocimiento de manera autónoma.

La fragmentación del conocimiento y la crítica de Edgar Morin

Una de las principales referencias de esta discusión es Edgar Morin, quien desarrolló el concepto de «inteligencia ciega» para cuestionar las formas de conocimiento excesivamente especializadas. Desde esta perspectiva, intentar comprender la realidad dividiendo los fenómenos en partes aisladas puede impedir que se reconozcan las relaciones que existen entre ellos.

Morin identifica dos mecanismos que intervienen en este proceso: la disyunción y la reducción. La primera separa los objetos de sus contextos y organiza el conocimiento en disciplinas que mantienen escaso diálogo entre sí. La segunda elimina de los fenómenos sus dimensiones humanas, históricas, sociales y afectivas, tratándolos principalmente como elementos que pueden medirse y cuantificarse.

Esta forma de producir conocimiento también aparece en la relación contemporánea con la tecnología. Los sistemas de inteligencia artificial pueden procesar enormes cantidades de datos en poco tiempo, pero la capacidad de calcular y organizar información no significa necesariamente comprender las relaciones que constituyen la realidad.

El resultado puede ser una sociedad que acumula información, pero tiene dificultades para relacionarla, contextualizarla y construir interpretaciones propias. En ese proceso, la cantidad de datos disponibles ocupa el lugar de la reflexión, mientras las cuestiones históricas, culturales y sociales quedan fuera de los análisis.

Los límites de la observación algorítmica

Otro aspecto importante tiene que ver con la capacidad de los sistemas de inteligencia artificial para interpretar el mundo físico y visual. Aunque herramientas como ChatGPT y Gemini pueden redactar textos, traducir idiomas, desarrollar código y generar imágenes en pocos segundos, su rendimiento en estas tareas no significa que posean una comprensión equivalente a la humana.

Una investigación difundida por el portal Computer Hoy, basada en un estudio de las universidades de Auburn y Alberta, identificó dificultades de modelos avanzados en pruebas de interpretación gráfica. Según los resultados presentados en esa publicación, los sistemas tuvieron problemas para reconocer e interpretar determinados elementos visuales y figuras geométricas sencillas.

La comparación utilizada es la de una persona con miopía severa o incluso ciega. El ejemplo busca mostrar la distancia entre la fluidez con la que los sistemas producen respuestas y sus limitaciones para interpretar determinados aspectos del entorno visual.

Esta diferencia importa porque la capacidad de ofrecer una respuesta aparentemente coherente puede transmitir al usuario una impresión de comprensión que no siempre corresponde al funcionamiento real de la herramienta. Los modelos de lenguaje trabajan con patrones estadísticos y relaciones entre informaciones, algo que no equivale, por sí mismo, a comprender el contexto del mundo.

La confianza excesiva en estos resultados puede llevar a las personas a sustituir la observación directa por la interpretación de un sistema automatizado, incluso cuando este presenta limitaciones.

Deuda cognitiva: cuando se delega el trabajo intelectual

La expresión «deuda cognitiva» permite comprender otro efecto de la expansión de la inteligencia artificial. El concepto se refiere al riesgo de debilitamiento de las capacidades intelectuales cuando las actividades que requieren esfuerzo mental se transfieren sistemáticamente a herramientas digitales.

Redactar un texto, desarrollar un programa, resumir una investigación o elaborar una estrategia son actividades que involucran distintas operaciones cognitivas. Cuando el usuario delega todas esas etapas en una máquina, puede dejar de ejercitar habilidades relacionadas con el razonamiento abstracto, la argumentación y la resolución creativa de problemas.

El problema no consiste simplemente en utilizar la tecnología para facilitar tareas. La preocupación aparece cuando la asistencia deja de funcionar como apoyo y comienza a sustituir el propio proceso de elaboración intelectual.

El debate también llama la atención sobre los efectos de esta dependencia entre las nuevas generaciones. El uso constante de asistentes digitales puede reducir las oportunidades de desarrollar autonomía, afrontar contradicciones y encontrar soluciones ante situaciones que no tienen respuestas inmediatas.

El filósofo José Manuel López García, citado en esta discusión, recupera precisamente la importancia de la incertidumbre en el pensamiento de Morin. La vida social no ofrece certezas absolutas, y la formación intelectual debe preparar a las personas para interpretar situaciones complejas, en lugar de limitarse a proporcionar respuestas prefabricadas.

Morin desarrolla esta reflexión en Los siete saberes necesarios para la educación del futuro, obra en la que defiende una educación capaz de reconocer los límites del conocimiento y preparar a las personas para convivir con el error y la incertidumbre.

El riesgo de una sociedad dependiente de sistemas opacos

La transferencia de actividades intelectuales a plataformas digitales también plantea preguntas sobre autonomía y control. A medida que las decisiones, las interpretaciones y los procesos de producción de conocimiento dependen de sistemas automatizados, aumenta la influencia de tecnologías cuyos mecanismos internos no siempre son accesibles para sus usuarios.

La discusión también advierte sobre el carácter comercial y la falta de transparencia de estas plataformas, cuyas reglas de funcionamiento permanecen, en gran medida, fuera del control de la población y del escrutinio democrático.

La cuestión, por lo tanto, no se limita a la capacidad individual de pensar. También involucra quién controla las herramientas utilizadas para producir, organizar y distribuir información, así como los criterios empleados para presentar determinados resultados como respuestas confiables.

Desde esta perspectiva, la realidad humana no puede reducirse a perfiles digitales, patrones de consumo o ecuaciones matemáticas. Las relaciones sociales están atravesadas por dimensiones históricas, culturales, afectivas y políticas que no pueden comprenderse plenamente mediante cálculos estadísticos aislados.

Educación crítica frente a la expansión de la inteligencia artificial

Como alternativa a la dependencia tecnológica, el debate plantea la necesidad de una formación digital crítica que enseñe a los usuarios a cuestionar los resultados de los algoritmos, verificar la información y reconocer los límites de las respuestas automatizadas.

Esta perspectiva también requiere un mayor diálogo entre las distintas áreas del conocimiento. En lugar de analizar los datos de manera aislada, es necesario preguntarse qué aspectos sociales, culturales, históricos y éticos quedaron fuera de una determinada interpretación.

La tecnología puede ofrecer herramientas valiosas para la investigación, la comunicación y la producción de conocimiento. Sin embargo, su utilización no elimina la necesidad de reflexionar, observar y construir argumentos propios.

El aporte de Edgar Morin permite comprender que el conocimiento no se limita a acumular información. Pensar exige relacionar distintas dimensiones de la realidad, reconocer contradicciones y aceptar que no todos los problemas tienen respuestas definitivas.

El debate sobre la inteligencia artificial plantea, por lo tanto, una pregunta central para la educación y la vida democrática: ¿cómo utilizar herramientas capaces de ampliar las posibilidades humanas sin entregarles el control del propio pensamiento? La respuesta requiere formar personas capaces de cuestionar la tecnología, en lugar de limitarse a consumir los resultados que esta presenta.

Steve Rodríguez

Steve Rodríguez es reportero de Fronteira Livre, investigador y doctorando en la Universidad Federal de Integración Latinoamericana (UNILA). Posee una formación interdisciplinaria en narrativa audiovisual, estudios culturales latinoamericanos y prácticas pedagógicas anticoloniales. Su trayectoria articula la creación artística en ámbitos como el teatro, el cine y la cultura visual con la reflexión crítica y la investigación académica, desde una perspectiva inspirada en los estudios visuales desarrollados por Nicholas Mirzoeff.

Receba notícias no WhatsApp do Fronteira LivreReceba notícias no WhatsApp do Fronteira Livre

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *