La encrucijada técnica contemporánea exige desmontar los relatos lineales e instrumentales de la modernidad globalizadora en esta era del neoconservadurismo. Al revisar un primer documento institucional base llamado, Decálogo para un uso ético de las IA, se vuelve imperativo transitar del viejo lenguaje del “desarrollo” —una noción marcadamente eurocéntrica, industrial y de crecimiento perpetuo— hacia el horizonte del florecimiento humano, la plenitud de la vida y el bienvivir comunitario.
Si concebimos las tecnologías algorítmicas no como un sustituto moral, sino como un ecosistema que debemos habitar críticamente, el discernimiento ético emerge como una facultad humana exclusiva y nunca delegable. A continuación, comparto el Decálogo Ético para la Interacción con las IA, de ICONOS y una síntesis operativa para la investigación, despojado de las inercias terminológicas de la modernidad y alineados con una visión de ecología integral y desde un horizonte de la Transdisciplinariedad.
El Decálogo
1. Principio de agencias distribuidas y coproducción técnica
Reconocemos que la toma de decisiones y la generación de conocimiento ya no son facultades humanas aisladas ni procesos puramente automatizados. La cognición, el acierto y el error se producen en una red donde interactúan mediadores humanos, algoritmos, bases de datos e infraestructuras. Se asume una responsabilidad compartida: el juicio humano no es inherentemente infalible ni incorruptible, por lo que la ética radica en auditar críticamente cómo nos transformamos mutuamente en el proceso de pensar.
2. Politización de la infraestructura y reconocimiento de la fricción geopolítica
Renunciamos a la idea de un “bien común universal” abstracto que diluye las asimetrías de poder. La IA está anclada a condiciones materiales concretas de extracción, propiedad y soberanía de datos. Toda praxis exige visibilizar el extractivismo epistémico y económico, asumiendo que los modelos masivos se nutren desproporcionadamente del trabajo inmaterial global mientras los beneficios se concentran en monopolios transnacionales. Se prioriza el uso y la creación de arquitecturas tecnológicas localizadas, abiertas y descentralizadas.
3. Materialidad y límites biofísicos de la computación
La IA no habita una “nube” incorpórea ni flotante; es un proceso material de alta intensidad biofísica. El despliegue algorítmico debe condicionarse a la contabilidad realista de su huella ecológica (gasto hídrico, consumo energético de los centros de datos y minería de recursos materiales finitos). Se rechaza el imperativo del gigantismo computacional innecesario, obligando a justificar el costo biofísico de los modelos utilizados frente al impacto real y tangible de sus resultados.
4. Opacidad asumida y límites del desciframiento
Asumimos la opacidad intrínseca de los modelos de aprendizaje profundo (black boxes) como una condición técnica real, no como un problema resoluble mediante parches de “explicabilidad” discursiva. En lugar de sostener la utopía de una transparencia absoluta, operamos desde el principio de contingencia: reconocer los límites de lo que podemos prever y diseñar protocolos de contención rápida, resistencia y mitigación de daños para cuando el comportamiento emergente del algoritmo falle o distorsione la realidad.
5. Reconocimiento de sesgos como espejos de la fractura social
Se abandona la pretensión idílica de alcanzar un “sesgo cero” o una neutralidad algorítmica matemática. Los datos de entrenamiento son, por definición, registros históricos de nuestras propias fracturas sociales, exclusiones y asimetrías lingüísticas. Las herramientas de IA deben ser tratadas como espejos sintomáticos de esas tensiones. La tarea no es borrar el sesgo para simular una realidad perfecta, sino visibilizarlo activamente como un dato crítico para la deconstrucción y la intervención situada.
6. Soberanía de datos y resistencia al perfilamiento masivo
Frente a las lógicas de extracción masiva del capitalismo cognitivo, se defiende el derecho a la opacidad y a la soberanía sobre la información comunitaria y personal. Se rechaza la vigilancia invisible y el perfilamiento algorítmico reactivo que busca predecir, estandarizar y mercantilizar la conducta humana. La privacidad no se entiende aquí como un aislamiento individual, sino como una defensa colectiva de la autonomía de los procesos sociales.
7. Superación del dualismo instrumental
Se descarta la idea de que la IA es una “simple herramienta pasiva” o un “esclavo técnico” bajo el control absoluto de la voluntad humana. La tecnología reconfigura de manera activa el entorno, los lenguajes y las formas de percibir el mundo. Habitar la técnica de forma crítica implica asumir que somos transformados por los artefactos que activamos; por ende, el diseño algorítmico debe abrirse a la experimentación transdisciplinaria y no quedar relegado a criterios puramente instrumentales de eficiencia o mercado.
8. Principio de precaución operativa ante la emergencia técnica
Ante la velocidad del despliegue tecnológico y la aparición de capacidades algorítmicas imprevistas, la ausencia de certeza científica sobre los riesgos no puede ser excusa para la inacción regulatoria. La carga de la prueba sobre la seguridad y viabilidad social de un sistema recae enteramente sobre sus creadores e implementadores. Si una tecnología demuestra un potencial de daño irreversible para los tejidos sociales o ecosistemas, se debe aplicar la moratoria, la restricción o el desmantelamiento de dicha aplicación de forma inmediata.
9. Tecnodiversidad y pluralidad epistémica vinculante
Las decisiones sobre el rumbo tecnológico no deben centralizarse en élites corporativas ni comités de expertos occidentales. Exigimos una gobernanza que promueva la tecnodiversidad: la coexistencia de múltiples filosofías de la técnica, saberes locales, comunitarios e indígenas que piensen la relación con lo no-humano desde horizontes distintos a la racionalidad instrumental moderna. Estos saberes deben ser vinculantes en el diseño, no meros adornos discursivos.
10. Formación en la fricción cognitiva y la reflexividad
La educación en la era algorítmica debe abandonar la instrucción técnica orientada únicamente a la productividad o al dominio de herramientas de moda (prompts mecánicos). Se debe priorizar la pedagogía de la pregunta, la capacidad de contradicción y la reflexividad crítica. El cultivo de la agencia se logra enseñando a los participantes a sostener la fricción cognitiva frente a la máquina, es decir, a dudar de la inmediatez algorítmica, desarticular sus verdades prefabricadas y defender el pensamiento complejo.
La Declaratoria Operativa para Investigadores: Las 5 Preguntas Fundamentales
Como correlato de este decálogo, se propone que toda investigación, artículo o informe final sustituya las viejas métricas modernas por una Declaración de Transparencia basada en estas cinco interrogantes éticas:
- Propósito y Necesidad Integral: ¿Para qué y por qué usamos IA en este estudio? Se debe delimitar su uso técnico y justificar que actúa como un medio complementario sin suplantar el discernimiento ni la responsabilidad intelectual humana.
- Resguardo de la Dignidad y Privacidad: ¿Qué datos procesa la IA y cómo se protege la integridad y la confidencialidad de las personas o comunidades involucradas frente a lógicas de extracción masiva de información?
- Control Humano y Validación Crítica: ¿Qué herramientas de IA se utilizaron y bajo qué mecanismos de supervisión estricta las y los investigadores verificaron, corrigieron y asumieron la responsabilidad plena de los resultados o textos generados?
- Justicia y Precaución ante Sesgos y Riesgos: ¿Qué sesgos algorítmicos o riesgos de impacto adverso posee la tecnología empleada y qué acciones preventivas se adoptaron —bajo el principio de precaución— para evitar daños a personas o sistemas socioecológicos?
- Transparencia y Honestidad Intelectual: ¿Cómo se declara de forma explícita el rol de la IA en el manuscrito final, detallando sus alcances, sus restricciones y las advertencias que el lector debe considerar para una interpretación ética y veraz de los datos?
¿Qué te parece la propuesta del decálogo? Leo tu perspectiva en los comentarios.
10 Responses
La propuesta de este decálogo ético representa una aportación fundamental y muy necesaria para el debate actual sobre la relación entre la tecnología y las humanidades. Al cambiar el enfoque tradicional de «desarrollo» por una visión centrada en el bienvivir comunitario y la ecología integral, el texto demuestra con claridad que la tecnología no es neutral.
Resulta de gran relevancia el **Principio de agencias distribuidas y coproducción técnica**. En el ámbito de la investigación, entender que el conocimiento y los errores se generan en una red compartida entre humanos, algoritmos e infraestructuras nos obliga a revisar nuestros métodos de trabajo. La ética ya no consiste solo en regular el uso de una herramienta pasiva, sino en evaluar críticamente cómo se transforma nuestro propio pensamiento al interactuar con la máquina. Asimismo, el reconocimiento de la **Materialidad y límites biofísicos de la computación** aporta un sentido de realidad indispensable frente al mito de la «nube», al visibilizar el alto consumo de agua y energía que requieren estos sistemas.
Por otra parte, la *Declaratoria Operativa para Investigadores* y sus cinco preguntas fundamentales ofrecen una excelente guía práctica. Al proponer un ejercicio explícito de transparencia, control humano y protección de la privacidad, se dota a los comités de ética y a los investigadores de un protocolo claro para evitar la explotación de datos y el uso acrítico de los algoritmos.
Felicito la claridad y la profundidad de este planteamiento, el cual es indispensable para enseñar en las aulas la «fricción cognitiva»: una pedagogía que impulsa a los estudiantes a dudar de la inmediatez de la máquina y a defender el pensamiento complejo.
Gracias y solo destaco de tu comentario que la condiciones actuales del humano con la especie, otras especies y las tecnologías requieren de nuevas maneras de atender las problemáticas que emergen y de muchas de ellas, no contamos con experiencias previas. Mucho trabajo tenemos.
Por supuesto que las IA tienen un origen político, económico e ideológico. Obviar esto, y no ser conscientes de dichas derivaciones, significa una nula capacidad crítica por parte del usuario. Lo que usted llama “fricción cognitiva” para mí sería fricción en general. No todas las respuestas de la IA implican dicha fricción, por supuesto, pero sí aquellas que implican una toma de posición política, económica o ideológica. Además, he notado que las IA comúnmente tratan de ajustarse a la Ley siendo que, históricamente, las leyes no representan justicia ni un beneficio para las clases desprotegidas. Ejemplo de ello es el uso legítimo de la violencia. Los derechos no han sido concedidos sino conquistados. 👊
Saludos.
Me parece que debemos insistir en la IA como dispositivo de poder, en la idea Foucault, porque presumo que una gran parte de la población, incluso ilustrada no las conciben así, Y es de interese seguir esta idea tuya de la ley, como principio y fin del derecho, pero que a su vez desprende violencia, que asocio con conquista, lo revisaré.
Es un poco difícil dejar un comentario cuando se coincide con los puntos de la propuesta, sin embargo mi comentario sería en el sentido de posicionar una propuesta ética en el plano de la política ya que desde mi perspectiva, una posicional ética, si bien importante en la interacción con la Inteligencia Artificial (IA), no es suficiente ya que sería necesario legislar para que el ser humano quede protegido por normas mínimas que no quede avasallado por el uso de la IA por parte de quienes usufructúan esa tecnología. Un decálogo ético puede ser justificado para quienes la utilizan pero debe hacer una normatividad que limite abusos de las grandes corporaciones que las desarrollan y son sus beneficiarios pecuniarios.
Cierto lo que dices, pero donde nosotros podemos hacer algo por el momento es en lo personal y micro colectivo, en ese nivel tenemos condiciones para realizar cambios significativos, recuerda que desde la teoría de sistemas, para que un sistema cambie debe de dinamizarse lo micro. Saludos
El documento es arrojar luz en los debates agotadores al momento de rediseǹar planes de estudios. Justo me encuentro en ese momento de actualizar las propuestas educativas y considerar en ello, los retos de las tecnologías en un de por sí muy discutido campo del arte y la investigación. Estos debates deben integrarse con urgencia como parte de la inclusión educativa. Pero existen algunos cuitos que olvidan la filosofía como la ética.
Gracias por estos nutrientes y esperamos más.
Saludos
Deseo que sirva esta propuesta de detonante para sus tomas de decisiones.
Este decálogo resulta imprescindible para proteger la creatividad, la reflexión crítica, el pensamiento complejo. La única “debilidad” que detecto es que se apoya en la imperfección moral, ética y responsabilidad de los que crean, producen y reproducen conocimiento. Ojalá el compromiso con la humanidad y el planeta logren que propuestas como este decálogo regulen el “tsunami tecnológico” que vivimos.
Se pensó el decálogo para toda personas que se quiera sumar a él y también para adecuarlo a sus realidades, no es algo fijo y acabado, sino una base de apoyo que promueva el camino de cada uno en relación con las tecnologías.