{"graphSha256":"f29d7b1eedeb88387238d2abda347f810d2179c5fdbead47c3ef48507ab20ca5","node":{"id":"D-245","type":"ficha","title":"Llamarlo «AI firewall» no te concede saber qué está filtrando","url":"https://dakleyer.github.io/perspective-beyond/atlas/dialogos/#ficha-d-245","original":"https://dakleyer.github.io/perspective-beyond/atlas/dialogos/textos/d-245.html","aliases":[],"clusters":["dialogos"],"tags":["autoridad"],"summary":"¿Cómo pretende gobernar un sistema de IA un filtro que ignora de dónde vienen y adónde van sus datos?","commit":null,"sourcePath":null,"commitUrl":null,"documentId":"doc-85a7a1834a4589ee8d","tagWeights":{"autoridad":1.0},"reading":"INTERLOCUTOR (pregunta editorial, no necesariamente pronunciada) — ¿Cómo pretende gobernar un sistema de IA un filtro que ignora de dónde vienen y adónde van sus datos?\nREFLEXIÓN DEL DIÁLOGO (voz atribuida mediante documento o contexto, distinta de transcripción literal salvo citas señaladas) — Aquí Iván abandona la notación y regresa a su trabajo diario. Enumera capas que una empresa va añadiendo: sistemas conectados, data warehouse, data lake, lakehouse, big data, IA sobre los datos y, al final, una plataforma de AI governance. Cada capa promete ordenar a la anterior. Pero cuando se pretende instalar la última, aparece la misma pregunta que estaba pendiente desde el principio: quién es dueño del dato, quién lo custodia, cómo llegó allí, por dónde circula y qué decisiones depende de él.\n\nLa intervención original es frontal: «You can't pretend that you are governing because you start a firewall, and it's called firewall». Un catálogo automático puede detectar tipos evidentes, pero eso no equivale a comprender las condiciones reales de una organización. Iván dice que volver a clasificar miles de casos mal comprendidos consume horas humanas y conocimiento de arquitectura; su preocupación no es una marca de software sino la diferencia entre etiquetar y gobernar.\n\nLa implicación no es que todos los firewalls de IA sean inútiles. Es que la barrera puede verificar solamente aquello cuya procedencia, significado, responsabilidades y límites de uso han sido correctamente definidos. Cuando esa información falta, el sistema de seguridad recibe una deuda anterior y se anuncia como solución nueva. La frontera del control no nace al instalar un producto: nace al conocer el sistema que pretende controlar.","contextTokens":426},"relations":[["apoyo:D-245:dg-operations","D-245","dg-operations","documenta el concepto","",null,"apoyo",""],["apoyo:D-245:dg-structure","D-245","dg-structure","documenta el concepto","",null,"apoyo",""],["apoyo:D-245:dg-governance","D-245","dg-governance","documenta el concepto","",null,"apoyo",""],["apoyo:D-245:dg-meta_discrimination","D-245","dg-meta_discrimination","documenta el concepto","",null,"apoyo",""],["documento:dialogue-expansion-D-245-D-099","D-245","D-099","conexión de la edición","La lectura enlaza «Llamarlo «AI firewall» no te concede saber qué está filtrando» con «Lo que el mapa no representa puede cambiar la decisión». Permite contrastar Conciencia estructural.",null,"documento",""],["documento:dialogue-expansion-D-245-D-116","D-245","D-116","conexión de la edición","La lectura enlaza «Llamarlo «AI firewall» no te concede saber qué está filtrando» con «Un control puede aprobar y el sistema seguir fallando». Permite contrastar Conciencia estructural.",null,"documento",""],["documento:dialogue-expansion-D-245-D-118","D-245","D-118","conexión de la edición","La lectura enlaza «Llamarlo «AI firewall» no te concede saber qué está filtrando» con «Publicar no demuestra que alguien recibió ni actuó». Permite contrastar Gobernanza y legitimidad.",null,"documento",""],["documento:dialogue-expansion-D-245-D-152","D-245","D-152","conexión de la edición","La lectura enlaza «Llamarlo «AI firewall» no te concede saber qué está filtrando» con «Un papel compartido puede controlar más que diez firmas». Permite contrastar Gobernanza y legitimidad, Operación real.",null,"documento",""],["documento:dialogue-expansion-D-245-D-153","D-245","D-153","conexión de la edición","La lectura enlaza «Llamarlo «AI firewall» no te concede saber qué está filtrando» con «El control ceremonial se parece a un sistema de control». Permite contrastar Gobernanza y legitimidad, Conciencia estructural.",null,"documento",""],["documento:dialogue-expansion-D-245-D-223","D-245","D-223","conexión de la edición","La lectura enlaza «Llamarlo «AI firewall» no te concede saber qué está filtrando» con «Dices «cloud» y acabas comprando cloud».",null,"documento",""],["documento:dialogue-expansion-D-243-D-245","D-243","D-245","lectura por conceptos compartidos","Ambas reflexiones permiten comparar Carga de validar sistemas y sus entradas, Gobernanza y legitimidad desde las situaciones que describe cada texto.",null,"documento",""],["documento:dialogue-expansion-D-244-D-245","D-244","D-245","lectura por conceptos compartidos","Ambas reflexiones permiten comparar Carga de validar sistemas y sus entradas, Conciencia estructural desde las situaciones que describe cada texto.",null,"documento",""],["documento:dialogue-expansion-D-245-D-293","D-245","D-293","lectura por conceptos compartidos","Ambas reflexiones permiten comparar Carga de validar sistemas y sus entradas, Conciencia estructural desde las situaciones que describe cada texto.",null,"documento",""],["documento:dialogue-bridge-D-245-T1499","D-245","T1499","puente de lectura","La pregunta por custodia, circulación y decisiones dependientes de los datos ofrece una entrada empresarial a la conciencia de la estructura que un control de IA pretende gobernar.",null,"documento",""]]}