Diseño de intervención

Diseñar una intervención en un sistema complejo es diseñar dentro de una red de acoplamientos. No puedes cambiar un elemento sin afectar a otros. La pregunta no es "¿cuál es la solución óptima?" sino "¿cuál es la intervención que minimiza consecuencias imprevistas?"

Cinco principios guían el diseño de sistemas híbridos:

1. Modularidad con acoplamiento conocido. Divide el sistema en módulos (decisión humana, predicción algorítmica, ejecución, feedback). Pero documenta explícitamente dónde se acoplan. En modularidad ingenua, crees que cambiar un módulo no afecta a otros. En modularidad informada, sabes exactamente qué puntos de contacto existen.

2. Sensibilidad a retroalimentación. Todo sistema intervienido cambia en respuesta. Un algoritmo recomendador que favorece cierto contenido hace que los usuarios se adapten a ese algoritmo, que luego se re-entrena en los datos adaptados, en una espiral. Diseña para detectar y medir estos ciclos de retroalimentación. Si no lo haces, tu intervención se come a sí misma.

3. Degradación elegante. Asume que algo va a fallar. ¿Qué pasa si el modelo falla? ¿Si los humanos ignoran la recomendación? ¿Si hay lag en el feedback? Diseña los límites de aceptabilidad antes de lanzar. Define modos de fallida seguros: cuando las cosas se ponen mal, el sistema debe poder "bajar de marcha" sin colapsar.

4. Override humano explícito y verificable. Si un humano puede tomar una decisión, debe poder sobreescribir lo que el algoritmo decide. Pero ese override debe ser registrado, auditable. No es suficiente que técnicamente sea posible; debe ser obvio, incentivizado, y fácil de rastrear.

5. Transparencia proporcional. Más automatización = mayor exigencia de explicabilidad. Si un sistema toma 90% de decisiones automáticamente, cada decisión debe ser justificable. Si toma 10%, puedes tolerar más opacidad en los casos restantes. Pero ajusta la barra según el riesgo y la frecuencia.

Construye un prototipo de intervención seleccionando componentes y conectándolos. No estamos construyendo código real; estamos dibujando la arquitectura de un sistema híbrido y viendo dónde se generan los acoplamientos peligrosos.

Instrucciones: Selecciona componentes del panel izquierdo (nodo de decisión humana, clasificador ML, mecanismo de votación, bucle de feedback, etc.) y colócalos en el canvas central. El sistema te mostrará automáticamente cómo se conectan y alertará sobre posibles modos de falla.

Componentes disponibles:

• Humano (H): Una o más personas tomando decisiones. Lento, flexible, explicable.
• Clasificador (ML): Algoritmo que predice/clasifica. Rápido, consistente, opaco.
• Votación: Mecanismo que agrega decisiones humanas o híbridas. Diversidad vs. conformidad.
• Feedback: Loop que mide resultado y alimenta de vuelta al sistema. Peligroso si no está bien medido.
• Validador: Punto de control explícito que verifica outputs antes de ejecución.
• Autores

Qué observar: Cuando coloques componentes, ve cómo el sistema calcula métricas de riesgo: ¿hay puntos de falla únicos? ¿Los ciclos de feedback son demasiado cerrados? ¿Hay transparencia suficiente para un override humano?