¿De quién es el conocimiento que hay dentro de tus herramientas?

Hay una pregunta que hago una y otra vez a la gente, y la respuesta siempre los inquieta.

¿Quién es dueño de las reglas dentro del software del que depende tu organización?

No pregunto quién paga el software. Ni quién lo administra. Pregunto quién es dueño de la lógica, de la toma de decisiones, del conocimiento codificado que determina cómo se comporta el sistema.

La respuesta, casi siempre, es: nadie en tu organización. El proveedor es el dueño. La plataforma es la dueña. El desarrollador que se fue hace tres años lo escribió, y ahora vive en una base de código que nadie entiende del todo. El conocimiento que hace funcionar tu operación está dentro de una caja negra que alquilas.

He pasado mi carrera construyendo estas cajas negras. Más de dos décadas de software empresarial, plataformas nacionales, sistemas que millones de personas usan cada día. Y lo que me quita el sueño no es si el código funciona. Es lo que le pasa al conocimiento una vez que está dentro.

Déjame contarte una historia.

Trabajé en una gran plataforma gubernamental en Arabia Saudita. El sistema gestionaba operaciones nacionales críticas. Las reglas eran complejas, los casos límite eran interminables, y la experiencia necesaria para construirlo venía de personas que habían dedicado su carrera a entender cómo funcionaba el proceso en el mundo real. Reguladores, inspectores, administradores, gente cuyo conocimiento era el cimiento de todo el sistema.

Codificamos ese conocimiento en software. Lo hicimos bien. El sistema funcionó. Pero aquí está el problema: una vez que el conocimiento estuvo en el código, pasó a pertenecer al código. Los expertos del dominio que aportaron su comprensión no podían leer la implementación. No podían verificar que las reglas siguieran siendo correctas. No podían modificar la lógica cuando cambiaba la normativa sin pasar por un equipo de desarrollo. Su conocimiento había sido traducido a un idioma que no hablaban.

Esto ocurre en todas las industrias. La lógica de triaje de pacientes de un hospital vive en un sistema de historia clínica que las enfermeras no pueden inspeccionar. Las reglas de matrícula de una escuela viven en una plataforma que los administradores no pueden modificar. Las prioridades de reparto de un banco de alimentos viven en una base de datos a la que no pueden acceder los voluntarios que entienden a la comunidad. Las personas con el conocimiento más profundo de cómo deberían funcionar las cosas son las que menos control tienen sobre cómo funcionan en realidad.

Ahora multiplica esto por la IA.

Los modelos de lenguaje grandes (LLM) se entrenan con enormes cantidades de conocimiento humano. Pueden generar políticas, redactar procedimientos, diseñar flujos de trabajo, hacer recomendaciones. Son impresionantes. También son profundamente centralizadores. Cuando un modelo de IA codifica conocimiento, codifica promedios. Codifica el caso general. No codifica la realidad concreta de tu comunidad, de tu organización, de tu contexto. No puede, porque fue entrenado con los datos de todos y con la comprensión de nadie.

El resultado es un mundo donde la experiencia local se aplana. Donde la persona que ha pasado veinte años entendiendo cómo funciona la distribución de agua en su región es reemplazada por un sistema entrenado en cómo funciona la distribución de agua en todas partes. Donde los matices, las excepciones y el juicio humano que hacen que los sistemas sirvan de verdad a las personas se suavizan hasta convertirse en una media estadística.

Me parece realmente aterrador. No porque la IA sea mala, sino porque estamos construyendo los sistemas de conocimiento más poderosos de la historia humana sin preguntar a quién sirven.

La pregunta de quién es dueño del conocimiento no es académica. Determina quién tiene el poder. Cuando una empresa es dueña de las reglas que gobiernan tus operaciones, tiene influencia sobre ti. Cuando una plataforma es dueña de la lógica que sirve a tu comunidad, puede cambiarla sin tu consentimiento. Cuando un modelo de IA absorbe tu experiencia en sus pesos, esa experiencia pasa a ser suya para monetizarla y tuya para alquilarla.

Entonces, ¿qué hacemos?

Creo que la respuesta tiene varias partes, y ninguna es sencilla.

Primero, necesitamos que el conocimiento se exprese en formas que los humanos puedan leer, no solo las máquinas. El código es preciso pero opaco para quien no es desarrollador. El lenguaje natural es legible pero demasiado ambiguo para las máquinas. La brecha entre ambos es donde está el trabajo de verdad. Los lenguajes de especificación formal, los sistemas de reglas estructuradas, la lógica declarativa, son ideas viejas que merecen atención nueva. Si las reglas que gobiernan tu organización estuvieran expresadas en un formato que un experto en políticas pudiera leer y una máquina pudiera ejecutar, el conocimiento seguiría siendo visible aunque el software cambiara.

Segundo, necesitamos portabilidad. Ahora mismo, cambiar de plataforma de software significa perder el conocimiento institucional incorporado al sistema anterior. La lógica, las personalizaciones, los casos límite que has pasado años codificando, todo atrapado en un formato propietario. El conocimiento debería ser exportable. Si dejas una plataforma, tu comprensión de cómo funciona tu operación debería irse contigo.

Tercero, necesitamos repensar el papel de la IA en el trabajo del conocimiento. El modelo actual es la extracción: la IA absorbe la experiencia humana en sus datos de entrenamiento y nos la devuelve como servicio. Un modelo mejor sería la amplificación: la IA ayuda a los humanos a expresar lo que ya saben en formatos estructurados, portables y verificables. La diferencia es quién conserva la propiedad. En el modelo de extracción, la plataforma. En el modelo de amplificación, la comunidad.

Cuarto, la gobernanza importa. El código abierto ayuda, pero no basta si la lógica sigue siendo ilegible para los actores no técnicos. Los modelos de propiedad cooperativa, los fideicomisos comunitarios de datos, la infraestructura digital pública, son estructuras de gobernanza que pueden mantener el conocimiento rindiendo cuentas ante las personas a las que afecta.

Nada de esto es fácil. La economía empuja con fuerza en la dirección contraria. Las plataformas centralizadas son más rentables que las herramientas de propiedad comunitaria. Las cajas negras son más baratas de construir que los sistemas transparentes. La dependencia del proveedor es una característica, no un fallo, si eres el proveedor.

Pero el costo de la trayectoria actual es real. Comunidades que no entienden los sistemas de los que dependen. Organizaciones que no pueden adaptar sus herramientas cuando la realidad cambia. Expertos cuyo conocimiento ha sido absorbido por plataformas que ya no los necesitan. Un mundo donde la distancia entre quienes controlan el código y quienes viven bajo él sigue creciendo.

Hay una alternativa. Sistemas donde el conocimiento sigue siendo legible. Donde las comunidades son dueñas de los hechos, las reglas y los eventos que definen cómo funcionan. Donde la IA ayuda a traducir la comprensión humana en lógica de sistema compartida en lugar de reemplazar la comprensión humana con promedios estadísticos.

Donde las personas siguen siendo parte de los sistemas que dan forma a sus vidas.

Eso no es solo un problema tecnológico. Es un problema de derechos humanos.

Osamah Alghanmi es cofundador de Almadar, un estudio de software con sede en Liubliana, Eslovenia. Pasó más de dos décadas construyendo sistemas empresariales, incluidas plataformas de escala nacional en Arabia Saudita. Escribe sobre el conocimiento, el poder y la pregunta de quién controla lo que saben las máquinas.