Querétaro va hacia una burocracia algorítmica sin regulación
Querétaro se consolida formalmente como el laboratorio experimental de la justicia y la gobernanza digital en México y América Latina. En un despliegue institucional sin precedentes, el Poder Judicial del Estado rompió paradigmas jurisdiccionales al emitir sus primeras sentencias definitivas -un juicio ejecutivo mercantil y un divorcio incausado- redactadas y estructuradas con el soporte técnico de un modelo de lenguaje grande (LLM) de inteligencia artificial generativa local denominado SON-IA.
Este hito, respaldado legalmente por los lineamientos técnicos publicados en el periódico oficial “La Sombra de Arteaga”, no opera de forma aislada; coexiste con el despliegue del asistente automatizado Karla en la atención ciudadana del Municipio de Querétaro y el chatbot Bätsi en el Instituto Electoral del Estado de Querétaro (IEEQ), este último diseñado para la inclusión democrática en lengua otomí.
Sin embargo, detrás de la narrativa gubernamental de la vanguardia, la eficiencia y el abatimiento del rezago institucional; subyace un conflicto agudo de fondo. La velocidad del despliegue tecnológico contrasta con una parálisis legislativa absoluta en el Congreso local, que carece de un marco normativo integral para regular la inteligencia artificial y salvaguardar la ciberseguridad.
A esta ausencia de contrapesos legales se suma una profunda brecha de desconfianza social: los datos más recientes de la Encuesta Nacional sobre Disponibilidad y Uso de Tecnologías de la Información en los Hogares (ENDUTIH) del INEGI revelan que seis de cada diez ciudadanos en el país no interactúan digitalmente con portales gubernamentales. Lo que la administración pública promociona como un éxito de innovación se enfrenta en la realidad a un agujero negro regulatorio, riesgos latentes de soberanía de datos y un severo dilema bioético sobre el costo ecológico de la infraestructura tecnológica que sostiene la nube local.
Desde la trinchera del derecho tecnológico, Rodolfo Guerrero Martínez, representante legal de la Sociedad Civil Coffew Law «Dr. Jorge Fernández Ruiz» y titular de la Comisión de Legaltech INCAM Occidente y especialista en derecho constitucional, digital e IA, así como titular de los Seminarios Ingeniería Jurídica y Aspectos legales de Criptoactivos y Criptomonedas en la Universidad Panamerica, Campus Guadalajara; sostiene que la adopción de estas herramientas en las instituciones exige una fiscalización técnica rigurosa y no solo un discurso de modernización. Para Guerrero Martínez, el riesgo latente radica en la falta de preparación de quienes operan el sistema y en la ausencia de auditorías independientes sobre los algoritmos que hoy procesan información oficial.
Por otro lado, la dimensión ética de este fenómeno encuentra un contrapeso crítico en la postura de Raúl Ruiz Canizales, académico consultor en materia de transparencia y expresidente del Colegio de Bioética de Querétaro. Advierte que la búsqueda de eficiencia en la administración pública no puede justificar la sustitución del criterio humano, ni la reducción de la persona a un simple insumo de datos para la optimización estadística del Estado.
Se abre entonces, un debate. ¿La automatización algorítmica de las decisiones públicas es una herramienta de democratización o una máscara tecnológica que deshumaniza el servicio público?
Uso analítico o “burocracia algorítmica”
El entusiasmo institucional por la digitalización suele ignorar un límite fundamental, la inteligencia artificial puede ser un copiloto técnico, pero jamás un sustituto del criterio humano. En el escenario nacional, la adopción de algoritmos en los tribunales ya acumula un historial de contrastes que demuestra cómo la prisa por automatizar, sin la debida pericia técnica ni ética profesional, termina por vulnerar la función pública.
Por un lado, se registra la práctica del magistrado Isidro Emmanuel Muñoz Acevedo en el Tribunal Federal de Justicia Administrativa, quien recurrió a modelos como ChatGPT y Gemini con un enfoque forense y auxiliar dentro del amparo directo 213/2025, donde parametrizó las instrucciones para contrastar cálculos de indemnización y utilizó la máquina como un calculador analítico para robustecer el criterio humano, jamás para sustituirlo. En la orilla opuesta, el riesgo de lo que la UNESCO define como “burocracia algorítmica” cobró forma con la suspensión cautelar de la jueza Lizbeth González Cortés en Zacatecas por parte del Tribunal de Disciplina Judicial. La juzgadora incurrió en un uso inadecuado de herramientas automatizadas para la elaboración de proyectos de sentencia, exponiendo datos personales sensibles sin verificación previa e incurriendo en una mala praxis que vulneró las garantías del debido proceso. “Ahí es donde radica la trampa del simulador legal, cuando el operador carece de talento y de técnica, utiliza a la inteligencia artificial como una máscara para esconder su ineficiencia o su prisa, convirtiendo un expediente judicial en una ruleta rusa de datos mal procesados”, advierte Guerrero Martínez.
El fenómeno no es menor. Diversos organismos internacionales han encendido las alarmas sobre la naturaleza técnica que define a estas herramientas; los modelos de lenguaje grande (LLM) no son inteligencias conscientes ni mentes jurídicas, sino ‘loros estocásticos’. Es decir, algoritmos avanzados diseñados para predecir matemáticamente qué palabra debe seguir a la otra con base en probabilidades estadísticas extraídas de volúmenes masivos de información, pero absolutamente incapaces de ejercer intuición, empatía o ponderación de justicia. Cuando un funcionario público o un juzgador toma la respuesta de un ‘loro estocástico’ y la estampa en un documento oficial sin una auditoría de código o un cotejo riguroso de fuentes, no solo arriesga la validez legal del acto; incurre en el riesgo del envenenamiento de datos o en las «alucinaciones» del sistema, donde la máquina inventa jurisprudencia o falsea hechos con una apariencia impecable de verdad.La delgada línea que separa la innovación del desastre procesal en Querétaro no depende del entusiasmo de sus boletines de prensa, sino de la capacidad de sus instituciones para auditar a sus propios operadores antes de que el error algorítmico toque a un ciudadano.}
El panorama local, ¿excluyente?
En el plano local, el despliegue de soluciones algorítmicas no se limita al ámbito jurisdiccional o electoral. A nivel estatal y municipal, la tecnología ha comenzado a permear las capas más sensibles de la administración pública, desde las auditorías predictivas de la Secretaría de Finanzas que cruzan bases de datos fiscales para detectar anomalías, hasta los sistemas de reconocimiento automático de placas y analítica urbana operados por el Centro de Información y Análisis para la Seguridad (CQ-CIAS).
El problema de la gobernanza digital en la entidad no es lo que se anuncia, sino lo que se omite. Los comunicados gubernamentales venden la tecnología como una solución casi milagrosa para abatir la burocracia, pero guardan silencio sobre el funcionamiento interno de sus herramientas. Detrás de la pantalla, la automatización avanza mientras el ciudadano común ni siquiera sabe que su movilidad y sus finanzas están siendo procesadas por algoritmos opacos. Ni la autoridad aclara cómo toman decisiones sus programas, ni el usuario cuenta con garantías para impugnar un error cometido por el software.
A este cerco de opacidad se suma una barrera estructural de origen: la brecha digital. Mientras el discurso oficial asume una ciudadanía plenamente integrada a los entornos virtuales, la Encuesta Nacional sobre Disponibilidad y Uso de Tecnologías de la Información en los Hogares (ENDUTIH) del INEGI revela que el 61.4% de los usuarios de internet en el país no realiza trámites o interacción con portales gubernamentales. Lejos de democratizar el servicio público, la automatización apresurada corre el riesgo de erigir un nuevo filtro de exclusión para quienes carecen de conectividad o habilidades digitales.
«No podemos dar por sentado que la tecnología es neutra ni que toda la población tiene el mismo acceso. Si la administración pública prioriza la interfaz digital sin garantizar la inclusión y la transparencia de sus códigos, lo que genera es una nueva forma de burocracia inaccesible para el ciudadano común», señala Raúl Ruiz Canizales.
Esta aceleración tecnológica en los poderes Ejecutivo y Judicial, además, ocurre en un vacío normativo absoluto. Pese a que la adopción de algoritmos ya procesa resoluciones judiciales, trámites municipales y datos fiscales; en el Congreso del Estado de Querétaro no existe a la fecha una sola iniciativa aprobada que regule el uso de la inteligencia artificial, que obligue a auditar los algoritmos públicos o que establezca parámetros estrictos de ciberseguridad para proteger la información de la ciudadanía.
