Así funciona 'JuntaGPT', la nueva herramienta de IA dirigida a los empleados públicos andaluces

Según apunta la Junta en un comunicado, JuntaGPT permitirá a los funcionarios ser más eficiente procesando documentación, analizando información y elaborando nuevos textos, pudiendo subir documentos y realizar preguntas sobre ellos de una manera ágil y segura para los datos. Y todo ello con un lenguaje natural y de forma sencilla, segura y eficiente.

El nuevo asistente, desarrollado por la Agencia Digital de Andalucía (ADA) comprende preguntas, genera respuestas, ayuda a hacer resúmenes, redacta correos y, en definitiva, hace más fáciles las tareas del día a día a los empleados públicos. Y bajo una premisa importante: con más seguridad, privacidad y transparencia, ya que los datos no se exponen externamente.

Entre las características de JuntaGPT destacan la respuesta de forma ágil a preguntas generales, facilitando el acceso a la información de manera natural e intuitiva; la carga en caliente de múltiples documentos en distintos formatos, y posibilita la realización de consultas sobre distintas temáticas sin la necesidad de subir archivos sobre una información precargada y organizada por dominios funcionales, relacionada con la Administración andaluza.

Además, mantiene el hilo de la conversación, comprendiendo el contexto de las preguntas anteriores, permitiendo realizar consultas encadenadas, como si se tratara de una conversación humana. También está capacitado para ofrecer respuestas a múltiples usuarios simultáneamente e incorpora directrices de uso responsable de la IA, garantizando un uso ético y seguro.

Todo esto es posible gracias al pilotaje de este proyecto en el Supercomputador Hércules, del Centro Informático Científico de Andalucía (CICA), que ha sido la infraestructura utilizada para desplegar esta solución. Una infraestructura capaz de procesar grandes volúmenes de información y contener modelos de IA, como este asistente. «Esta infraestructura de alto rendimiento reduce costes y garantiza que toda la información permanezca segura y bajo control público, sin salir del entorno de la Junta», ha explicado el consejero.

Usando sus nodos de computación gráfica de Nvidia, se ha puesto en marcha un sistema basado en modelos altamente eficientes energéticamente, sin pérdida de eficacia, como es el modelo libre y abierto Gemma, de la familia de Gemini, en concreto el modelo destilado Gemma3, en su versión más potente de 27.000 millones de parámetros, que ha sido cuantizado para su puesta en marcha en los nodos de computación gráfica de Hércules. Esto da la posibilidad de usar un sistema que, cuando alguien hace una pregunta, JuntaGPT comienza a dar una respuesta en menos de 300 milisegundos (menos de un tercio de segundo). Incluso cuando varias personas están usando el sistema al mismo tiempo.

Todo el desarrollo ha seguido un estricto flujo de trabajo definido para la gobernanza de los sistemas con IA en la administración, cumpliendo así con el reglamento europeo de IA y los más altos estándares de adherencia a las directrices éticas.