Genos-m: un modelo base para los genomas de microorganismos asociados al ser humano.

Los genomas microbianos asociados al ser humano codifican una diversidad extensa a nivel de cepa y repertorios de genes específicos del nicho, que son fundamentales para la salud del huésped.

Sin embargo, estas complejas características de la secuencia siguen siendo difíciles de capturar utilizando modelos de base de ADN de propósito general, lo que destaca la necesidad de un aprendizaje de representación dedicado, adaptado al microbioma humano. Aquí, presentamos Genos-m, un modelo de base de código abierto para la representación de genomas microbianos asociados al ser humano. Genos-m se preentrenó con aproximadamente 1,2 billones de tokens de nucleótidos a partir de un corpus de genomas microbianos curado, que incluye aislados procariotas asociados al ser humano, genomas ensamblados a partir de metagenomas de alta calidad (MAG) y bacteriófagos, complementado con genomas representativos a nivel de especie de GTDB para ampliar la amplitud taxonómica procariota. El modelo utiliza una arquitectura Transformer de Mixture-of-Experts (MoE) con activación dispersa, con 4.700 millones de parámetros totales, aproximadamente 330 millones de parámetros activados por cada paso de avance y una longitud máxima de contexto de un millón de pares de bases.

Evaluamos las representaciones congeladas de Genos-m en tareas de secuencias cortas y a nivel de gen, tareas de secuencia regional basadas en grupos de genes biosintéticos (BGC), predicción de fenotipos de cepas a nivel del genoma completo y transferencia de conocimiento en ensayos de RNAfitness relacionados con procariotas. En todos estos puntos de referencia, Genos-m se clasificó constantemente entre los modelos de comparación líderes, con el mejor rendimiento en cinco de las ocho tareas de regresión de aptitud genética y en la clasificación de tipos de BGC. Utilizando autoencoders dispersos, identificamos características dispersas en las activaciones ocultas de Genos-m que se alinearon con ORF anotados, regiones intergénicas y loci de tRNA y rRNA. En aplicaciones posteriores, las representaciones de especies informadas por el genoma derivadas de Genos-m, incorporadas en un modelo de aprendizaje autosupervisado del microbioma humano, mejoraron la clasificación del control del cáncer colorrectal (CRC) en comparación con los modelos convencionales de bosque aleatorio basados en la abundancia de especies.

Genos-m también generó incrustaciones estables a nivel de muestra a partir de tan solo 10.000 lecturas metagenómicas, conservando la estructura de la comunidad microbiana intestinal que distinguía el origen geográfico y se alineaba con los enterotipos definidos a partir de perfiles taxonómicos completos. En conjunto, estos resultados respaldan a Genos-m como un modelo de representación reutilizable para genomas y metagenomas microbianos, con conclusiones limitadas por los conjuntos de datos, las definiciones de tareas y los protocolos de evaluación informados. Los pesos del modelo Genos-m, el código de inferencia y la documentación de uso están disponibles públicamente en GitHub (https://github.com/BGI-HangzhouAI/Genos-m) y Hugging-Face (https://huggingface.co/BGI-HangzhouAI/Genos-m).