bionemo-llm
BioNemo 大型语言模型 (LLM) 子模块包含在子模块中使用的通用代码,这些子模块在生物数据集上训练 LLM(目前为 bionemo-esm2
和 bionemo-geneformer
)。这包括数据掩码和整理功能、bio-BERT 通用架构代码、损失函数以及其他 NeMo / Megatron-LM 兼容性功能。子包只有在需要访问 NeMo 和 Megatron-LM 时才应依赖于 bionemo-llm
。
BioNemo 大型语言模型 (LLM) 子模块包含在子模块中使用的通用代码,这些子模块在生物数据集上训练 LLM(目前为 bionemo-esm2
和 bionemo-geneformer
)。这包括数据掩码和整理功能、bio-BERT 通用架构代码、损失函数以及其他 NeMo / Megatron-LM 兼容性功能。子包只有在需要访问 NeMo 和 Megatron-LM 时才应依赖于 bionemo-llm
。