1. 领域背景与文献引入
文献英文标题：Parameter-efficient fine-tuning of large regulatory sequence models for transcriptomic data；发表期刊：Genome Biology；影响因子：未公开；研究领域：计算基因组学与转录调控
计算基因组学领域中，以Borzoi、Enformer为代表的大参数深度学习模型已实现对基因组转录调控、染色质开放状态等多维度特征的精准预测，为解析复杂生物过程提供了强大工具。领域共识：这类模型通常基于海量公共多组学数据预训练，参数规模可达上亿级别，但科研人员利用自有转录组数据拓展模型应用时，面临从头训练计算成本极高、全微调参数更新量大的双重挑战。现有迁移学习策略中，线性探针仅更新输出层，性能受限；全微调虽能保留预训练知识，但对GPU内存与训练时间的要求远超普通科研团队的承载能力。参数高效微调（PEFT）方法通过仅更新模型的少量参数即可实现高效迁移，在自然语言处理与计算机视觉领域已取得成功，但在基因组学大模型中的应用策略、性能表现与适用场景仍缺乏系统验证。针对这一研究空白，本研究系统开发并验证了适配Borzoi模型的PEFT迁移学习框架，旨在为科研人员提供一种低计算成本、高性能的大模型个性化适配方案。
2. 文献综述解析
作者从大基因组模型的应用现状、迁移学习的需求与挑战、PEFT方法的跨领域迁移潜力三个维度展开综述，系统梳理了现有研究的优势与不足，明确了本研究的核心创新方向。
现有研究显示，Borzoi、Enformer等大模型在多组学数据预测上表现优异，能捕捉到转录因子结合基序、染色质调控元件等关键特征，但这类模型覆盖的实验数据集有限，难以满足个性化研究对细胞类型、状态特异性的需求；从头训练大模型的计算成本极高，以Borzoi为例，从头训练需2块A100 GPU运行600小时，普通科研团队难以承担；传统迁移学习策略中，全微调需更新所有参数，计算资源消耗与从头训练相当，线性探针仅更新输出层，无法充分利用预训练模型的特征提取能力，难以适配复杂的转录组数据。PEFT方法在跨领域应用中已证明可在仅更新少量参数的前提下实现与全微调相当的性能，但在基因组学领域的应用尚处于起步阶段，现有研究仅探索了注意力层的PEFT适配，未涉及卷积层的策略优化，也未系统比较不同PEFT方法在多类转录组数据中的性能差异。本研究通过在Borzoi模型的注意力层与卷积层同时适配多种PEFT方法，系统验证了其在bulk RNA-seq、单细胞RNA-seq、扰动转录组等多类数据中的性能与效率，填补了基因组学大模型高效迁移学习的方法空白，为科研人员利用自有数据拓展大模型应用提供了可行路径。
3. 研究思路总结与详细解析
本研究的核心目标是开发并验证适用于Borzoi大模型的参数高效迁移学习框架，核心科学问题是如何在仅更新少量参数的前提下，实现模型对新转录组数据的精准适配，技术路线遵循“PEFT方法适配→多数据集基准测试→下游应用验证→结论与优化”的闭环逻辑，系统验证了框架的性能、效率与适用场景。
3.1 PEFT方法的模型适配与基准测试设置
实验目的：为Borzoi模型适配多种PEFT方法，并建立统一的性能与效率基准测试体系，明确不同PEFT策略的优势与适用场景。
方法细节：选取预训练的Borzoi模型及其轻量化版本Borzoi-lite作为基础模型，在注意力层分别实现LoRA、Houlsby、IA3三种PEFT方法，在卷积层实现Locon（基于LoRA原理的卷积核低秩分解适配）和SE-adapter（基于挤压-激励机制的通道注意力适配）；选取GTEx组织转录组、ENCODE TFKD转录因子扰动、Hayflick细胞衰老三个公开数据集作为测试集，设置从头训练（仅使用目标数据）、联合训练（预训练数据+目标数据）、线性探针（仅更新输出层）、全微调（更新所有参数）四种对照策略，以bin水平预测与实测覆盖的Pearson相关系数、基因水平特异性、GPU峰值内存占用、总训练时间为核心评估指标。
结果解读：在GTEx数据集上，注意力层PEFT方法的bin水平平均Pearson相关系数均优于线性探针与从头训练，其中Houlsby、LoRA、IA3的相关系数分别为0.733、0.732、0.731，线性探针为0.725，从头训练仅为0.678；联合卷积层PEFT后性能进一步提升，如LoRA结合4个Locon适配器的相关系数达0.735，与全微调的0.736相当；效率方面，LoRA仅使用全微调0.5%的参数、38.6%的GPU内存和34.9%的训练时间，在Hayflick小数据集上，PEFT方法因参数更新量少，还表现出优于全微调的性能，有效避免了过拟合。
产品关联：文献未提及具体实验产品，领域常规使用PyTorch深度学习框架、NVIDIA系列GPU硬件，以及GTEx、ENCODE等公共多组学数据库资源。
3.2 组织与细胞类型特异性变异效应预测验证
实验目的：验证PEFT适配后的Borzoi模型在组织/细胞类型特异性遗传变异效应预测中的性能，评估其解析变异调控机制的能力。
方法细节：将未包含GTEx数据预训练的Borzoi-lite-no-gtex模型迁移至GTEx数据集，评估其在eQTL分类（区分精细定位eQTL与匹配阴性变异）和效应大小预测（预测与实测效应的相关性）中的性能；利用Variant-FlowFISH实验生成的THP-1、Jurkat细胞系PPIF基因启动子变异效应数据，对比PEFT模型、Enformer模型、从头训练Borzoi-lite模型的预测性能；通过主成分分析（PCA）解析模型学习的组织特异性表征。
结果解读：在GTEx eQTL效应大小预测中，LoRA结合4个Locon适配器的平均Spearman相关系数达0.322，显著优于从头训练的0.188（校正后P值=7.45×10^-8）；PCA分析显示，模型学习的组织表征与已知的组织亲缘关系高度一致，如肝脏与肾脏样本的表征紧密聚类；在THP-1和Jurkat细胞中，Locon4模型的变异效应预测Spearman相关系数分别为0.589和0.745，均优于Enformer和从头训练的Borzoi-lite模型，且能精准捕捉到变异对转录因子结合位点的破坏作用，如rs5982944变异通过破坏HNF1A结合位点导致ARSL基因在肝脏中的表达下调。
产品关联：文献未提及具体实验产品，领域常规使用JASPAR数据库进行转录因子基序注释，使用IGV可视化基因组变异与基因表达的关联。
3.3 衰老与转录因子扰动的调控机制解析
实验目的：验证PEFT模型在解析复杂转录调控机制中的应用能力，评估其识别关键调控因子与元件的准确性。
方法细节：将Borzoi模型迁移至Hayflick WI-38细胞衰老转录组数据，通过归一化差异显著性评分（NDSS）识别调控衰老进程的关键转录因子基序，并与ATAC-seq开放染色质区域的基序富集结果进行验证；将模型迁移至ENCODE TFKD数据集，评估其对转录因子扰动后基因表达变化的预测能力，并通过ChIP-seq数据验证模型识别的调控元件准确性。
结果解读：在Hayflick衰老数据中，模型准确预测了ITGBL1（上调）和MZT1（下调）等差异表达基因的动态变化，NDSS识别的转录因子基序与ATAC-seq富集结果的Pearson相关系数达0.50，成功捕捉到TEAD、CEBP等已知的衰老调控关键因子；在TFKD数据中，模型对强扰动实验的基因表达变化预测相关系数达0.76以上，且能复现CTCF与RAD21、LMNB1与LMNB2等协同调控因子的表达模式相关性，如JUND敲低后，模型识别的调控元件与JUND ChIP-seq峰高度重合，准确揭示了JUND对MBD6基因的调控作用。
产品关联：文献未提及具体实验产品，领域常规使用MEME Suite进行基序富集分析，使用DESeq2进行差异表达基因分析。
3.4 单细胞转录组数据的适配与GWAS变异机制解析
实验目的：验证PEFT模型在单细胞转录组数据中的适配能力，评估其解析GWAS变异细胞类型特异性效应的能力。
方法细节：将Borzoi模型迁移至PBMC单细胞转录组的伪bulk数据，评估其基因表达预测与细胞类型特异性eQTL变异效应预测的性能；利用UK Biobank的PolyFun精细定位变异，解析其在免疫细胞类型中的特异性调控机制。
结果解读：模型在单细胞伪bulk数据中的基因水平预测与实测Pearson相关系数达0.826-0.855，性能与bulk数据相当；在Onek1k细胞类型特异性eQTL预测中，Spearman相关系数达0.26-0.40，且能准确捕捉到变异的细胞类型特异性；对UK Biobank单核细胞计数相关变异rs1375493的分析显示，模型预测该变异通过破坏SPI1结合位点，特异性下调单核细胞中ITGA4基因的表达，与实验测量结果一致，为解析GWAS变异的功能机制提供了可验证的假说。
产品关联：文献未提及具体实验产品，领域常规使用Seurat、Muon进行单细胞多组学数据分析，使用PolyFun进行GWAS变异精细定位。
4. Biomarker研究及发现成果解析
本研究未直接发现新的疾病诊断或预后Biomarker，而是建立了一套基于PEFT大模型的转录调控Biomarker高效识别框架，可用于细胞类型/状态特异性调控元件、功能变异的系统解析。
Biomarker定位：本研究涉及的Biomarker主要包括两类，一是细胞类型/状态特异性的转录调控元件（如转录因子结合位点），二是细胞类型特异性的功能eQTL变异；筛选与验证逻辑为：基于PEFT模型的归一化差异显著性评分（NDSS）识别调控元件，通过与ATAC-seq开放染色质区域的富集分析验证其可靠性；基于Onek1k、UK Biobank的精细定位eQTL数据筛选功能变异，通过模型预测效应与实验测量效应的相关性验证其特异性。
研究过程详述：转录调控元件Biomarker来源于基因组序列，通过NDSS评分（结合1D高斯滤波局部平滑与10kb窗口z-score归一化）识别，验证方法为与ATAC-seq峰的auROC评估，结果显示归一化后的saliency评分对WI-38细胞开放染色质元件的auROC达0.7以上，显著优于未归一化评分与距离TSS的基线方法；细胞类型特异性eQTL变异来源于Onek1k和UK Biobank数据集，验证方法为模型预测效应与实验测量效应的Spearman相关分析，在CD14单核细胞中，预测与测量效应的相关系数达0.40，敏感性与特异性均表现优异。
核心成果提炼：本研究建立的PEFT框架可高效识别细胞类型/状态特异性的转录调控Biomarker，如在衰老细胞中识别的TEAD、CEBP基序，在免疫细胞中识别的SPI1结合位点变异rs1375493；这些Biomarker的功能关联明确，TEAD、CEBP是调控细胞衰老进程的关键转录因子，rs1375493通过下调ITGA4表达影响单核细胞计数；创新性在于首次利用PEFT模型实现了大基因组模型对个性化转录组数据的高效适配，为Biomarker的高通量解析提供了新工具；统计学结果方面，NDSS与ATAC-seq富集的相关系数为0.50（文献未明确样本量，基于图表趋势推测），eQTL预测的Spearman相关系数为0.26-0.40（n=各细胞类型样本量，文献未明确）。