一种针对BERT模型的多教师蒸馏方案 - 石佳来; 郭卫斌 (华东理工大学学报（自然科学版）, 2024)
Keywords: Transformer蒸馏; 自然语言理解; nature language understanding; 知识蒸馏; multi-teacher distillation; BERT; Transformer distillation; knowledge distillation; 多教师蒸馏