标签:ModernBERT

ModernBERT:编码器模型的革命性升级

2024年12月29日,研究人员推出了ModernBERT,这是对经典BERT模型的重大升级。ModernBERT支持长达8192个Token的上下文处理,使用2万亿个Token进行训练,并提供...