Google发布的开源模型Gemma,在性能上可与Llama 2和Mistral等知名模型相媲美,并具备卓越的竞争力。Gemma采用了GeGLU激活函数,有助于提升模型的训练效率和整体性能表现,从而实现更快的收敛速度。