LLM Accelerator:使用参考文本无损加速大语言模型推理
2023-05-17
编者按:如今,基础大模型正在诸多应用中发挥着日益重要的作用。大多数大语言模型的训练都是采取自回归的方式进行生成,虽然自回归模型生成的文本质量有所保证,…