大模型单卡推理的网页版部署
使用gradio实现大模型单卡推理的网页版部署。
0%
大模型场景对话记忆
发表于
更新于
同时多人对话时候保持各自对话历史。
大模型多卡推理
发表于
更新于
大模型多显卡推理方案。
大模型单卡推理
发表于
更新于
能在单个显卡上部署的支持中文的开源LLM推荐。
大模型后训练之GRPO
发表于
更新于
深入浅出讲解什么是GRPO。
大模型后训练之DPO
发表于
更新于
深入浅出讲解什么是DPO。
大模型后训练之RLHF
发表于
更新于
深入浅出讲解什么是RLHF。
训练一个迷你llama3模型
发表于
更新于
从头预训练一只超迷你LLaMA3。
如何从0到1进行预训练工作-理论篇（4）
发表于
更新于
评估部分，只需要看模型整体的知识掌握程度即可。
如何从0到1进行预训练工作-理论篇（3）
发表于
更新于
训练部分，自研pretrain模型如何训练。