ByteCat

使用gradio实现大模型单卡推理的网页版部署。

同时多人对话时候保持各自对话历史。

大模型多显卡推理方案。

能在单个显卡上部署的支持中文的开源LLM推荐。

大模型在部署的时候，肯定离不开一个概念，叫显存占用。这里主要来看怎么计算大模型的显存占用。

从huggingface模型仓库下载大模型文件和代码。

探讨大模型token分词技巧与词向量的构建，了解其工作原理。

奇妙的涌现现象以及通用人工智能的曙光。

本文介绍什么是端到端的自动驾驶，以及它的优点和缺点。

非线性模型预测控制（NMPC）。