Pompeii BL
2024
11
30
大模型显存占用分析 大模型显存占用分析
大模型消耗的显存 在详细说明大模型需要消耗的显存大小之前我们需要先明确几个概念。 一个就是大模型在不同阶段对显存的消耗是不同的。但是大致可以分为三个阶段或者说三个场景。即大模型预训练阶段、大模型微调阶段和大模型推理阶段。 - 在预训练阶段，
2024-11-30 LLMs
LLMs 深度学习 KV Cache AI LoRA
28
hexo博客搭建 hexo博客搭建
基础搭建 Hexo 选一个博客框架，hexo是静态网站框架，基于nodejs，可以生成静态网页，部署到github上。 需要提前安装git，nodejs。 - check git version: git --version - check
2024-11-28 hexo
hexo next 个人静态博客搭建