4场公开课！大模型压缩技术的创新与突破

来到2024年，大模型领域的“千模大战”还在继续。开源模型的参数从几百亿来到几千亿，而闭源模型也在不断沿着Scaling Laws（尺度定律）路径升级，在千亿参数的基础上攀登万亿。

 图：不同大模型的参数规模

同时，经过2023年的疯狂泡沫期，2024年大模型厂商需要着手解决商业化落地的问题了。但大模型落地时，模型参数量的增加造成模型的存储和计算需求的增加，这给模型的部署和应用带来了不小挑战。因此，模型压缩成为了一个重要的研究方向。

模型压缩技术采用如量化和稀疏等策略，优化了深度神经网络的部署效率。实际上，无论是大型语言模型、扩散模型还是多模态大型模型，它们的成功部署都依赖于模型压缩技术。

为了帮助大家深入理解模型压缩的基础知识，掌握关键技术，并探索在实践中的应用，以实现模型的高效压缩，本次深蓝学院联合业界领先团队——商汤科技模型工具链团队，精心打造了“大模型工具体系”系列公开课。此次公开课共4场，且全免费，旨在为各位伙伴提供一个全面学习模型压缩的平台。除此之外，本次公开课将为大家限时开放专属社群，和同行一起探索大模型压缩的奥秘！