English
全部
搜索
图片
视频
短视频
地图
资讯
更多
购物
航班
旅游
笔记本
报告不当内容
请选择下列任一选项。
无关
低俗内容
成人
儿童性侵犯
时长
全部
短(小于 5 分钟)
中(5-20 分钟)
长(大于 20 分钟)
日期
全部
过去 24 小时
过去一周
过去一个月
去年
清晰度
全部
低于 360p
360p 或更高
480p 或更高
720p 或更高
1080p 或更高
源
全部
Dailymotion
Vimeo
Metacafe
Hulu
VEVO
Myspace
MTV
CBS
Fox
CNN
MSN
价格
全部
免费
付费
清除筛选条件
安全搜索:
中等
严格
中等(默认)
关闭
筛选器
26:02
bilibili
我是小小升
[LLM推理] 深入理解大模型量化:GPTQ 原理解析
在大模型(LLM)落地过程中,量化是绕不开的核心技术。为什么百亿参数的模型能在普通显卡上运行?这背后的数学魔法究竟是什么? 本期视频将深入浅出地拆解大模型量化的底层逻辑。我们不仅会讨论最基础的量化概念,还会重点解析目前常见的后量化(PTQ ...
已浏览 2263 次
2 个月之前
相关产品
Ggml Gguf Gptq
Ggml vs Gptq
Gguf vs Gptq
#GPT Vs Transformer Models
What Is Transformer Architecture In Gpt
homeinteriorz.com
2025年1月24日
What is GPT (generative pre-trained transformer)? | IBM
ibm.com
2024年9月18日
热门视频
9:08
How To CONVERT LLMs into GPTQ Models in 10 Mins - Tutorial with 🤗 Transformers
YouTube
1littlecoder
已浏览 1万 次
2023年8月24日
20:26
Video #203 GPTQ: Accurate Post-Training Quantization For Generative Pre-Trained Transformers
YouTube
Data Science Gems
已浏览 1070 次
2024年8月2日
55:20
GPTQ : Post-Training Quantization
YouTube
ChallengerSpaceShuttle
已浏览 6233 次
2023年4月27日
GPT Text Generation Examples
Text Generation With GPT-2 in Python
dev.to
3 个月之前
What is Text Generation? - Hugging Face
huggingface.co
2024年8月27日
0:58
@walter_writes humanizing my chat gpt text so it actually sounds like me😩 #besthumanizer #aihumanizer #student #chatgpt | Not Actually Studying
Facebook
Not Actually Studying
已浏览 107.7万 次
3 个月之前
9:08
How To CONVERT LLMs into GPTQ Models in 10 Mins - Tutorial with 🤗
…
已浏览 1万 次
2023年8月24日
YouTube
1littlecoder
20:26
Video #203 GPTQ: Accurate Post-Training Quantization For Generat
…
已浏览 1070 次
2024年8月2日
YouTube
Data Science Gems
55:20
GPTQ : Post-Training Quantization
已浏览 6233 次
2023年4月27日
YouTube
ChallengerSpaceShuttle
34:13
GPTQ Quantization EXPLAINED
已浏览 3523 次
2024年10月27日
YouTube
Oscar Savolainen
11:03
LLaMa GPTQ 4-Bit Quantization. Billions of Parameters Made Small
…
已浏览 2.9万 次
2023年5月14日
YouTube
AemonAlgiz
26:53
New Tutorial on LLM Quantization w/ QLoRA, GPTQ and Llamacpp, LLa
…
已浏览 1.7万 次
2023年9月9日
YouTube
Discover AI
6:59
Understanding: AI Model Quantization, GGML vs GPTQ!
已浏览 2.3万 次
2023年8月4日
YouTube
1littlecoder
9:43
如何将大模型快速转化为对应的GPTQ量化模型,十分钟快速拥有
…
已浏览 3870 次
2023年8月25日
bilibili
跟Roonie学AI思维
26:21
How to Quantize an LLM with GGUF or AWQ
已浏览 1.4万 次
2023年10月3日
YouTube
Trelis Research
6:35
What is Post Training Quantization - GGUF, AWQ, GPTQ - LLM Concept
…
已浏览 1781 次
2024年4月12日
YouTube
Akhil Sharma
40:28
Deep Dive: Quantizing Large Language Models, part 1
已浏览 2.3万 次
2024年3月6日
YouTube
Julien Simon
15:51
Which Quantization Method is Right for You? (GPTQ vs. GGUF vs. AWQ)
已浏览 3.7万 次
2023年11月23日
YouTube
Maarten Grootendorst
💥【保姆级GPTs使用指南】教你用自然语言轻松创建GPTs演示,GPTs应
…
已浏览 947 次
2023年11月18日
YouTube
暗夜飞行
13:08
适配更多硬件的GPTQ量化方法和代码讲解
已浏览 1014 次
9 个月之前
bilibili
智驭导师授AI
18:15
【13】GPTQ、AWQ、GGUF等模型量化概念讲解
已浏览 2万 次
2025年2月10日
bilibili
LLM张老师
1:01:46
Inference & GPU Optimization: GPTQ
已浏览 484 次
2024年10月9日
YouTube
AI Makerspace
3:42
vllm-gptq 实现 Qwen 量化模型的加速推理
已浏览 2863 次
2023年12月24日
bilibili
AI日日新
8:44
VLLM 测试 Mixtral MoE 的 GPTQ 量化版本
已浏览 2520 次
2023年12月23日
bilibili
漆妮妮
42:06
Understanding 4bit Quantization: QLoRA explained (w/ Colab)
已浏览 4.8万 次
2023年6月11日
YouTube
Discover AI
18:44
如何构建你自己的GPTs,从入门到精通 | 完整教程 (机翻)
已浏览 1.1万 次
2023年11月9日
bilibili
硬评测
11:11
Day 65/75 LLM Quantization Techniques [GPTQ - AWQ - Bitsan
…
已浏览 1386 次
2024年4月16日
YouTube
FreeBirds Crew - Data Science and GenAI
6:44
用GPTQ算法量化大型模型 大幅减少GPU使用并提高准确率
已浏览 2397 次
2023年5月16日
bilibili
小工蚁创始人
3:54
Running Quantized Zephyr 7B Beta GPTQ on Windows Using oobabo
…
已浏览 1020 次
2023年10月29日
YouTube
Natlamir
11:34
LLMs Naming Convention Explained
已浏览 1842 次
2023年9月15日
YouTube
AI Readme
2:17:43
我敢保证这是最全的GPT系列算法讲解!的讲解,从原理到案例实战!光看
…
已浏览 242 次
2023年4月21日
bilibili
pytorch安装cpu
1:27:54
大模型量化一网打尽四(gptq源码)
已浏览 5118 次
2024年6月2日
bilibili
学车辆的算法工程师
9:14
Triton优化GPTQ算法GPU内核 效率提升3~6倍
已浏览 1595 次
2024年2月5日
bilibili
小工蚁创始人
6:37
【Intel® Extension for Transformers 03】大语言模型的4bits量化神器GPTQ
已浏览 1860 次
2023年12月22日
bilibili
英特尔技术汇
0:27
2026-01-22
已浏览 31.9万 次
1 个月前
YouTube
Brooke Monk Fans
观看更多视频
更多类似内容
反馈