ToolNavs 发现实用AI工具
提交工具 登录

大模型

讲清大模型这一技术品类:它是什么、靠什么能力成为 AI 应用的基础,选型时要看的关键维度,以及它的能力边界在哪。

大模型是当前 AI 应用的技术底座:以 Transformer 架构为代表,靠海量文本训练获得理解、生成和推理能力,再经微调、提示词和工具调用接入具体场景。它的价值在通用能力带来的范式变化,不在参数规模本身;边界同样清晰:知识有截止、会产生幻觉、长任务离不开外部工具和流程约束。
模型剪枝是什么?删掉不重要的连接,模型为什么还能干活

模型剪枝是什么?删掉不重要的连接,模型为什么还能干活

模型剪枝是给大模型做减法的一种办法:先找出权重里那些数值接近零、对结果影响很小的连接,把它们删掉或置零,让模型变小、变快,而答题能力只掉一点点。它常和量化、蒸馏一起被称作模型压缩,但三者的下手位置完全不同,这篇先把剪枝本身讲清。 剪掉的到底是什么 神经网络里真正占体积的是权重,也就是神经元之间连接的...

Admin
148
红队测试是什么?专挑 AI 漏洞下手,和普通测试差在哪

红队测试是什么?专挑 AI 漏洞下手,和普通测试差在哪

红队测试(Red Teaming)是请人站在攻击者的位置上,专门想办法让 AI 做错事、说错话、泄露不该泄露的内容,再赶在产品上线前把这些漏洞堵上。它借用了网络安全里的说法:红队负责进攻,蓝队负责防守,测的不是系统在正常使用时表现好不好,而是它被刻意刁难时守不守得住。 红队到底在试什么 常见的试法分...

Admin
158
提示缓存是什么?重复的前缀不用重算,省的是钱和等待

提示缓存是什么?重复的前缀不用重算,省的是钱和等待

提示缓存(Prompt Caching)是给大模型接口的一项省钱机制:同一次对话或同一类请求里反复出现的那段开头内容,服务端算过一次之后先存起来,下次只要开头一字不差地对上,就直接复用上次的计算结果,不再从头算一遍。它省下的既是输入 token 的钱,也是等第一个字出来的时间。 它缓存的不是答案,而...

Admin
184
钢铁大模型三项指导性文件发布:场景、数据集、成熟度一起定

钢铁大模型三项指导性文件发布:场景、数据集、成熟度一起定

钢铁大模型在2026年10月19日迎来了成套的国家标准化指导性技术文件。市场监管总局(国家标准委)近日发布《人工智能 钢铁行业应用场景分类指南》《人工智能 钢铁大模型数据集技术要求》《人工智能 钢铁大模型服务能力成熟度评估》三项文件,新华社、央视新闻与中国证券报均在10月19日作了报道;据中国证券报...

Admin
119