这时，DeepSeek-R1的出现无疑给整个行业带来了新的希望。2023年1月20日，DeepSeek-R1正式发布，并同步开源模型权重。接下来，越来越多的用户和开发者意识到这个国产大模型的强大。DeepSeek-R1在多项任务表现上，包括数学计算、 ...

模型蒸馏是一种将知识从大型语言模型（LLMs）转移到较小模型的技术，旨在创建资源高效且性能卓越的模型。 然而，过度蒸馏可能会导致同质化，降低模型之间的多样性，并削弱它们稳健处理复杂或新任务的能力。这些限制凸显了系统地量化蒸馏过程及其影响的必要性。

AI智能体（AI Agent）是一种能够自主感知环境、进行决策并执行任务的智能系统。从早期专注于特定任务的AI系统，到如今能自主执行复杂任务的智能实体，演进历经两个关键时期： 基于规则和早期机器学习阶段：AI Agent专注于特定领域的任务，能力有限 ...

」 有些软件，我庆幸它没有年终总结：今年你点击 xx 的朋友圈 100 次，但是为什么没有跟 ta 说话呢？ 进入 GPT 纪元第二年，ChatGPT 逐渐也成了笔者的常用软件（尤其是开始充值了之后，真心想把它的会员费用出来）。直到前几天，笔者突然发现，ChatGPT 其实也有 ...

虽然仅解码器模型（如 GPT）可以完成仅编码器模型（如 BERT）的工作，但它们受到一个关键约束：由于它们是生成模型，因此从数学上讲它们「不 ...

在该研究中，作者首先基于14个代表性的植物参考基因组，结合5种先进的基础架构设计，包括BERT, NT, GPT, Gemma和Mamba，构建了一系列大小在100M左右且 ...

奥特曼说，Sora代表了视频生成大模型的GPT-1时刻。 从开年到现在 ... 2018年谷歌打造了世界上第一个千卡集群TPU Pod，当时世界上最大的模型还是BERT。我们帮助谷歌，将（当时）世界上最大模型的训练时间从3天压缩到76分钟。 也很荣幸，去年华为盘古大模型的 ...

在人工智能领域，提示词工程（Prompt Engineering）正迅速崛起，成为优化大模型（如GPT、BERT等）应用的重要工具。根据中移智库发布的《2024年大模型 ...