资讯

这项由浙江大学计算机学院周晓巍教授领导的研究团队完成的工作,发表于2025年7月,论文编号为arXiv:2507.13344v1。团队成员包括金雨东、彭思达、王轩等多位研究者,其中部分成员来自蚂蚁集团。有兴趣深入了解技术细节的读者可以通过论文编号在a ...
突破局限:非均匀稀疏扫描角选择法助力叠层电池工业 CT 检测 《Displays》:Non-uniform sparse scanning angle selection method for limited angle industrial CT detection of laminated cells 【字体: 大 中 小 】 时间:2025年05月08日 来源:Displays 3.7 ...
具体而言,PLM 团队绘制了稀疏率(0~1)与困惑度差异的关系图,以分析神经激活减少的性能成本。 不同模型的曲线揭示了各自对稀疏度的敏感性。
挑战 1 通用性:Attention 虽然具备稀疏性质,但是其稀疏形状在不同的模型甚至同一模型的不同层中都是不同的,体现出很强的动态性。
清华稀疏Attention,无需训练加速一切模型! 2025年03月27日 09:18 机器之心Pro 新浪财经APP 缩小字体 放大字体 收藏 微博 微信 分享 ...
稀疏促进动态模态分解(SPDMD)的核心思想是如何找到最具代表性的DMD模态来捕捉系统的基本动力学。 这个问题看似简单,但实际上比人们最初想象 ...
SparseDet使用3D稀疏卷积网络从点云中提取特征,并将其转换为2D稀疏特征,以便通过检测n头进行进一步预测。 如图2(c)所示,SparseDet将稀疏查询设计为目标代理,允许灵活和选择性地聚合点云以获得场景中的目标代理。
作者:量子位 编者按:激活稀疏性是解决大语言模型(LLMs)在推理阶段出现的计算成本高、内存占用大等问题的有效方法,可以有效减少激活张量中激活元素的数量。然而该方法无法实现 LLMs 激活的完全稀疏性,从而限制了推理阶段的效率提升。 对此,微软亚洲研究院提出 Q-Sparse 实现了 LLMs 激活 ...
探索稀疏自动编码器在机器学习中的强大功能。我们的深入文章探讨了这些神经网络如何压缩和重建数据、提取有意义的特征以及增强 GPT-4 和 Claude 3 等大型模型的可解释性。了解它们在降维、异常检测和 AI 安全方面的应用。
最大功耗90W,INT8稀疏计算性能达到708TFLOPS。 智东西4月11日报道,美国AI三巨头不仅在大模型赛道争奇斗艳,还纷纷卷起自研AI芯片。昨天“AI界汪峰 ...
大语言模型之大,成本之高,让模型的稀疏化变得至关重要。众所周知,对于大语言模型来说,规模越大,所需的算力越大,自然占用的资源也就越多。研究人员于是乎把目光转到了这片领域,即模型的稀疏化(Sparsification ...