AI人工智能初学者

点击下方卡片，关注「集智书童」公众号点击加入👉「集智书童」交流群想要了解更多：前沿AI视觉感知全栈知识👉「分类、检测、分割、关键点、车道线检测、3D视觉（分割、检测）、多模态、目标跟踪、NerF」行业技术方案👉「AI安防、AI医疗、AI自动驾驶」AI模型部署落地实战👉「CUDA、TensorRT、N

大家在实际部署Transformer时，都需要压缩模型来减少内存和计算成本。而Transformer模型结合了注意力和前馈网络，往往需要特定压缩技术来提升性能。本文总结了不同情况下的60种Transformer模型压缩方法与开源代码。分为量化、剪枝、知识蒸馏三大类。这60种都是近3年内非常新颖的创新

点击下方卡片，关注「集智书童」公众号点击加入👉「集智书童」交流群想要了解更多：前沿AI视觉感知全栈知识👉「分类、检测、分割、关键点、车道线检测、3D视觉（分割、检测）、多模态、目标跟踪、NerF」行业技术方案👉「AI安防、AI医疗、AI自动驾驶」AI模型部署落地实战👉「CUDA、TensorRT、N

备注好友：方向-学校/公司-姓名/昵称【AIGC 先锋科技】交流群高分辨率输入使大型视觉-语言模型（LVLMs）能够辨别更精细的视觉细节，增强了它们的理解能力。为了减少由高分辨率输入引起的训练和计算成本，一个有前景的方向是使用滑动窗口将输入切成均匀的块，每个块与训练有素的视觉编码器的输入大小相匹配。

备注好友：方向-学校/公司-姓名/昵称【AIGC 先锋科技】交流群基于 Transformer 的架构因其卓越的性能已成为各种视觉任务的默认标准模型。随着模型规模的不断扩大，模型蒸馏在各种实际应用中变得尤为重要，尤其是在计算资源受限的设备上。然而，当前流行的知识蒸馏方法在遇到教师模型和学生模型之间的

点击下方卡片，关注「集智书童」公众号点击加入👉「集智书童」交流群想要了解更多：前沿AI视觉感知全栈知识👉「分类、检测、分割、关键点、车道线检测、3D视觉（分割、检测）、多模态、目标跟踪、NerF」行业技术方案👉「AI安防、AI医疗、AI自动驾驶」AI模型部署落地实战👉「CUDA、TensorRT、N

点击下方卡片，关注「集智书童」公众号点击加入👉「集智书童」交流群想要了解更多：前沿AI视觉感知全栈知识👉「分类、检测、分割、关键点、车道线检测、3D视觉（分割、检测）、多模态、目标跟踪、NerF」行业技术方案👉「AI安防、AI医疗、AI自动驾驶」AI模型部署落地实战👉「CUDA、TensorRT、N

Abstract稀疏注意力能有效缓解大型语言模型（LLM）在长上下文中的显著内存和吞吐量需求。现有方法通常采用统一的稀疏注意力 Mask ，在不同注意力头和输入长度上应用相同的稀疏模式。然而，这种统一的方法未能捕捉到LLM中固有的多样化注意力模式，忽略了它们在准确性和延迟之间的不同权衡。为了应对这一

点击下方卡片，关注「集智书童」公众号点击加入👉「集智书童」交流群想要了解更多：前沿AI视觉感知全栈知识👉「分类、检测、分割、关键点、车道线检测、3D视觉（分割、检测）、多模态、目标跟踪、NerF」行业技术方案👉「AI安防、AI医疗、AI自动驾驶」AI模型部署落地实战👉「CUDA、TensorRT、N

ADAS Laboratory点击上方蓝字关注 智驾实验室         加入【智驾实验室】交流群，获取更多内容和资料将深度神经网络应用于三维点云处理，因其在增强现实/虚拟现实、自动驾驶和机器人技术等多个领域的卓越性能而越来越受

点击下方卡片，关注「集智书童」公众号点击加入👉「集智书童」交流群安全头盔在建筑工地等潜在危险普遍存在的环境中对保护工人 Head 受伤起着至关重要的作用。然而，目前尚无方法能同时实现在复杂环境中的模型准确性和性能。在本研究中，作者利用基于YOLO的模型进行安全头盔检测，在减少参数和浮点运算数量超过2

2024年开始，将是高阶自动驾驶关键节点。大模型、端到端、OCC这些技术正逐步走向量产。今天就为大家盘点200+篇自动驾驶论文与代码，来自ICCV、NeurIPS等顶会，涉及大模型自动驾驶、端到端、BEV感知、检测、OCC等10余...

点击下方卡片，关注「AI视界引擎」公众号自从大约一年前出现Segment Anything Model（SAM）以来，它引起了学术界极大的兴趣，并从各种角度引发了大量的研究和工作发表。然而，由于SAM的大型图像编码器体积庞大，达到...

Stability.AI 二月底发的技术报告，干货蛮多的，随便记录一些我关注的信息。技术报告地址：https://arxiv.org/pdf/2402.17834.pdfPretraining 模型：1.6B数据量：2T全部来自于商业可用的开源数据集，以确保可复现性...