CV技术指南

Transformers 是一个强大的架构，但同时也容易导致在训练过程中出现OOM或者达到GPU的运行时限，本文介绍了一些Transformers常用的加速策略。...

本文将详细介绍了BiTCN，这是2023年3月在《Parameter-efficient deep probabilistic forecasting》一文中提出的模型。...

当人们都以为 Transformer 在语言模型领域稳坐江山的时候，LSTM 又杀回来了 —— 这次，是以 xLSTM 的身份。5 月 8 日，LSTM 提出者和奠基者Se...

近日，北大、斯坦福、以及Pika Labs发布了新的开源文生图框架，利用多模态LLM的能力成功解决文生图两大难题，表现超越SDXL和DALL·E 3。...

ICLR 全称为国际学习表征会议，今年举办的是第十二届，于 5 月 7 日至 11 日在奥地利维也纳展览会议中心举办。本届会议共收到了 7262 篇提交论文，接收 2260...

视觉语言模型屡屡出现新突破，但ViT仍是图像编码器的首选网络结构。字节提出新基础模型——ViTamin，专为视觉语言时代设计。...

本文介绍的工作在CLIP的基础上，提出了具有长文本能力的Long-CLIP，弥补了CLIP在长文本建模上的重大短板，并可以即插即用地利用在各种多模态任务中。...

自香农在《通信的数学原理》一书中提出「下一个 token 预测任务」之后，这一概念逐渐成为现代语言模型的核心部分。最近，围绕下一个 token 预测的讨论日趋激烈。...

具身基础模型突破2D，全新生成式视觉-语言-行动模型3D-VLA，在多项任务中显著提高了推理、多模态生成和规划的能力。...

来自理海大学、微软研究院的研究者提出了一种多智能体框架 Mora，该框架整合了几种先进的视觉 AI 智能体，以复制 Sora 所展示的通用视频生成能力。...

佐治亚大学Intelligent Vision and Sensing实验室招收计算机视觉／深度学习／机器人／自动驾驶方向博士生...

本文提出了Point TransformerV3（PTv3），它将简单性和效率置于某些机制的准确性之上。...

MQA 是 19 年提出的一种新的 Attention 机制，其能够在保证模型效果的同时加快 decoder 生成 token 的速度。...

为了解决基于深度学习方法泛化性的问题 ，来自厦门大学、Intel 、大疆的研究者们提出了 GIM 。...

在某些情况下，我们需要用Pytorch做一些高级的索引/选择，所以在这篇文章中，将介绍这类任务的三种最常见的方法。...

Meta 研究者提出了一种改进思路，利用 SAM 的掩码图像预训练 (SAMI)。这是通过利用 MAE 预训练方法和 SAM 模型实现的，以获得高质量的预训练 ViT 编码...

研究团队提出了基于 Transformer 的 Video 统一生成框架 - Video Diffusion Transformer (VDT)，并对采用Transform...

Transformer 强大的泛化能力再次得到证明！最近几年，基于 Transformer 的架构在多种任务上都表现卓越，吸引了世界的瞩目。...

本文提出了Swin-UMamba，借助ImageNet预训练模型的力量进一步提升基于Mamba的模型在医学图像分割任务中的性能。...

本文不仅仅涉及的是技术，也有一些对于项目管理，需求沟通的相关的内容，算是自己的一点点感悟。表面缺陷检测项目，同事更多称之为“质检项目”。...