ShowMeAI日报系列全新升级！覆盖AI人工智能 工具&框架 | 项目&代码 | 博文&分享 | 数据&资源 | 研究&论文 等方向。点击查看 历史文章列表，在公众号内订阅话题 #ShowMeAI资讯日报，可接收每日最新推送。点击 专题合辑&电子月刊 快速浏览各专题全集。
工具&框架
🚧『Jupyter Splitview』jupyter图像切分视图
🚧『Spring Cloud Tencent』腾讯开源的一站式微服务解决方案，实现了Spring Cloud 标准微服务 SPI
🚧『cuNumeric』支持跨越多节点/多GPU的NumPy替代库
🚧『JAX』强化学习环境
🚧『』工具系统：Flax - 重在灵活性的JAX高性能神经网络开发库及生态系统
博文&分享
📚『AI 算法工程师手册』电子书
作者华校专，曾任阿里巴巴资深算法工程师、智易科技首席算法研究员，现任腾讯高级研究员，《Python 大战机器学习》的作者。本电子书覆盖数学基础、统计学习、深度学习、相关工具等内容。
📚『Google的软件开发指南』电子书，Software Engineering at Google 中文翻译版本
qiangmzsx.github.io/Software-En…
数据&资源
🔥『全国高校生活质量信息汇总』
收集全国各高校招生时不会写明，却会实实在在影响大学生活质量的要求与细节
研究&论文
公众号回复关键字 日报，免费获取整理好论文合辑。
⚡ 论文：I^2R-Net: Intra- and Inter-Human Relation Network for Multi-Person Pose Estimation
论文标题：I^2R-Net: Intra- and Inter-Human Relation Network for Multi-Person Pose Estimation
论文时间：22 Jun 2022
所属领域：计算机视觉
对应任务：Multi-Person Pose Estimation，Pose Estimation，对人姿态检测，姿态检测
论文作者：Yiwei Ding, Wenjin Deng, Yinglin Zheng, PengFei Liu, Meihong Wang, Xuan Cheng, Jianmin Bao, Dong Chen, Ming Zeng
论文简介：In this paper, we present the Intra- and Inter-Human Relation Networks (I^2R-Net) for Multi-Person Pose Estimation./在本文中，我们提出了用于多人姿势估计的人关系网络（I^2R-Net）。
论文摘要：在本文中，我们提出了用于多人姿态估计的人关系网络（I^2R-Net）。它包括两个基本模块。首先，人内关系模块在一个人身上运作，旨在捕捉人内的依赖关系。第二，人际关系模块考虑了多个实例之间的关系，重点是捕捉人与人之间的互动。通过降低特征图的分辨率，人关系模块可以设计得非常轻巧，但却能学习到有用的关系信息，从而大大提升人际关系模块的性能。即使没有花哨的东西，我们的方法也可以竞争或超过目前的竞争者。我们对COCO、CrowdPose和OCHuman数据集进行了广泛的实验。结果表明，所提出的模型超过了所有最先进的方法。具体来说，所提出的方法在CrowPose数据集和OCHuman数据集上分别取得了77.4%和67.8%的AP，以很大的优势超过了现有的方法。此外，消融研究和可视化分析也证明了我们模型的有效性。
⚡ 论文：ContentVec: An Improved Self-Supervised Speech Representation by Disentangling Speakers
论文标题：ContentVec: An Improved Self-Supervised Speech Representation by Disentangling Speakers
论文时间：20 Apr 2022
所属领域：语音
对应任务：Disentanglement，Self-Supervised Learning，自我监督学习
论文作者：Kaizhi Qian, Yang Zhang, Heting Gao, Junrui Ni, Cheng-I Lai, David Cox, Mark Hasegawa-Johnson, Shiyu Chang
论文简介：Self-supervised learning in speech involves training a speech representation network on a large-scale unannotated speech corpus, and then applying the learned representations to downstream tasks./语音中的自监督学习包括在大规模未注释的语音语料库上训练一个语音表示网络，然后将学到的表示应用于下游任务。
论文摘要：语音中的自监督学习包括在大规模未标注的语音语料库上训练一个语音表示网络，然后将学到的表示应用于下游任务。由于SSL语音学习的大多数下游任务主要集中在语音的内容信息上，最理想的语音表征应该能够从内容中分离出不需要的变化，如说话人的变化。然而，分离说话者是非常具有挑战性的，因为去除说话者信息很容易导致内容的损失，而后者的损失通常远远超过前者的好处。在本文中，我们提出了一种新的SSL方法，可以在不严重损失内容的情况下实现说话人的分离。我们的方法改编自HuBERT框架，并结合了拆分机制来规范“老师”标签和学习的表征。我们在一组与内容相关的下游任务中评估了说话人分离的好处，并观察到我们的说话人分离表征具有一致和明显的性能优势。
⚡ 论文：Rethinking Bayesian Deep Learning Methods for Semi-Supervised Volumetric Medical Image Segmentation
论文标题：Rethinking Bayesian Deep Learning Methods for Semi-Supervised Volumetric Medical Image Segmentation
论文时间：CVPR 2022
所属领域：医疗AI
对应任务：Medical Image Segmentation，Semantic Segmentation，Semi-supervised Medical Image Segmentation，Volumetric Medical Image Segmentation，医学图像分割，语义分割，半监督式医学图像分割，容积式医学图像分割
论文作者：JianFeng Wang, Thomas Lukasiewicz
论文简介：Secondly, in fact, they are only partially based on Bayesian deep learning, as their overall architectures are not designed under the Bayesian framework./其次，事实上，它们只是部分基于贝叶斯深度学习，因为它们的整体架构并非在贝叶斯框架下设计。
论文摘要：最近，一些贝叶斯深度学习方法被提出用于半监督的医学图像分割。尽管它们在医学基准上取得了可喜的成果，但仍然存在一些问题。首先，它们的整体架构属于判别模型，因此，在训练的早期阶段，它们只使用标记的数据进行训练，这可能使它们对标记的数据过度拟合。其次，事实上，它们只是部分基于贝叶斯深度学习，因为它们的整体架构不是在贝叶斯框架下设计的。然而，在贝叶斯视角下统一整体架构可以使架构具有严谨的理论基础，使架构的每一部分都能有明确的概率解释。因此，为了解决这些问题，我们提出了一个新的生成贝叶斯深度学习（GBDL）架构。GBDL属于生成模型，其目标是估计输入医疗体的联合分布和其相应的标签。估算联合分布隐含了数据的分布，因此在训练的早期阶段可以同时利用有标签和无标签的数据，这就缓解了潜在的过拟合问题。此外，GBDL完全是在贝叶斯框架下设计的，因此我们给出了其完整的贝叶斯表述，这为我们的架构奠定了理论上的概率论基础。广泛的实验表明，我们的GBDL在三个公共医疗数据集上的四个常用评价指标方面优于以前的最先进方法。
⚡ 论文：Set Norm and Equivariant Skip Connections: Putting the Deep in Deep Sets
论文标题：Set Norm and Equivariant Skip Connections: Putting the Deep in Deep Sets
论文时间：23 Jun 2022
所属领域：机器学习
论文作者：Lily H. Zhang, Veronica Tozzo, John M. Higgins, Rajesh Ranganath
论文简介：However, we show that existing permutation invariant architectures, Deep Sets and Set Transformer, can suffer from vanishing or exploding gradients when they are deep./然而，我们表明，现有的互变不变架构，即Deep Sets和Set Transformer，在其深度时可能会出现梯度消失或爆炸的情况。
论文摘要：置换不变神经网络是一个很有前途的工具，用于从集合中进行预测。然而，我们表明，现有的置换不变架构，即Deep Sets和Set Transformer，在其深度时可能会受到梯度消失或爆炸的影响。此外，层规范，即Set Transformer中选择的规范化，可以通过移除对预测有用的信息来损害性能。为了解决这些问题，我们引入了等价残差连接的清洁路径原则，并开发了集合规范，一种为集合定制的规范化。有了这些，我们建立了Deep Sets++和Set Transformer++，这些模型达到了很高的深度，在一系列不同的任务上，其性能与原来的同类模型相当或更好。我们还介绍了Flow-RBC，一个新的单细胞数据集和置换不变预测的实际应用。我们在这里开放了我们的数据和代码：github.com/rajesh-lab/…。
⚡ 论文：DDPM-CD: Remote Sensing Change Detection using Denoising Diffusion Probabilistic Models
论文标题：DDPM-CD: Remote Sensing Change Detection using Denoising Diffusion Probabilistic Models
论文时间：23 Jun 2022
所属领域：计算机视觉
对应任务：Change Detection，Denoising，变化检测，降噪
论文作者：Wele Gedara Chaminda Bandara, Nithin Gopalakrishnan Nair, Vishal M. Patel
论文简介：Human civilization has an increasingly powerful influence on the earth system, and earth observations are an invaluable tool for assessing and mitigating the negative impacts./人类文明对地球系统的影响越来越大，而对地观测是评估和减轻负面影响的宝贵工具。
论文摘要：人类文明对地球系统的影响越来越大，而地球观测是评估和减轻负面影响的宝贵工具。为此，观察地球表面精确定义的变化是至关重要的，我们提出了一个有效的方法来实现这一目标。值得注意的是，我们的变化检测（CD）/分割方法提出了一种新的方法，通过去噪扩散概率模型，将数以百万计的现成的、无标签的、通过不同的地球观测项目获得的遥感图像纳入训练过程。我们首先通过使用预先训练好的去噪扩散概率模型来利用这些现成的、未经整理的和未标记的遥感图像的信息，然后采用来自扩散模型解码器的多尺度特征表示来训练一个轻量级的CD分类器来检测精确的变化。在四个公开的CD数据集上进行的实验表明，所提出的方法在F1、IoU和总体准确率方面取得了明显优于最先进方法的结果。代码和预训练的模型可在以下网站获得：github.com/wgcban/ddpm…
⚡ 论文：DeepNet: Scaling Transformers to 1,000 Layers
论文标题：DeepNet: Scaling Transformers to 1,000 Layers
论文时间：1 Mar 2022
所属领域：计算机视觉
代码实现：github.com/microsoft/u… , github.com/labmlai/ann… , github.com/facebookres… , github.com/lucidrains/…
论文作者：Hongyu Wang, Shuming Ma, Li Dong, Shaohan Huang, Dongdong Zhang, Furu Wei
论文简介：In this paper, we propose a simple yet effective method to stabilize extremely deep Transformers./在本文中，我们提出了一种简单而有效的方法来稳定极深的Transformer。
论文摘要：在本文中，我们提出了一种简单而有效的方法来稳定极深的Transformer。具体来说，我们引入了一个新的归一化函数（DeepNorm）来修改Transformer中的残余连接，并伴随着理论上的初始化。深入的理论分析表明，模型的更新可以以一种稳定的方式被约束。所提出的方法结合了两个世界的优点，即Post-LN的良好性能和Pre-LN的稳定训练，使DeepNorm成为首选。我们成功地将Transform扩展到1000层（即2500个注意和前馈网络子层）而没有任何困难，这比以前的深度Transform要深一个数量级。值得注意的是，在一个具有7482个翻译方向的多语言基准上，我们具有3.2B参数的200层模型明显优于具有12B参数的48层最先进模型5个BLEU点，这表明了一个有希望的扩展方向。
⚡ 论文：Audio-Visual Speech Codecs: Rethinking Audio-Visual Speech Enhancement by Re-Synthesis
论文标题：Audio-Visual Speech Codecs: Rethinking Audio-Visual Speech Enhancement by Re-Synthesis
论文时间：CVPR 2022
所属领域：语音
对应任务：Speech Enhancement，语音增强
论文作者：Karren Yang, Dejan Markovic, Steven Krenn, Vasu Agrawal, Alexander Richard
论文简介：Since facial actions such as lip movements contain significant information about speech content, it is not surprising that audio-visual speech enhancement methods are more accurate than their audio-only counterparts./由于唇部动作等面部动作包含有关语音内容的重要信息，因此，视听语音增强方法比纯音频的方法更准确就不足为奇了。
论文摘要：由于唇部动作等面部动作包含有关语音内容的重要信息，因此，视听语音增强方法比纯音频的对应方法更准确也就不足为奇了。然而，最先进的方法仍然难以在具有挑战性的声学环境中产生干净、真实的语音，而没有噪音伪影和不自然的失真。在本文中，我们为AR/VR中的高保真电信提出了一个新颖的视听语音增强框架。我们的方法利用视听语音线索来生成神经语音编解码器的代码，从而能够从噪声信号中有效地合成干净、真实的语音。鉴于说话人特定线索在语音中的重要性，我们专注于开发对个别说话人效果好的个性化模型。我们在一个新的视听语音数据集上证明了我们的方法的功效，该数据集是在无约束的大词汇量环境下收集的，也包含现有的视听数据集，在定量指标和人类评价研究上都优于语音增强基线。请看补充视频，了解结果：github.com/facebookres…。
⚡ 论文：Patches Are All You Need?
论文标题：Patches Are All You Need?
论文时间：24 Jan 2022
所属领域：计算机视觉
对应任务：Image Classification，图像分类
代码实现：github.com/tmp-iclr/co… , github.com/locuslab/co… , github.com/labmlai/ann… , github.com/BR-IDL/Padd… , github.com/martinsbruv…
论文作者：Asher Trockman, J. Zico Kolter
论文简介：Despite its simplicity, we show that the ConvMixer outperforms the ViT, MLP-Mixer, and some of their variants for similar parameter counts and data set sizes, in addition to outperforming classical vision models such as the ResNet./尽管ConvMixer很简单，但我们表明，在类似的参数数和数据集大小下，ConvMixer的性能优于ViT、MLP-Mixer和它们的一些变体，此外还优于ResNet等经典的视觉模型。
论文摘要：虽然卷积网络多年来一直是视觉任务的主流架构，但最近的实验表明，基于变换器的模型，特别是视觉变换器（ViT），在某些情况下可能超过其性能。然而，由于Transformer中自我注意层的二次运行时间，ViTs需要使用补丁嵌入，将图像的小区域组合成单一的输入特征，以便应用于较大的图像尺寸。这就提出了一个问题。ViTs的性能是由于固有的更强大的Transformer架构，还是至少部分是由于使用补丁作为输入表示？在本文中，我们为后者提供了一些证据：具体来说，我们提出了ConvMixer，一个极其简单的模型，它与ViT和更基本的MLP-Mixer的精神相似，因为它直接以斑块为输入，分离了空间和通道维度的混合，并在整个网络中保持同等大小和分辨率。然而，相比之下，ConvMixer只使用标准的卷积来实现混合步骤。尽管ConvMixer很简单，但我们表明ConvMixer的性能优于ViT、MLP-Mixer和它们的一些变种，在类似的参数数量和数据集大小下，除了优于经典的视觉模型，如ResNet。我们的代码可在github.com/locuslab/co…。
我们是 ShowMeAI，致力于传播AI优质内容，分享行业解决方案，用知识加速每一次技术成长！点击查看 历史文章列表，在公众号内订阅话题 #ShowMeAI资讯日报，可接收每日最新推送。点击 专题合辑&电子月刊 快速浏览各专题全集。
