ViLBERT：用以视觉效果和语言表达每日任务的预练习与工作没有关系的视觉效果语言表达表现 。
帕唑帕尼 Votrient 新闻资讯摘 要：帕唑帕尼和索坦哪家好。
ViLBERT（Lu et al.2019）意味着视觉效果与语言表达BERT。 听起来的确好像BERT实体模型的一个版本号（Devlin等，2022年），该实体模型迅速就变成了NLP每日任务的SOTA，并集成化了视觉效果键入。 ViLBERT是用以多模态每日任务，如视觉效果话题讨论(VQA)和参照关系式。

方式 汇总

该实体模型合理地传承了BERT实体模型，BERT实体模型的很多一部分在该办法中始终保持不会改变。最先各自处理图象和文字键入。文字编号应用好多个Transformer层单独于图象特点。上述图象特点被置入可键入到Transformer中;界限框用以搜索和挑选图象地区，空间向量用以储存每一个编号图象范围的空間部位。下面，引进一同专注力Transformer层，其(过虑词)同专注力用以学习培训文字键入中的词汇和图象中地区中间的投射。该实体模型转化成一个掩藏表明，可以作为好几个多方式每日任务的起始点。ViLBERT最先在标识转化成数据上接纳练习，该数据包括与图象內容有关的文章标题图象。进行这一环节后，可以模型拟合开展调整，以实行VQA等其它每日任务。

我认为最有意思的是

这类办法的很多一部分并不新奇。图象和文字中间的一同专注力在之前早已被探寻过。除此之外，这也是一种迁移学习方式 ，该实体模型从定义外挂字幕数据信息集中化的3三十万对图象-外挂字幕对中学习培训，随后开展调整，以在较小的数据实行指定每日任务。这类迁移学习早已被证实在视觉效果和自然语言理解处理自然环境上都合理。别说，我发现了很多一部分令人激动，由于这是我已经阅读文章的多模态学习培训的第一篇毕业论文之一。一同专注力是一个很有趣的问题。这也是对我们在ML实体模型中见到的一般注意力机制的一个简易改动。简易地说，专注力是一种方式 ，实体模型可以在得到预测分析的与此同时查询键入的一部分或掩藏的表明。在一同专注力中，这类留意被扩大到【关心大家请加微信好友：yaodaoyaofang 】不一样状态的特点，即图象的一同变换块见到来源于编号文字的表明，相反也是。这里有许多与Transformer模型有关的关键点，我目前将其省去。结果显示，该实体模型适用多方式每日任务。我觉得这也是Transformer构架和BERT的又一次获胜。但我还觉得这也是很多将来工作中的基本——假如开展大量的调整和改动，这一实体模型将在很多特殊每日任务上体现得更强。

为什么你应该（我）觉得激动?

继CNN以后，Transformers 好像是深度学习使用的下一个重大突破。该实体模型非常好地完成了图象与文本的视觉效果基本配对。我非常激动的是见到那样一个实体模型将如何实行参照图像分割，在其中輸出是一个完全的切分子网掩码。一个改动的视频解码器和/或一个独立的切分管路很有可能必须获得优化的結果。【微信号码：yaodaoyaofang】：Aditya Chinchuredeephub翻译组药道网【帕唑帕尼网上订购方式】。印度的全世界海淘药店：帕唑帕尼使用说明。