论文:CLIP-KD: An Empirical Study of CLIP Model Distillation 链接:https://arxiv.org/pdf/2307.12732 CVPR 2024
Introduction
Motivation:使用大的Teacher CLIP模型有监督蒸馏小CLIP模型,出发点基于在资源受限的应用中&…
An Empirical Study of Scaling Law for OCR
Abstract
在自然语言处理 (NLP) 领域,模型大小、数据量、计算和模型性能的规律已经得到广泛研究。然而,光学字符识别 (OCR) 中的缩放规律尚未得到研究。为了解决这个问题,我们进行了全面的研究&…
Empirical Studies 一.Learning Program Semantics with Code Representations: An Empirical Study1.1.简介1.2.Overview1.2.1.任务1.2.2.代码表示1.2.3.结点向量的生成 1.3.实验1.3.1.RQ11.3.2.RQ21.3.3.RQ3 1.4.Discussion1.4.1.代码语义向量空间1.4.2.语义等价变换1.4.3.分…