← 返回句子列表
p034 · 27 词
During training, the selection is made differentiable using a Gumbel–Softmax relaxation to form a K-hot mask, while at inference time the top-K tokens are retained directly.
训练时,该选择过程借助 Gumbel–Softmax 松弛变得可微,从而形成 K-hot 掩码;而在推理时则直接保留得分最高的 K 个 token。
先别急着看中文:这句话的主干是什么?
主干 = 谁(主语)+ 做什么/是什么(谓语)+ 对谁做(宾语)。
其余的形容词、介词短语、逗号后面的 -ing 部分,都是挂在上面的「零件」。
其余的形容词、介词短语、逗号后面的 -ing 部分,都是挂在上面的「零件」。
0%
展开结构树 / 中文翻译
主干(主句的连续片段)
the selection is made differentiable
逐块拆解
主语the selection
这句话在说「什么」。
谓语is made
主干动作/状态;被动语态时注意 be + 过去分词。
宾语(本句没有宾语)
介词短语(时间状语)During training
给全句定时间范围:这是训练阶段的做法。后半句 while at inference time 一转,说推理阶段怎么做,所以这个时间状语是理解全句对比结构的钥匙
分词短语(方式状语)using a Gumbel–Softmax relaxation
using… 说明「靠什么手段」让选择变得可微:用 Gumbel–Softmax 松弛。Gumbel–Softmax 是一种技巧,把「挑最大值」这种不可导的操作换成可导的近似,这样梯度才能传回去
不定式(目的/结果状语)to form a K-hot mask
to do 说明目的:形成一个 K-hot 掩码。K-hot 指恰好有 K 个位置为 1 的掩码,对比 one-hot(只有一个 1)——K 个 1 就是「选 K 个」的向量写法
状语从句(while 表对比)while at inference time the top-K tokens are retained directly
while 在这里不是「当……的时候」,而是「而」——把训练和推理两种做法摆在一起对比。判断方法:如果 while 后面出现了一个新的主语加谓语(the top-K tokens are retained),那它多半是完整从句;如果只是 while doing,主语就还是主句主语。retained 是被动:token 被保留下来
中文
训练时,该选择过程借助 Gumbel–Softmax 松弛变得可微,从而形成 K-hot 掩码;而在推理时则直接保留得分最高的 K 个 token。
出处
ColaVLA · arXiv 2512.22939 · arXiv preprint · 3.2. Cognitive Latent Reasoning