获取模型的中间层输出2021-04-29算法约 139 字 预计阅读 1 分钟背景 最近在疯狂搭模型,突然有人来问我要我模型的中间层输出的embedding,于是,我就研究了一下怎么获取模型的中间层输出。 代码实现 1 2 3 4阅读更多
将类别特征通过Embedding层映射并进行拼接2021-04-28算法约 513 字 预计阅读 2 分钟背景 最近有一道题,想把类别特征也放到模型里去,跟bert输出拼接到一起。 所以便设计了,使用Embedding层,将类别特征的词表映射到X维向阅读更多
用自定义损失函数实现选择启用不同子网络2021-03-31算法约 6073 字 预计阅读 13 分钟背景 最近发现有一道题,还挺有意思的。题目大意是,每条训练样本是一个文章对,labelA标签标识这两篇文章相似,labelB标签标识这两篇文章阅读更多
用transformers实现多输出、参数共享的bert模型2021-03-27算法约 7887 字 预计阅读 16 分钟背景 在nlp领域,预训练模型bert可谓是红得发紫。 但现在能搜到的大多数都是pytorch写的框架,而且大多都是单输出模型。 所以,本文以 有相阅读更多
树模型2021-03-16算法约 9416 字 预计阅读 19 分钟树模型 在各种机器学习的算法中,树模型可以说是最贴近于人类思维的模型,一切的树模型都是一种基于特征空间划分的,具有树形分支结构的模型。举个直观阅读更多