301章 巧妙新思路
反正尹芙·卡莉觉思路很奇妙，甚至让醍醐灌顶功效。
功效，很程度因此数文本摘研究员研究抽取式文本摘。
【讲真，近直野果阅读书追更，换源切换，朗读音色，www.yeguoyuedu.com 安卓苹果均。】
抽取式文本摘式文本摘虽文本摘。
者者转变涉及思路转换程。
很候数传统文本摘方研究员亦即研究抽取式文本摘研究员受先入主影响式文本摘认识位常。
举例，比林灰搞定式文本摘提预训练。
按，东西并算什高深概念。
谓预训练倒难理解，非训练模型数据进粗处理已。
比较难。
尹芙·卡莉进抽取式文本摘方调校候预训练。
数况直接进训练。
应预训练步骤。
按照林灰论文进补充。
预训练通常做法般将量低本收集训练数据放。
某或者某类特定预训方法习训练数据其共性。
将其共性移植特定任务模型。
再使相关特定领域少量标注数据进更细致调校。
完程，今实际应模型模型需共性。
再习特定任务特殊部分即。
概类似部分方程先求通解再找特解程。
听似乎蛮抽象。
实际高深。
涉及机器习方，论高深东西。
其本质基本模彷。
况，往往解何处理问题。
理解机器习处理问题思路或者方式。
通常习东西候。
或许初衷将内容次性懂精。
因习间限、业任务繁或者其余各各客观素。
实际习候很难将知识步位。
况，擅习怎习呢？
进习采做法先将知识共性内容搞懂。
再花间放“疑难杂症”。
虽做法似乎点“偷懒”。
类半智慧结晶因偷懒才。
否认似偷懒习方式充满智慧。
至少效率角度衡量话，方式很值称赞。
毕竟除像医等极其特殊科外。
部分领域涉及知识，80%够找共性。
找共性，再解决另外20%复杂知识。
疑比较省力思维。
语言处理机器习典型方向引入预训练。
疑等将部分优秀习特殊技巧“移植”。
思路疑很很巧妙。
思路固很巧妙。
正路边李苦理。
什很巧妙思路却尝试呢？
尹芙·卡莉觉未必方。
别却例外失败。
涉及知识汲取，或许绝数知先将80%共性知识搞定再搞定另外20%省力。
往业，尹芙·卡莉觉身边够做先将知识80%共性找再攻克疑难处少少。
甚至除尹芙·卡莉眼霸外根本啥做点。
尹芙·卡莉眼霸少呢？寥寥几。
先将80%共性知识搞定再搞定另外20%很明智做法实际很少应。
明明更加容易方式。
什少做？
尹芙·卡莉觉主原因：
——部分并善找知识共性。
善找知识共性况，部分虽尝试找知识共性。
实际操候找80%知识共性完全奢望。
找30%、20%甚至更少知识共性。
此非够找主体知识共性。
反找共性候知觉将其余原本普通内容给异化眼“非共性知识”。
非共性知识被尝试找共性理暗示比较麻烦知识。
原本并特别难知识，理暗示debuff。
效率甚至比找共性效率低。
此，未找共性反尝试寻找共性需耗费量间攻克内容。
况，找知识共性非造帮助。
反习候拖累。
很苦逼。
与其况，干脆放弃找知识共性。
直接视仁，至少聪明反被聪明误。
类似习窘境。
或许机器习方者因境遇才放弃训练数据共性寻找。
至少尹芙·卡莉因原因。
纵知林灰模型训练引入预训练方式。
尹芙·卡莉知林灰究竟何做。
按照林灰论文补充内容进阐述。
传统训练机制，文本摘模型产思路：
语料训练→模型
按照林灰思路引入预训练机制。
文本摘模型产思路：
语料预训练→预训练模型→微调→模型
思路本身问题。
尹芙·卡莉全新模型产思路却满脑全问题。
具体应候究竟引入何预训练方式才够半功倍训练效率？
什预训练模型才预训练目标？
预训练模型“微调”究竟应该何理解呢？