“ 如果你有机会采访一下 AI 算法工程师,什么是机器学习中最重要的事儿?
他们大概率会咆哮着告诉你:数据!数据!数据!
如何获得高质量的标注数据?如何提高标注同学的工作效率?是每个 AI 团队最重要的思考之一。
本文向大家详细阐述了来也科技 AI 研发中心在实现 “实体关系标注工具” 上的最佳实践。
”
首先,为了您能顺利理解本文内容,对常见的技术名词说明如下:
NLP:Natural Language Processing 自然语言处理
实体关系:见下图
数据标注:数据标注即通过分类、画框、标注、注释等,对图片、语音、文本等数据进行处理,标记对象的特征,以作为机器学习的基础素材。
标注数据的流转:见下图
背景
对话机器人是来也科技的当家产品之一。对话机器人的核心能力之一就是自然语言处理(NLP),而标明实体关系的数据则是提升 NLP 能力的重要输入。
来也科技在标注实例关系数据上,历经了 3 个阶段:
Excel 标注
Excel 标注的缺点是显而易见的:
市面上的标注工具(我们以百度大脑举例)
这个工具相较 Excel 有很明显的优点:
但也有不满足我们需求的地方:
自主研发
在此背景下,我们决定研发自己的实体关系标注工具。除了基本的标注需求外,我们还抽象出以下几点重点需求:
来也科技实体关系标注工具实践
通过对需求的反复分析,我们确定了实体关系标注工具的目标使用方式:
标注页面可以实时维护类型信息
这是比较简单的需求,我们只需要在标注页面添加类型维护,并且使其在更新后可以立刻投入使用即可。
同段文本可标注为多个实体
我们的需求是,同一段文字可被多次标注。如下图:
这个需求比较具有挑战性,且当前业内并没有一套可参照的方案满足我们的业务场景。
通过调研分析,我们发现:一段文本之所以无法被标注为多个实体,是因为现有的标注方式是在已有的文本元素上添加样式,不论是背景色、下划线,其本质都是在利用原本的文本元素。
因为 DOM 元素的固有限制,一段文本最多只能对应一种背景色,以及一种下划线。
要想让一段文本可以被标注为多个实体,那么文本和标注肯定不是一个 DOM 元素。所以,我们采取“引入额外线段”的方式来表示标注,并通过“绝对定位”定位到文本下方。这样,一段文本就可以对应多个标注了。
我们需要准确的获取标注文本的位置信息。可并没有现成的组件,能够返回指定字符在给定文本中的具体位置。
所以,我们就自己实现了一个文字排版容器:
,时长00:08
伪代码如下:
function breakIntoLines(str, width) {
// 获取测试宽度的span,该span继承标注工具的文字样式
const span = getTestSpanInstance();
// 分行信息
const lines = [];
// 当前行的文本
let tokens = '';
// 当前行行首在str中的index
let stIndex = 0;
// 遍历字符串
while (str.length) {
// 判断当前文本再加一个字符会不会超宽
span.innerText = tokens + str[0];
// 如果超宽,就将之前的文本放入分行信息中,超出部分单起一行
if(span.offsetWidth >= width) {
lines.push({
stIndex,
tokens,
});
stIndex += tokens.length;
tokens = str[0];
}
// 如果未超宽,则将该字符添加到当前行
else {
tokens += str[0];
}
// 吐出被插入的字符
str = str.slice(1);
}
// 插入最后一行
if(tokens) {
lines.push({
stIndex,
tokens,
})
}
return lines;
}
获取字符位置
如何对标注的数据进行展示呢?
function injectMarksIntoLines (lines, marks) {
for(let line of lines) {
// 获取每行内的标注
for(let mark of marks) {
if(isMarkInLine(mark, line) {
line.marks = line.marks ? line.marks.concat(mark) : [mark]
}
}
// 根据重叠数量,确定每个标注的垂直偏移量
line.marks = line.marks.map((mark, i, arr) => {
let y = 0;
for(let j = 0; j < i; j++) {
if(isOverlap(mark, arr[j])) {
y++;
}
}
return {
...mark,
y,
}
})
}
}
跨行实体不会被拆成单独的一行
市面上的工具在标注跨行文本时,会因为标注不能拆分为多行,而将标注的文字机械化的放在同一行,这就造成了两个问题:
这样的处理方式,会使得文本难以阅读。如下图所示:
来也科技自主研发的标注工具,已经摆脱通过文本样式实现标注这种枷锁,我们可以将一个标注拆成多个 DOM 元素。
只要标注的全部或部分内容在当前行,就可以在本行标注文本下展示标注组件,彻底解决跨行文本被拆分的这个问题。
function injectMarksIntoLines(str, width) {
// ...
if(isMarkInLine(mark, line) {
mark.stIndex = Math.max(line.stIndex, mark.stIndex);
mark.endIndex = Math.min(line.endIndex, mark.endIndex);
line.marks = line.marks ? line.marks.concat(mark) : [mark]
}
// ...
}
优化
渲染时间过长
当标注文本较多时,首屏渲染时会出现较长的白屏时间。且文本字数、标注数量越多,白屏时间越长。
我们以一段500字左右的文本为例,获取其性能数据:
结合performance和代码进行分析,我们发现耗能主要在以下两方面:
我们来逐一优化。
分行算法优化
按照上文描述,初版的分行算法时间复杂度为 O(n) ,n 为文本字数。我们着重考虑通过减少调用次数来实现性能优化。通过实际观察实际应用场景,我们得出以下结论:
基于这些信息,我们做出如下优化:
结果对比:
优化前 | 优化后 | |
渲染 500 字 | 233.29 ms | 79.5 ms |
渲染 2 万字 | 11232ms | 91ms |
可见优化效果显著。
获取标注位置算法优化
在展示标注结果时,初版获取标注纵向偏移的算法为:检查所有标注数据后,过滤出本行标注进行展示,复杂度为 O(l * n * n),其中 l 为行数,n 为标注数。
此方式引入了很多不必要的计算。其实,要获取每个标注的垂直偏移量,只需要对比当前行的标注即可。
针对这个问题,优化思路如下:
伪代码如下:
function getMarkPosition(lines, marks) {
// 起始位置升序
const stIndexArr = marks.sort((a, b) => a.stIndex - b.stIndex);
const st = 0;
// 本行需要添加的标注
let current = [];
for (let line of lines) {
// 获取当前行的标注
while(stIndexArr[st].stIndex <= line.endIndex) {
current.push(stIndexArr[st]);
st++;
}
// 获取标注
mark.offsetX = getTextLength(line.text.slice(0, mark.stIndex - line.stIndex))
// 添加标注行
addMarkLines(line, current);
// 剔除本行结束的标注
current = current.filter(oldMark => oldMark.endIndex > line.endIndex);
}
}
// 添加标注行
function addMarkLines (line, marks) {
const markLines = [[]];
let inserted = false;
// 遍历所有标注
marks.forEach(mark => {
// 遍历所有行
for(let i = 0; i < markLines.length; i++) {
// 如果本行没有和新标注重叠的,则放入本行
if(!markLines[i].find(oldMark => isOverlap(oldMark, mark))) {
mark.offsetY = i;
markLines.push(mark);
inserted = true;
break;
}
}
// 如果所有行都重叠,则单开一行
if(!inserted) {
mark.offsetY = markLines.length;
markLines.push([mark]);
}
})
line.markLines = markLines;
}
总结
实体关系标注工具在来也科技内部已经上线半年。至今日,公司内部全部的 NLP 标注需求已全部接入。标注文档超过 3 万篇,标注效率提升 35%,标注准确率提升至 96.8% 。
本文作者:贾思齐
来源:微信公众号:来也技术团队
出处:https://mp.weixin.qq.com/s/mXfGtyTtbbjq-v2KB5ryHw
页面更新:2024-04-03
本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828
© CopyRight 2020-2024 All Rights Reserved. Powered By 71396.com 闽ICP备11008920号-4
闽公网安备35020302034903号