第449章 真的拼命了(1/4)
于是,工程师把数据来源追溯了一遍。
结果发现这批样本的原始密度图来自岛国理化学研究所公开的数据集。
去年秋天杉田有治团队在发表那篇Sce之前,曾经在预印本网站上挂过一批补充数据。
当时标注的是经过质量筛选的高置信度样本。
林晓的框架在用户端运行的时候,会自动回收这些数据的行为特征。
而这批样本就是这样进入训练集的。
“质量评分虚高。”林晓把分析结果放在桌面上:“这批样本在进入训练集之前,己经被杉田团队做过一轮筛选和预处理。”
“他们在补充材料里没有说明具体的筛选标准,但从数据特征来看,他们在筛选过程中引入了某种系统性的增强操作。”
“从而把密度图的局部对比度拉高了,导致质量评估模块误判为高质量样本。”
“但实际上,这些样本的局部信号密度并没有那么高,模型在训练的时候被这些虚高的评分带偏了。”
此言一出,排查出来的问题让所有人面色古怪。
搞了半天,数据来源是岛国理化学研究所公开的补充数据集。
但里面的样本明显经过人为增强,密度图局部对比度被拉高,质量评分虚高。
说白了,对方为了让自己的数据看起来更漂亮,做了手脚,结果混进了训练集。
勒丘恩有些哭笑不得地对着林晓说道:“造假造到我们这里来了?
接下来怎么办?
我们要举报他吗?”
林晓也是松了一口气,然后摇摇头:“把他们地数据剔除就行。”
“硬要说起来,我们也光彩不到哪里去。”
“只能说是李逵遇上李鬼,但也比他造假强多了。”
勒丘恩想了一下,觉得这话虽然听着不太对,但细想确实是这个理。
林晓那套框架在用户端回收数据特征,虽然回收的是压缩后的统计描述,不涉及原始数据。
但严格来说,虽然事先征得用户的明确同意。
但其实也是一种不讲武德的操作。
“那就听你的,剔除掉。”勒丘恩很快做了决定:“把来自岛国那边数据集的样本全部标记出来,从训练集里移出去。”
“另外,后续从外部回传的数据,加一道人工审核。”
“确认没有类似的问题再纳入训练。”
林晓点了点头,把这个任务交代给了负责数据管线的工程师。
然后他转向勒丘恩,补了一句:“不过这件事给我们提了个醒。”
“回传的数据里可能不止这一批有问题,其他团队如果在数据处理上也做过类似的操作,我们不一定能全部识别出来。”
本章未完,请翻下一页继续阅读.........