如今,大数据、人工智能、区块链等新兴技术的飞速发展,带动了金融行业创新变革。度小满加强在预训练模型、用户表示等前沿技术领域的布局,不断攻克技术难题,多年来积累了丰富经验。度小满关于创新技术研究方面的论文于近期入选CIKM,以前沿技术助推金融行业弯道超车。
度小满加强前沿技术布局,文章被CIKM录用
近日,第 31 届ACM信息与知识管理国际会议(The 31th ACM International Conference on Information and Knowledge Management,CIKM 2022)公布录用结果,度小满AI Lab的三篇文章被录用。这次被录用的三篇论文,分别在预训练模型、用户表示、序列建模等NLP任务相关算法上取得突破性进展。
其中,用于专家发现任务的ExpertBert模型,弥合了预训练目标与下游建模任务的差距,能够准确识别潜在的信贷需求;ENEF模型,基于非采样策略进行专家发现,增强了问题和用户表示的鲁棒性和稳定性,成为CQA领域兼具性能与效率的比较 优方法;DeepVT模型,全面有效地捕捉和融合视图和时序模式,使小微客群的行为预测更准确。
度小满在技术领域取得突破性进展,三篇论文观点独到
以下是三篇论文内容速览:
ExpertBert:用户粒度预训练框架,快速匹配高质量回答
论文题目:ExpertBert: Pretraining Expert Finding
度小满团队提出的专家发现预训练语言模型ExpertBert,在预训练阶段有效地在统一了文本表示、用户建模和下游任务,能够使预训练目标更接近下游任务,在CQA用户表示方面做出了开创性贡献。
据悉,ExpertBert是第 一个在CQA领域探索专家发现预训练语言模型的方法,且在真实数据集上证明了模型的有效性和性能的优越性。目前,该方法已在度小满信贷获客场景中开展使用,其头部用信人数的召回相对提升了超10%。
ENEF:高性能、低计算复杂度的「非采样」专家发现模型
论文题目:Efficient Non-sampling Expert Finding
ENEF可以从所有数据样本中更新模型参数,增强问题和专家表示的稳健性和准确性。值得注意的是,与大多数复杂神经网络方法相比,ENEF使用基础框架和少量参数,达到了更高的训练效率。经对比实验验证,是当前CQA非抽样专家发现模型中,性能比较 好且训练效率更高的比较 优方法。
DeepVT:视图与时序模式交互,全面、准确预测用户画像
论文题目:Deep View-Temporal Interaction Network for News Recommendation
DeepVT模型主要关注于用户建模的视图级信息,有效解决了用户画像建模中仅关单一的视图交互或时序信息的问题。该模型构建了2D半因果卷积神经网络(SC-CNN)和多算子注意力(MoA)两个模块。其中,前者可以同时有效地合成视图级别的交互信息和项目级别的时间信息;而后者在自注意力函数中综合不同的相似算子,可以避免注意力偏差,增强鲁棒性。
除了本次三篇论文入选CIKM外,度小满在其他新技术领域也收获颇丰。神经网络结构搜索(NAS)论文入选国际顶会CVPR Workshop、自然语言处理技术在微软MARCO比赛中超越三星、微软、谷歌、斯坦福斩获第 一等,度小满不断以创新技术助推金融行业变革。未来,在更多创新技术的支撑下,金融服务行业也将释放更多价值。
(推广)
特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。360手机助手将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向360手机助手提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。