学术讲座

当前位置: 首页 > 新闻资讯 > 学术讲座 > 正文

4月13日实验室大组例会

来源:作者:发布时间:2024-08-01

本周大组例会由张玲玲老师主持。时间是2004年413日(星期六)上午9:30

本次汇报的是来自知识处理组的陈一苇、仲宇杰和来自教育组的白宇翔、李玉杰

1)陈一苇报告题目:基于大语言模型的示意图生成方法研究
摘要:文本到示意图生成任务通过文本输入生成符合描述的示意图,有效降低获取示意图的成本,为跨媒体智能的发展提供支持。相较于自然图像,示意图的专业性和跨学科特征使其高层语义关系更难解析。针对这些挑战,本文提出一种新型的基于大语言模型的示意图生成框架。该框架首先使用大语言模型对示意图的文本描述进行高层语义解析,生成视觉对象间的逻辑关系及整体规划。随后,借助预训练的多模态大模型根据这些初步生成结果进一步填充视觉内容,最终生成与文本描述高度匹配的示意图。

图片

2)仲宇杰报告题目:面向长文档的实体关系抽取方法研究
摘要:文档级实体关系抽取(Document-Level Entity and Relation Extraction)旨在从长文档中抽取出实体名词以及实体对之间的语义关系,该任务能实现无结构文本的结构化,抽取出的三元组也能用于知识图谱构建、信息检索、智能问答等下游应用。不同于句子级的实体关系抽取,长文档中实体、关系数量更多,具有关系的实体对可能分布在不同句子,因此面临着实体间长距离依赖、实体与关系的抽取存在错误累积等问题。因此本研究提出了基于平移策略指导的双图网络的文档级关系抽取算法,通过双图结构与平移嵌入更新机制,从局部到全局实现了实体间多层次交互。同时也提出了基于提示学习的文档级实体关系联合抽取算法,通过构建提示模板,实现了一个结合实体识别、指代消解、关系抽取的联合框架,并设计互增强机制以提升实体与关系的联合抽取效果。

图片

3)白宇翔报告题目:基于多模态融合的在线学习意图推理研究
摘要:在线上学习场景中,对学习者的学习意图推理任务成为提升教学质量的关键。在线学习场景中存在丰富的多模态数据,然而由于教学环境的特殊性,数据中存在部分模态缺失的问题,导致了无法正常进行多模态融合处理。针对以上问题,本研究提出了一种基于异构图的多模态融合模型,模型中设计了同类节点和异类节点消息聚合方法,通过历史节点替代缺失数据,解决了模态缺失的问题,并在实验中证明了模型的有效性。此外,由于现有意图推理领域缺少对教育场景的研究,且模型易忽视历史时序信息,本研究提出了一种基于多分支注意力的意图推理模型,采用光流网络和多头注意力机制,提升了模型捕获视频时序信息的性能,并通过引入动作分支与表情分支,增强了模型的可解释性。

图片

4)李玉杰报告题目:基于社交超图自编码器的社交预测与社会化推荐研究及应用
摘要:近年来随着在线社交平台迅速发展,社交预测与社会化推荐成为了研究热点,这两个研究问题均属于图表征学习领域中的图链接预测问题。现有的研究方法由于将社交网络以及用户的交互行为建模成异构图或多图,导致用户交互中的多语义被分解,造成了特征丢失,同时还存在着语义数据量不对称、用户偏好不一致等问题。本文针对这些挑战,使用超图对图数据进行建模,并融合了经典图表征算法与图神经网络的优势,提出了基于社交超图自编码器的社交预测与社会化推荐算法。对比实验结果表明,所提出的社交预测SHGAE算法在三个公开的真实数据集FoursquareCiaoDVDsEpinions上表现均优于对比算法,在准确率指标上,相比经典的图表征模型最高提升25%,相比于较新的社交推荐算法最高提升7%。社会化推荐算法SRHGAE在三个公开的真实数据集上表现均优于对比算法。在RMSE指标上,相比经典的社会化推荐方法最高提升22%, 相比较新的社交超图社会化推荐算法最高提升3%

图片



办公地点:西安交通大学兴庆校区西一楼449

电话:029-82663860

电子邮箱:zhuhaiping@mail.xjtu.edu.cn

.

微信二维码