十分钟全面了解金元

整体情况

**王金元是上海交通大学三语硕士研究生，具有扎实的中法工程训练，优秀的研究能力，积极主动的自我探索和强烈的社会责任感。金元的主要研究方向包括大语言模型、问答系统和深度学习的相关应用，目前已经发表ACL2022论文一篇（第三作者），并有两篇论文（第一作者）在投稿中。 **

联系方式
地址	`中国上海市闵行区东川路800号`
网站	`https://website.noewang.top`
GitHub	`https://github.com/noewangjy`
邮箱	`[email protected]`
电话	`19821128380`
微信	`noewangjy`

💼 实习经历

上海证券交易所技术公司 2022.08-2023.03

算法研发工程师

实习岗位：算法研发工程师
实习时间：7个月
实习内容：参与国家重点研发项目《资本市场注册制下信息披露审核与监管关键技术研发》，负责研发科创企业政策契合度量化模型，主要内容如下：
1. 使用自然语言处理技术对科创板上市企业招股书文件和各领域政策文件进行关键内容提取，结合非监督学习算法和行业领先的预训练语言模型进行数据处理，带领标注团队完成一个具有人工标注的契合政策检索数据集，正在申请专利
2. 针对中文应用场景提出针对性预训练方法，在额外的大型中文语料库（62GB）上对开源预训练语言模型进行继续预训练
3. 搭建基于稠密表示的文章检索系统，包含双塔式召回模块和交互式精排模块，在标注训练集上微调并进行性能验证，目前已投稿
实习成果：以第一作者身份完成论文一篇，正在投稿中。
详细信息：📈注册制背景下科创企业政策契合度评价量化研究

上海又为智能科技有限公司 2020.07-2020.09

🔍 研究经历

研究方向1: 大语言模型微调及应用 2023.01-至今

研究方向2: 自然语言处理问答系统 2021.02-2022.12

针对开放域文章检索的句级感知对比学习

项目时间：2021.07-2021.10
项目内容：我们提出了一个基于较小粒度（上下文句子）的精细模型，以减轻相关的冲突。具体而言，我们引入了一种段落内负采样策略，以鼓励在同一个段落中生成多样化的句子表示。在三个基准数据集上的实验验证了我们方法的有效性，特别是在冲突严重的数据集上。广泛的实验证明了我们方法在数据集之间具有良好的可转移性。
指导教师：赵海教授
个人贡献：第三作者，论文发表在 ACL2022
相关链接：论文｜代码
关键词：开放域段落检索，对比学习，段落内负采样，可转移性
论文引用： Bohong Wu, Zhuosheng Zhang, Jinyuan Wang, and Hai Zhao. 2022. Sentence-aware Contrastive Learning for Open-Domain Passage Retrieval. In Proceedings of the 60th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pages 1062–1074, Dublin, Ireland. Association for Computational Linguistics.

针对ASI攻击的解耦合段落匹配方法

项目时间：2021.10-2022.02
项目内容：本文提出了一种针对ASI攻击的解耦合段落匹配（DPM）方法，采用两阶段框架。实验结果表明，与对抗训练方法相比，DPM具有良好的性能，并且对不同的ASI策略具有较强的传递性。
指导教师：赵海教授
个人贡献：第一作者
论文链接：暂无
关键词：上下文语言模型，抽取式阅读理解，对抗性句子插入

基于上下文语言模型的机器阅读理解系统及优化

项目时间：2021.02-2021.06
项目内容：我们提出了一种基于预训练语言模型和答案重排模块的机器阅读理解系统，实现了任务级的特征学习，并在特定的问答任务上取得了当时最先进的结果。
指导教师：赵海教授
个人贡献：第一作者，个人独立完成，作为本科毕业论文
论文链接：
关键词：上下文语言模型，机器阅读理解，自然语言处理，SQuAD2.0，深度学习
详细信息：请访问研究经历以了解更多

研究方向3: 深度学习相关应用 2019.02-2022.03

基于脑电信号的情绪识别中的跨对象域适应研究

项目时间：2022.03-2022.06
项目内容：在本文中，我们研究了几种现有的情绪识别与域适应方法。此外，我们提出了一种针对基于 EEG 的情绪识别定制的对抗性自动编码器。与上述方法相比，我们提出的模型在 SJTU 情绪脑电数据集 (SEED) 上平均达到了 75.6% 的准确率和最低的 (0.0068) 标准差。我们的代码已开源。
指导教师：吕宝梁教授
个人贡献：第一作者，个人独立完成
论文链接：
关键词：情感脑机接口，情绪识别，脑电图，领域适应，对抗性自动编码器

基于图形拓扑和文章检索的链接预测方法

项目时间：2022.03-2022.04
项目内容：在本文中，我们使用最先进的（SOTA）深度学习方法来解决链接预测问题，包括图卷积、预训练语言模型（PrLM）和段落检索领域的双编码器框架。除此之外，我们具有提取特征的传统机器学习模型在 Kaggle 排行榜上获得了第 4 名。我们的代码已开源。
指导教师：Michalis Vazirgiannis 教授
个人贡献：第一作者，负责基于文章检索的链接预测
论文链接：
关键词：链接预测、引文网络、图卷积、段落检索、逻辑回归

基于卷积神经网络的高能粒子径迹辨识

项目名称：PandaX-III实验中读出精度对Xe-136无中微子双贝塔衰变识别的影响
项目时间：2019.10-2021.02
项目内容：在本文中，我们使用蒙特卡洛模拟法对PandaX-III探测器中的TPC进行理想化建模，分别采用条读出和像素读出的方式进行仿真，然后采用主成分分析法来进行降维，并将更多信息保存在二维空间用于模型训练与实验对比。借助深度学习的方法，我们发现包含更多信息的像素读出方式可以提高模型的准确性，然而条读出的预测结果对于信号的识别更具优势。
指导教师：王少博副教授
个人贡献：队长，负责数据处理、模型训练和数据可视化
论文链接：
关键词：无中微子双贝塔衰变，PandaX-III，像素读出，PCA，机器学习

基于注意力机制的单图像人群计数和密度估计

项目时间：2020.10-2020.12
项目内容：在本研究中，我们在我们提出的网络中引入了基于注意力机制的注意力生成网络以及基于多列可变形卷积层的密度估计网络。结果表明，估计精度和鲁棒性都有显着提高。我们的工作表明注意力机制和可变形卷积在人群密度估计中是有效的。
个人贡献：第二作者，负责模型可视化和论文撰写
论文链接：
关键词：人群密度估计、注意力机制、可变形卷积、卷积神经网络

Noé completed the Data Mining course (ICE6407P-260-M01) during the Spring semester of 2022. Our team achieved an outstanding grade of A+ in this course. Throughout the class, Noé consistently demonstrated the qualities of a well-trained elite engineer, particularly in the areas of communication and problem-solving. His meticulous approach and exceptional performance in his studies left a lasting impression on me.

In the final data challenge project, Noé served as the leader of our team. Together, we tackled the link prediction problem using cutting-edge deep learning techniques such as graph convolution, pre-trained language models, and the bi-encoder framework in the context of dense passage retrieval tasks. Thanks to Noé’s guidance and expertise, our team secured the 4th position on the Kaggle leaderboard. Furthermore, Noé generously shared the project code as open-source to facilitate reproducibility.

Noé’s coding ability proved to be excellent, and his mastery of deep learning frameworks was extraordinary. He exhibited remarkable independent problem-solving skills and showed great proficiency in analyzing results, as evidenced by our meticulous and detailed course report. Overall, Noé’s performance throughout the course was truly exceptional.

返回首页

个人信息

十分钟全面了解金元

🏫 教育背景

🎓 上海交通大学硕士学位 2021.09-2024.03

🎓 上海交通大学学士学位 2017.09-2021.06

💼 实习经历

上海证券交易所技术公司 2022.08-2023.03

上海又为智能科技有限公司 2020.07-2020.09

🔍 研究经历

研究方向1: 大语言模型微调及应用 2023.01-至今

研究方向2: 自然语言处理问答系统 2021.02-2022.12

研究方向3: 深度学习相关应用 2019.02-2022.03

🔧项目经历

📸 社会活动

上海交通大学学生工作

青年公益组织

社会公益活动

💬社会评价