面向数字化诊疗的颌面部三维视觉重建技术研究
机械工程资助企业: 上海智能制造功能平台有限公司
企业导师: 郁艳

指导教师: 习俊通

项目成员: 李政磊,胡启鸿,杨嘉荣

项目概述
三维人脸数据对比二维图像,因其包含皮肤纹理、形状与空间信息,能够更有效地处理光照、遮挡、表情和姿态等变化,具有更高的鲁棒性及精度,因此三维人脸重建技术在虚拟现实、增强现实及医疗美容等领域的应用前景广阔。本项目旨在开展基于双目相机技术的人体面部三维重建研究,围绕双目相机高精度标定、立体匹配、人脸点云重建、人脸点云拼接及深度学习优化进行技术攻关,最终实现一套集成化的三维重建方法体系。通过该体系的开发与优化,提升面部重建精度与效率,为人脸识别、虚拟现实、医疗美容等领域提供技术支持。
项目目标
1. 完成设备采购和双目相机拍摄平台的搭建;
2. 实现双目相机高精度标定算法设计并进行相机标定,使其重投影误差小于0.1,得到精确的相机内外参矩阵;
3. 研究基于传统方法的立体匹配与点云重建技术,针对双目相机人脸重建场景进行针对化改进,生成高密度、高精度的局部点云数据;
4. 研究基于深度学习的人脸三维重建技术,参考最新的顶会论文,使用WSL本地部署所需要的开源项目,生成高密度、高精度的局部点云数据;
5. 实现人脸点云拼接算法设计并进行相关测试,使其能在较短时间内实现良好的人脸点云拼接效果。
项目成果
1. 相机标定:实现双目相机的高精度标定算法设计和测试,重投影误差达到0.05,同时完成拍摄图片校正;
2. 深度学习方法实现人脸三维重建:首先使用SegFace人脸语义分割模型精确提取人脸区域,再使用高精度标定参数进行立体校正,然后使用FoundationStereo立体匹配模型生成视差图,最终转为高精度密集点云,并通过点云滤波和重采样算法优化点云质量。
3. 传统三维重建技术改进:改进了多视角重建系统ACMMP,使其适用于双目相机人脸重建场景,并通过算法优化减少背景杂点并提升点云完整性;
4. 点云后处理优化:开发点云后处理算法,后期通过滤波、点云重建、点云平滑化处理等手段进一步提高点云的完整性和平滑性;
5. 点云拼接:实现基于人脸图像特征点提取和PNP算法的人脸点云粗拼接算法设计;实现基于ICP算法的人脸点云精拼接算法设计;最终完成相关的人脸点云拼接效果测试。