基于深度相机三维人体旋转扫描的背景分割方法与装置与流程
未命名
09-29
阅读:74
评论:0
1.本发明涉及数字信息处理
技术领域:
:,更具体地说,涉及一种基于深度相机三维人体旋转扫描的背景分割方法与装置。
背景技术:
::2.采用基于消费类深度相机的三维人体扫描方法,可以快速重建出人体的三维数字模型,广泛应用于服装定制、文化创意、医疗美容、影视动画等领域。为了重建出人体的完整三维数字模型,可以采用多个深度相机同时对人体进行采图重建,或者采用两个深度相机,通过转台带动人体旋转,实现360°扫描。然而,无论采用哪种扫描方式,扫描设备使用的场景中,都或多或少存在干扰物(如扫描设备附近有其他杂物、扫描过程中有其他人经过等),这些干扰物的存在,会导致深度相机采集的二维图像中,除了人体目标物之外,还有一部分背景干扰信息,这些干扰信息如果不能有效从图像中分割掉,它们会影响后续的二维图像和三维点云处理计算,最终导致重建的人体模型失败或者异常。因此,需要对采集数据进行背景分割处理,剔除掉除人体之外的背景干扰信息。现有的三维人体扫描背景分割方法,主要采用二维图像分割技术,对采集的原始图像通过如区域生长、连通域分割等技术,实现将除人之外的背景干扰信息去除。采用基于图像的背景分割技术,只利用了图像像素的邻域信息,同时对分割参数的设置比较敏感,对于背景复杂的输入图像,会出现分割错误或者分割不完整的问题。另外,现有技术中,也有采用深度学习分割法对背景干扰信息进行分割的案例。深度学习分割法主要以彩色图像作为输入来进行背景分割,通常需要大量的样本进行模型训练,而训练样本的获取是一项具有挑战性的任务。同时,由于需要用到彩色信息,这就要求深度相机具有彩色信息采集模块,进而增加深度相机的硬件成本,并且由于深度学习对硬件配置有最低要求,也会增加扫描系统的硬件成本。尤其是,深度学习分割法采集了人体的面部彩色信息,不利于被扫描用户的隐私保护。3.综上所述,现有图像背景分割技术存在容易分割错误、分割不完整、分割挑战性大、硬件成本高以及不利于被扫描用户的隐私保护等技术问题。技术实现要素:4.本发明要解决的技术问题在于,针对上述技术方案存在的不足,提供一种基于深度相机三维人体旋转扫描的背景分割方法与装置,以提高背景分割的准确性和完整性,降低分割难度和成本。5.第一方面,本发明提供一种基于深度相机三维人体旋转扫描的背景分割方法,所述基于深度相机三维人体旋转扫描的背景分割方法包括以下步骤:6.获取深度相机拍摄人体生成的二维的深度图像,拍摄时用户以规定姿势静止站立于转台上,所述转台带动所述用户旋转;7.采用二维图像背景分割技术,对所述深度图像进行预分割处理,并根据所述深度相机的内参标定结果,将预分割后的深度图像转换生成三维点云;8.基于生成的三维点云,计算出切割圆柱体,并利用所述切割圆柱体进行三维点云背景分割,以生成背景分割后的人体点云。9.进一步,所述规定姿势为a字型姿势;所述a字型姿势中,用户的单个手臂与身体内侧的夹角为45°。10.进一步,所述深度相机包括上深度相机和下深度相机;所述上深度相机和所述下深度相机同步采集所述人体的上下半身深度图像,以生成一组所述深度图像,随着所述转台带动所述用户旋转而采集生成到多组所述深度图像。11.进一步,所述采用二维图像背景分割技术,对所述深度图像进行预分割处理,并根据所述深度相机的内参标定结果,将预分割后的深度图像转换生成三维点云,包括:12.采用二维图像背景分割技术,对多组所述深度图像依次进行预分割处理;13.根据所述上深度相机和所述下深度相机的内参标定结果,将预分割后的多组所述深度图像转换生成多组三维点云。14.进一步,所述基于生成的三维点云,计算出切割圆柱体,并利用所述切割圆柱体进行三维点云背景分割,以生成背景分割后的人体点云,包括:15.基于生成的三维点云,计算出切割圆柱体;16.利用所述切割圆柱体对所述多组三维点云进行三维点云背景分割,以生成背景分割后的人体点云。17.进一步,所述采用二维图像背景分割技术,对所述深度图像进行预分割处理,并根据所述深度相机的内参标定结果,将预分割后的深度图像转换生成三维点云,包括:18.将所述深度图像中非人体区域的背景干扰信息,通过深度阈值和像素有效区域进行初步剔除,以得到深度值剔除图像;19.将所述深度值剔除图像中满足一定深度阈值条件的相邻像素点生长为一个区域,以得到区域生长图像;20.对所述区域生长图像进行轮廓检测,以得到初始人体区域的深度图像;21.对所述初始人体区域的深度图像的边缘信息进行滤波,以得到滤波后的深度图像;22.将滤波后的深度图像转换生成三维点云。23.进一步,所述将所述深度图像中非人体区域的背景干扰信息,通过深度阈值和像素有效区域进行初步剔除,以得到深度值剔除图像,包括:24.根据转台和固定支架之间的位置关系,确定深度最大阈值dmax和深度最小阈值dmin;25.对于所述深度图像中任意像素点(u,v)的深度值d(u,v),按照公式一进行深度剔除,所述公式一为:[0026][0027]在所述深度图像的宽度方向,将像素点(u,v)在u方向上,像素坐标位于[0,uths]和[uwide-uths,uwide]的像素点的深度值设置0,以将所述深度图像中左右两侧一定范围内的深度信息认定为背景干扰信息,并进行剔除,uths根据深度图像的分辨率设置;[0028]将经过像素有效区域剔除后的深度值剔除图像记为i1。[0029]进一步,所述将所述深度值剔除图像中满足一定深度阈值条件的相邻像素点生长为一个区域,以得到区域生长图像,包括:[0030]对于深度值剔除图像i1中的种子点ps,根据8连通规则查找它的8个邻域像素点{p0,...,p7};[0031]如果任意一个邻域点pi的深度值与种子点ps的深度值之差小于一定阈值dths1,满足{(dpi-dps)<dths1,i=0,...,7},则认定该邻域点与种子点是一个生成区域;[0032]按照同样的方法,对深度值剔除图像i1中的每一个像素点进行区域生长判断,得到深度值剔除图像i1的k个生长区域{ri,i=0,...,k},进而得到区域生长图像。[0033]进一步,所述对所述区域生长图像进行轮廓检测,以得到初始人体区域的深度图像,包括:[0034]计算出所述生长区域{ri,i=0,...,k}的矩形外轮廓{pi,i=0,...,k};[0035]基于外轮廓{pi,i=0,...,k}的大小位置,筛选出属于被测用户的生长区域rp,以得到初始人体区域的深度图像i2。[0036]进一步,所述对所述初始人体区域的深度图像的边缘信息进行滤波,以得到滤波后的深度图像,包括:[0037]对所述初始人体区域的深度图像i2的边缘信息进行腐蚀膨胀操作,以得到滤波后的深度图像i3。[0038]第二方面,本发明提供一种基于深度相机三维人体旋转扫描的背景分割装置,包括:[0039]二维图像获取模块,用于获取深度相机拍摄人体生成的二维的深度图像,拍摄时用户以规定姿势静止站立于转台上,所述转台带动所述用户旋转;[0040]二维图像背景分割模块,用于采用二维图像背景分割技术,对所述深度图像进行预分割处理,并根据所述深度相机的内参标定结果,将预分割后的深度图像转换生成三维点云;[0041]三维点云背景分割模块,用于基于生成的三维点云,计算出切割圆柱体,并利用所述切割圆柱体进行三维点云背景分割,以生成背景分割后的人体点云。[0042]本发明与现有技术相比,其有益效果如下:[0043]本发明提供一种基于深度相机三维人体旋转扫描的背景分割方法与装置,通过获取深度相机拍摄人体生成的二维的深度图像,拍摄时用户以规定姿势静止站立于转台上,转台带动用户旋转,采用二维图像背景分割技术对采集的深度图像进行预分割处理,并根据深度相机的内参标定结果,将预分割后的深度图像转换生成三维点云,基于生成的三维点云,计算出切割圆柱体,并利用切割圆柱体进行三维点云背景分割,以生成背景分割后的人体点云,从而实现对人体深度图像的背景干扰信息剔除,提高背景分割的准确性和完整性,降低分割难度和成本,同时保护了用户的隐私。附图说明[0044]图1是本发明基于深度相机三维人体旋转扫描的背景分割方法的一种流程示意图;[0045]图2是本发明数据采集装置的一种架构示意图;[0046]图3是本发明二维图像背景分割的一种流程示意图;[0047]图4是本发明区域生长的一种拓扑结构示意图;[0048]图5是本发明三维点云背景分割的一种流程示意图;[0049]图6是本发明欧式距离聚类计算的一种流程示意图;[0050]图7是本发明基于深度相机三维人体旋转扫描的背景分割装置的一种架构示意图;[0051]图8是本发明用户端的一种架构示意图。具体实施方式[0052]为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。[0053]需要说明的是,本发明的说明书和权利要求书及上述附图中如果出现术语“第一”、“第二”等用语,其目的是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。[0054]实施例一[0055]参见图1至图7,实施例一提供一种基于深度相机三维人体旋转扫描的背景分割方法,包括步骤s1、步骤s2以及步骤s3,本实施例提供一种基于深度相机三维人体旋转扫描的背景分割方法,通过获取深度相机拍摄人体生成的二维的深度图像,拍摄时用户以规定姿势静止站立于转台上,转台带动用户旋转,采用二维图像背景分割技术对采集的深度图像进行预分割处理,并根据深度相机的内参标定结果,将预分割后的深度图像转换生成三维点云,基于生成的三维点云,计算出切割圆柱体,并利用切割圆柱体进行三维点云背景分割,以生成背景分割后的人体点云,从而实现对人体深度图像的背景干扰信息剔除,提高背景分割的准确性和完整性,降低分割难度和成本,同时保护了用户的隐私。[0056]需要说明的是,本实施例提供的基于深度相机三维人体旋转扫描的背景分割方法可以在用户端运行,用户端作为基于深度相机三维人体旋转扫描的背景分割方法中全部或部分步骤的执行主体,除了可以执行本实施例中步骤s1、步骤s2以及步骤s3之外,还可以运行下文中涉及的方法的部分或全部步骤。其中,用户端包括通过系统总线相互通信连接存储器、处理器、网络接口。需要指出的是,图中仅示出了用户端的部分组件,但是应理解的是,并不要求实施所有示出的组件,可以替代的实施更多或者更少的组件。其中,本
技术领域:
:技术人员可以理解,这里的用户端是一种能够按照事先设定或存储的指令,自动进行数值计算和/或信息处理的设备,其硬件包括但不限于微处理器、专用集成电路(applicationspecificintegratedcircuit,asic)、可编程门阵列(field-programmablegatearray,fpga)、数字处理器(digitalsignalprocessor,dsp)、嵌入式设备等。用户端可以是智能手机、智能穿戴设备等计算设备。用户端可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。存储器至少包括一种类型的可读存储介质,可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如,sd或dx存储器等)、随机访问存储器(ram)、静态随机访问存储器(sram)、只读存储器(rom)、电可擦除可编程只读存储器(eeprom)、可编程只读存储器(prom)、磁性存储器、磁盘、光盘等。在一些实施例中,存储器可以是用户端的内部存储单元,例如该用户端的硬盘或内存。在另一些实施例中,存储器也可以是用户端的外部存储设备,例如该用户端上配备的插接式硬盘,智能存储卡(smartmediacard,smc),安全数字(securedigital,sd)卡,闪存卡(flashcard)等。当然,存储器还可以既包括用户端的内部存储单元也包括其外部存储设备。[0057]参见图2,本实施例中,用户端还包括数据采集装置,数据采集装置包括:上深度相机(1)、下深度相机(3)、固定支架(2)、地垫(6)、转台(7)。所述上深度相机(1)和下深度相机(3)均为单目深度相机,包括红外摄像头、点阵投射器、深度计算处理器。所述深度相机只采集深度信息,不采集彩色信息。所述上深度相机(1)的视场大小为第一区域(4),可以覆盖人体(8)的上半身区域,负责采集人体(8)上半身的深度图像。所述下深度相机(3)的视场大小为第二区域(5),可以覆盖人体(8)的下半身区域,负责采集人体(8)下半身的深度图像。所述固定支架(2)用于固定上深度图像相机(1)和下深度相机(3)。所述固定支架(2)内部安装处理器,用于控制深度相机采集图像、数据处理和数据传输,以及用于控制转台旋转和停止。所述地垫(6)的左端与固定支架(2)底部对齐,用于确定转台(7)的固定位置。所述地垫(6)表面印制有安放转台(7)的圆形图案,将转台(7)放置在圆形图案内,即可确定转台(7)相对固定支架(2)的位置关系。所述转台(7)用于带动人体(8)绕转台轴线进行顺时针旋转。在旋转过程中,人体(8)双手保持a字型姿势,面部朝向深度相机。转台(8)在旋转过程中,上深度相机(1)和下深度相机(3)交替采集人体在不同旋转位置的深度图像。[0058]需要说明的是,由于所述上深度相机(1)和下深度相机(3)均为单目深度相机,包括红外摄像头、点阵投射器、深度计算处理器,所述深度相机只采集深度信息,不采集彩色信息,因此可以对用户隐私进行保护。[0059]具体到步骤s1,用户端获取深度相机拍摄人体生成的二维的深度图像,拍摄时用户以规定姿势静止站立于转台上,所述转台带动所述用户旋转。[0060]需要说明的是,深度相机拍摄人体生成的深度图像为二维图像,所述二维图像的拍摄主要通过上深度相机(1)和下深度相机(3)交替采集转台旋转过程中,人体表面的深度图像。所述深度图像的像素值表示人体表面某个位置与深度相机之间的空间距离。所述二维图像采集流程为:1、人体(8)站在转台中心位置,面部朝向上下深度相机,双手保持a字型姿势;2、所述上下深度相机,收到第一条图像采集指令后,采集一幅人体(8)的上下半身深度图像;3、所述转台(7)收到开始旋转指令后,带动人体绕转台轴线进行顺时针旋转,旋转360°后停止;4、所述转台(7)开始旋转后,上深度相机(1)收到第二条图像采集指令,采集上深度相机(1)的第二幅人体(8)的上半身深度图像;5、所述上深度相机(1)第二条图像采集指令执行完后,所述下深度相机(3)收到第二条图像采集指令,采集下深度相机(3)的第二幅人体(8)下半身深度图像。6、交替重复步骤4和步骤5,直到转台(7)停止,完成上下深度相机的二维图像采集。[0061]具体到步骤s2,用户端采用二维图像背景分割技术,对所述深度图像进行预分割处理,并根据所述深度相机的内参标定结果,将预分割后的深度图像转换生成三维点云。[0062]参见图3,所示二维图像背景分割,包括深度值剔除、区域生长、轮廓检测、边缘腐蚀、三维点云生成。[0063]所述深度值剔除,用于将采集的深度图像中,非人体区域的背景干扰信息,通过深度阈值和像素有效区域进行初步剔除。深度值剔除原理为:根据转台(7)和固定支架(2)之间的位置关系,确定深度最大阈值dmax和深度最小阈值dmin;对于深度图像中,任意像素点(u,v)的深度值d(u,v),按照如式(1)进行深度剔除:[0064][0065]像素有效区域剔除原理为:在深度图像宽度方向,将像素坐标(u,v)在u方向上,像素坐标位于[0,uths]和[uwide-uths,uwide]的像素点的深度值设置0,即将深度图像中左右两侧一定范围内的深度信息认为是背景干扰信息,并进行剔除。uths需要根据深度图像的分辨率设置,如对于640×480分辨率的深度图像,uths可以设置为120。将经过像素有效区域剔除后的深度图像,记为i1。[0066]如4所示,所述区域生长,用于将满足一定深度阈值条件的相邻像素点生长为一个区域。对于深度图像i1中的种子点ps,根据8连通规则查找它的8个邻域像素点{p0,...,p7};如果任意一个邻域点pi的深度值与种子点ps的深度值之差小于一定阈值dths1,则认为该邻域点与种子点是一个生成区域,即{(dpi-dps)<dths1,i=0,...,7}。按照同样的方法,对深度图像i1中的每一个像素点进行区域生长判断,进而得到深度图像i1的k个生长区域{ri,i=0,...,k}。[0067]所述轮廓检测,用于计算出生长区域{ri,i=0,...,k}的矩形外轮廓{pi,i=0,...,k},基于外轮廓的大小位置,筛选出属于被测人体的生长区域rp。以生长区域ri为例,给出具体筛选过程:遍历生长区域ri的每一个像素点,计算出在(u,v)方向上的最大最小点通过和计算出生长区域ri的中心点对于给定的边界阈值[udmin,udmax]和[vdmin,vdmax],如果和在u和v方向上满足边界阈值条件,则判定生长区域ri为代表扫描人体的信息(也即从二维图像中分割出的初始人体区域),即为i2。[0068]所述边缘腐蚀,用于对i2的边缘信息进行滤波。对于本发明采用的单目深度相机,由于光学成像原理的限制,对于深度图像中有效深度边缘区域,存在比较大的深度测量误差,因此需要将边缘区域的深度信息去除。本实施例采用常规的边缘腐蚀膨胀操作,对i2的边缘进行腐蚀,得到处理后的深度图像i3。[0069]所述三维点云生成,用于将深度图像i3转换为三维点云pc1,具体转化过程为:利用深度相机的内参标定结果(fx,fy,cx,cy),采用式(2)所示公式,计算得到三维点云pc1。点云pc1中已将大部分背景干扰信息(非人体区域)进行了去除,但是仍然还有部分背景干扰信息没有被去除掉,因此需要在后续步骤s3中进行“三维点云背景分割”。[0070][0071]其中,x表示深度图像i3中,像素点在横轴方向的索引值,y表示深度图像i3中,像素点在纵轴方向的索引值,z表示深度图像i3中,像素点在竖直方向的索引值。cx表示深度相机光轴对于投影平面坐标中心在x方向的偏移量,cy表示深度相机光轴对于投影平面坐标中心在y方向的偏移量,fx表示深度相机在x方向的焦距,fy表示深度相机在y方向的焦距。[0072]具体到步骤s3,用户端基于生成的三维点云,计算出切割圆柱体,并利用所述切割圆柱体进行三维点云背景分割,以生成背景分割后的人体点云。[0073]如5所示,三维点云背景分割可以包括欧式距离聚类、分割参数计算、背景点云分割。[0074]如图6所示,所述欧式距离聚类计算原理具体为:对于输入的三维点云pc1,首先建立该点云的kdtree,从中选取一个种子点ps,根据设置的阈值查找种子点ps的k个近邻点;然后将k个近邻点作为初始聚类c'1,再从初始聚类c'1中选择除种子点ps之外的其他点,作为新的种子点再次进行k近邻查找,如果满足阈值条件,则将新查找到的k个近邻点加入初始聚类c'1,如果初始聚类c'1的点数不在增加,则说明该聚类生长已停止,得到初始聚类c'1的最终聚类c1。按照同样的方法,从三维点云pc1中选择聚类c1之外的其他点作为新的种子点,重复上述步骤,得到一组聚类结果{ci,i=1,...,k}。[0075]所述分割参数计算,以聚类结果{ci,i=1,...,k}作为输入,计算每个聚类ci的点数si、聚类质心oi、聚类最大点pi_max和最小点pi_min,然后根据以下判定规则,筛选出属于人体点云的聚类:[0076]如果聚类ci的点数si小于2000,则判定该聚类为背景干扰信息;[0077]如果聚类ci的质心oi,在水平方向(y方向,即三维点云所在三维空间的水平方向)的分量值大于-0.45m且小于0.45m,则该聚类属于潜在人体点云;进一步,如果聚类ci在水平方向(y方向)的最大值和最小值,位于[-0.45m.0.45m],则判定聚类ci为人体点云聚类。[0078]如果聚类ci的质心oi,在水平方向(y方向)的分量值大于-0.45m且小于0.45m,则该聚类属于潜在人体点云;进一步,如果聚类ci在竖直方向(-x方向)的最小值大于-0.5m,则判定聚类ci为人体点云聚类。[0079]对聚类集合{ci,i=1,...,k}中的每个聚类,按照上述判定规则进行判断,进而得到属于人体的聚类点云cbody。[0080]所述分割参数计算,包括计算切割圆柱体的轴线、计算切割圆柱体的中心点、计算切割圆柱体的半径;[0081]根据图2所示的转台(7),利用下深度相机(3),采集一幅转台深度图像并转换为转台三维点云,通过对转台三维点云进行平面拟合分割,提取出转台台面的三维点云,最后对转台台面点云进行平面拟合得到转台台面的法向量ntable,将ntable作为切割圆柱体的轴线方向。[0082]利用所述人体聚类点云cbody,计算出它的质心obody,作为切割圆柱体的中心点。[0083]利用所述人体聚类点云cbody,计算出它在水平方向(y方向)的最大、最小值,基于最大最小值,计算得到人体的手臂宽;考虑到不同用户手臂张开的幅度有大有小,对计算出的手臂宽添加一个余量(参考值0.05m),进而得最终的人体手臂宽wbody,作为切割圆柱体的半径。考虑到一般用户双手按照a字型姿势张开,手臂宽最大不超过0.9m,因此如果计算出的用户手臂宽超过0.9m,则默认取0.9m。[0084]所述背景点云分割,主要对旋转扫描过程中,采集的每一幅深度图像,分别经过二维图像背景分割、三维点云生成、圆柱体背景点云切割,实现背景干扰信息的去除。所述二维图像背景分割,按照图3所示的“二维图像背景分割”方法,对采集的旋转扫描过程中深度图像进行背景预分割,从而将大部分背景干扰信息去除。所述三维点云生成,用于将上一步分割得到的深度图像,利用深度相机内参标定结果,计算得到三维点云。所述圆柱体背景点云切割,以上一步得到的三维点云作为输入,基于计算出的切割圆柱体参数(圆柱体轴线、圆柱体中心、圆柱体半径),计算输入点云中每一个点与切割圆柱体中心在切割圆柱体半径方向上的距离,如果距离大于圆柱体半径,则将该点判定为背景干扰点。对输入点云中的每个点,按照上述步骤进行距离判断,进而筛选出背景干扰点集,并将它们从输入点云中删除,最终得到只保留人体的三维点云,实现三维点云的背景分割,得到只有人体部分的三维点云。[0085]实施例二[0086]参见图1至图8,实施例二提供一种基于深度相机三维人体旋转扫描的背景分割装置,包括:[0087]二维图像获取模块,用于获取深度相机拍摄人体生成的二维的深度图像,拍摄时用户以规定姿势静止站立于转台上,所述转台带动所述用户旋转;[0088]二维图像背景分割模块,用于采用二维图像背景分割技术,对所述深度图像进行预分割处理,并根据所述深度相机的内参标定结果,将预分割后的深度图像转换生成三维点云;[0089]三维点云背景分割模块,用于基于生成的三维点云,计算出切割圆柱体,并利用所述切割圆柱体进行三维点云背景分割,以生成背景分割后的人体点云。[0090]需要说明的是,本实施例提供的基于深度相机三维人体旋转扫描的背景分割装置,通过获取深度相机拍摄人体生成的二维的深度图像,拍摄时用户以规定姿势静止站立于转台上,转台带动用户旋转,采用二维图像背景分割技术对采集的深度图像进行预分割处理,并根据深度相机的内参标定结果,将预分割后的深度图像转换生成三维点云,基于生成的三维点云,计算出切割圆柱体,并利用切割圆柱体进行三维点云背景分割,以生成背景分割后的人体点云,从而实现对人体深度图像的背景干扰信息剔除,提高背景分割的准确性和完整性,降低分割难度和成本,同时保护了用户的隐私。[0091]需要指出的是,以上实施例仅为本发明较佳的具体实施方式,本发明的保护范围并不局限于此,任何熟悉本
技术领域:
:的技术人员在本发明揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本发明的保护范围之内,本发明的保护范围应该以权利要求的保护范围为准。当前第1页12当前第1页12
技术特征:
1.一种基于深度相机三维人体旋转扫描的背景分割方法,其特征在于,所述基于深度相机三维人体旋转扫描的背景分割方法包括以下步骤:获取深度相机拍摄人体生成的二维的深度图像,拍摄时用户以规定姿势静止站立于转台上,所述转台带动所述用户旋转;采用二维图像背景分割技术,对所述深度图像进行预分割处理,并根据所述深度相机的内参标定结果,将预分割后的深度图像转换生成三维点云;基于生成的三维点云,计算出切割圆柱体,并利用所述切割圆柱体进行三维点云背景分割,以生成背景分割后的人体点云。2.如权利要求1所述的基于深度相机三维人体旋转扫描的背景分割方法,其特征在于,所述深度相机包括上深度相机和下深度相机;所述上深度相机和所述下深度相机同步采集所述人体的上下半身深度图像,以生成一组所述深度图像,随着所述转台带动所述用户旋转而采集生成到多组所述深度图像。3.如权利要求2所述的基于深度相机三维人体旋转扫描的背景分割方法,其特征在于,所述采用二维图像背景分割技术,对所述深度图像进行预分割处理,并根据所述深度相机的内参标定结果,将预分割后的深度图像转换生成三维点云,包括:采用二维图像背景分割技术,对多组所述深度图像依次进行预分割处理;根据所述上深度相机和所述下深度相机的内参标定结果,将预分割后的多组所述深度图像转换生成多组三维点云。4.如权利要求3所述的基于深度相机三维人体旋转扫描的背景分割方法,其特征在于,所述基于生成的三维点云,计算出切割圆柱体,并利用所述切割圆柱体进行三维点云背景分割,以生成背景分割后的人体点云,包括:基于生成的三维点云,计算出切割圆柱体;利用所述切割圆柱体对所述多组三维点云进行三维点云背景分割,以生成背景分割后的人体点云。5.如权利要求1-4任一项所述的基于深度相机三维人体旋转扫描的背景分割方法,其特征在于,所述采用二维图像背景分割技术,对所述深度图像进行预分割处理,并根据所述深度相机的内参标定结果,将预分割后的深度图像转换生成三维点云,包括:将所述深度图像中非人体区域的背景干扰信息,通过深度阈值和像素有效区域进行初步剔除,以得到深度值剔除图像;将所述深度值剔除图像中满足一定深度阈值条件的相邻像素点生长为一个区域,以得到区域生长图像;对所述区域生长图像进行轮廓检测,以得到初始人体区域的深度图像;对所述初始人体区域的深度图像的边缘信息进行滤波,以得到滤波后的深度图像;将滤波后的深度图像转换生成三维点云。6.如权利要求5所述的基于深度相机三维人体旋转扫描的背景分割方法,其特征在于,所述将所述深度图像中非人体区域的背景干扰信息,通过深度阈值和像素有效区域进行初步剔除,以得到深度值剔除图像,包括:根据转台和固定支架之间的位置关系,确定深度最大阈值d
max
和深度最小阈值d
min
;对于所述深度图像中任意像素点(u,v)的深度值d
(u,v)
,按照公式一进行深度剔除,所述
公式一为:在所述深度图像的宽度方向,将像素点(u,v)在u方向上,像素坐标位于[0,u
ths
]和[u
wide-uths
,u
wide
]的像素点的深度值设置0,以将所述深度图像中左右两侧一定范围内的深度信息认定为背景干扰信息,并进行剔除,u
ths
根据深度图像的分辨率设置;将经过像素有效区域剔除后的深度值剔除图像记为i1。7.如权利要求6所述的基于深度相机三维人体旋转扫描的背景分割方法,其特征在于,所述将所述深度值剔除图像中满足一定深度阈值条件的相邻像素点生长为一个区域,以得到区域生长图像,包括:对于深度值剔除图像i1中的种子点p
s
,根据8连通规则查找它的8个邻域像素点{p0,...,p7};如果任意一个邻域点p
i
的深度值与种子点p
s
的深度值之差小于一定阈值d
ths1
,满足{(dp
i-dp
s
)<d
ths1
,i=0,...,7},则认定该邻域点与种子点是一个生成区域;按照同样的方法,对深度值剔除图像i1中的每一个像素点进行区域生长判断,得到深度值剔除图像i1的k个生长区域{r
i
,i=0,...,k},进而得到区域生长图像。8.如权利要求7所述的基于深度相机三维人体旋转扫描的背景分割方法,其特征在于,所述对所述区域生长图像进行轮廓检测,以得到初始人体区域的深度图像,包括:计算出所述生长区域{r
i
,i=0,...,k}的矩形外轮廓{p
i
,i=0,...,k};基于外轮廓{p
i
,i=0,...,k}的大小位置,筛选出属于被测用户的生长区域r
p
,以得到初始人体区域的深度图像i2。9.如权利要求8所述的基于深度相机三维人体旋转扫描的背景分割方法,其特征在于,所述对所述初始人体区域的深度图像的边缘信息进行滤波,以得到滤波后的深度图像,包括:对所述初始人体区域的深度图像i2的边缘信息进行腐蚀膨胀操作,以得到滤波后的深度图像i3。10.一种基于深度相机三维人体旋转扫描的背景分割装置,包括:二维图像获取模块,用于获取深度相机拍摄人体生成的二维的深度图像,拍摄时用户以规定姿势静止站立于转台上,所述转台带动所述用户旋转;二维图像背景分割模块,用于采用二维图像背景分割技术,对所述深度图像进行预分割处理,并根据所述深度相机的内参标定结果,将预分割后的深度图像转换生成三维点云;三维点云背景分割模块,用于基于生成的三维点云,计算出切割圆柱体,并利用所述切割圆柱体进行三维点云背景分割,以生成背景分割后的人体点云。
技术总结
本发明属于数字信息处理技术领域,提供一种基于深度相机三维人体旋转扫描的背景分割方法与装置,通过获取深度相机拍摄人体生成的二维的深度图像,拍摄时用户以规定姿势静止站立于转台上,转台带动用户旋转,采用二维图像背景分割技术对采集的深度图像进行预分割处理,并根据深度相机的内参标定结果,将预分割后的深度图像转换生成三维点云,基于生成的三维点云,计算出切割圆柱体,并利用切割圆柱体进行三维点云背景分割,以生成背景分割后的人体点云,从而实现对人体深度图像的背景干扰信息剔除,提高背景分割的准确性和完整性,降低分割难度和成本,同时保护了用户的隐私。同时保护了用户的隐私。同时保护了用户的隐私。
技术研发人员:冯超 陈树青 袁壮 卓敏达 胡海瑛
受保护的技术使用者:深圳仙库智能有限公司
技术研发日:2023.06.21
技术公布日:2023/9/25
技术领域:
:,更具体地说,涉及一种基于深度相机三维人体旋转扫描的背景分割方法与装置。
背景技术:
::2.采用基于消费类深度相机的三维人体扫描方法,可以快速重建出人体的三维数字模型,广泛应用于服装定制、文化创意、医疗美容、影视动画等领域。为了重建出人体的完整三维数字模型,可以采用多个深度相机同时对人体进行采图重建,或者采用两个深度相机,通过转台带动人体旋转,实现360°扫描。然而,无论采用哪种扫描方式,扫描设备使用的场景中,都或多或少存在干扰物(如扫描设备附近有其他杂物、扫描过程中有其他人经过等),这些干扰物的存在,会导致深度相机采集的二维图像中,除了人体目标物之外,还有一部分背景干扰信息,这些干扰信息如果不能有效从图像中分割掉,它们会影响后续的二维图像和三维点云处理计算,最终导致重建的人体模型失败或者异常。因此,需要对采集数据进行背景分割处理,剔除掉除人体之外的背景干扰信息。现有的三维人体扫描背景分割方法,主要采用二维图像分割技术,对采集的原始图像通过如区域生长、连通域分割等技术,实现将除人之外的背景干扰信息去除。采用基于图像的背景分割技术,只利用了图像像素的邻域信息,同时对分割参数的设置比较敏感,对于背景复杂的输入图像,会出现分割错误或者分割不完整的问题。另外,现有技术中,也有采用深度学习分割法对背景干扰信息进行分割的案例。深度学习分割法主要以彩色图像作为输入来进行背景分割,通常需要大量的样本进行模型训练,而训练样本的获取是一项具有挑战性的任务。同时,由于需要用到彩色信息,这就要求深度相机具有彩色信息采集模块,进而增加深度相机的硬件成本,并且由于深度学习对硬件配置有最低要求,也会增加扫描系统的硬件成本。尤其是,深度学习分割法采集了人体的面部彩色信息,不利于被扫描用户的隐私保护。3.综上所述,现有图像背景分割技术存在容易分割错误、分割不完整、分割挑战性大、硬件成本高以及不利于被扫描用户的隐私保护等技术问题。技术实现要素:4.本发明要解决的技术问题在于,针对上述技术方案存在的不足,提供一种基于深度相机三维人体旋转扫描的背景分割方法与装置,以提高背景分割的准确性和完整性,降低分割难度和成本。5.第一方面,本发明提供一种基于深度相机三维人体旋转扫描的背景分割方法,所述基于深度相机三维人体旋转扫描的背景分割方法包括以下步骤:6.获取深度相机拍摄人体生成的二维的深度图像,拍摄时用户以规定姿势静止站立于转台上,所述转台带动所述用户旋转;7.采用二维图像背景分割技术,对所述深度图像进行预分割处理,并根据所述深度相机的内参标定结果,将预分割后的深度图像转换生成三维点云;8.基于生成的三维点云,计算出切割圆柱体,并利用所述切割圆柱体进行三维点云背景分割,以生成背景分割后的人体点云。9.进一步,所述规定姿势为a字型姿势;所述a字型姿势中,用户的单个手臂与身体内侧的夹角为45°。10.进一步,所述深度相机包括上深度相机和下深度相机;所述上深度相机和所述下深度相机同步采集所述人体的上下半身深度图像,以生成一组所述深度图像,随着所述转台带动所述用户旋转而采集生成到多组所述深度图像。11.进一步,所述采用二维图像背景分割技术,对所述深度图像进行预分割处理,并根据所述深度相机的内参标定结果,将预分割后的深度图像转换生成三维点云,包括:12.采用二维图像背景分割技术,对多组所述深度图像依次进行预分割处理;13.根据所述上深度相机和所述下深度相机的内参标定结果,将预分割后的多组所述深度图像转换生成多组三维点云。14.进一步,所述基于生成的三维点云,计算出切割圆柱体,并利用所述切割圆柱体进行三维点云背景分割,以生成背景分割后的人体点云,包括:15.基于生成的三维点云,计算出切割圆柱体;16.利用所述切割圆柱体对所述多组三维点云进行三维点云背景分割,以生成背景分割后的人体点云。17.进一步,所述采用二维图像背景分割技术,对所述深度图像进行预分割处理,并根据所述深度相机的内参标定结果,将预分割后的深度图像转换生成三维点云,包括:18.将所述深度图像中非人体区域的背景干扰信息,通过深度阈值和像素有效区域进行初步剔除,以得到深度值剔除图像;19.将所述深度值剔除图像中满足一定深度阈值条件的相邻像素点生长为一个区域,以得到区域生长图像;20.对所述区域生长图像进行轮廓检测,以得到初始人体区域的深度图像;21.对所述初始人体区域的深度图像的边缘信息进行滤波,以得到滤波后的深度图像;22.将滤波后的深度图像转换生成三维点云。23.进一步,所述将所述深度图像中非人体区域的背景干扰信息,通过深度阈值和像素有效区域进行初步剔除,以得到深度值剔除图像,包括:24.根据转台和固定支架之间的位置关系,确定深度最大阈值dmax和深度最小阈值dmin;25.对于所述深度图像中任意像素点(u,v)的深度值d(u,v),按照公式一进行深度剔除,所述公式一为:[0026][0027]在所述深度图像的宽度方向,将像素点(u,v)在u方向上,像素坐标位于[0,uths]和[uwide-uths,uwide]的像素点的深度值设置0,以将所述深度图像中左右两侧一定范围内的深度信息认定为背景干扰信息,并进行剔除,uths根据深度图像的分辨率设置;[0028]将经过像素有效区域剔除后的深度值剔除图像记为i1。[0029]进一步,所述将所述深度值剔除图像中满足一定深度阈值条件的相邻像素点生长为一个区域,以得到区域生长图像,包括:[0030]对于深度值剔除图像i1中的种子点ps,根据8连通规则查找它的8个邻域像素点{p0,...,p7};[0031]如果任意一个邻域点pi的深度值与种子点ps的深度值之差小于一定阈值dths1,满足{(dpi-dps)<dths1,i=0,...,7},则认定该邻域点与种子点是一个生成区域;[0032]按照同样的方法,对深度值剔除图像i1中的每一个像素点进行区域生长判断,得到深度值剔除图像i1的k个生长区域{ri,i=0,...,k},进而得到区域生长图像。[0033]进一步,所述对所述区域生长图像进行轮廓检测,以得到初始人体区域的深度图像,包括:[0034]计算出所述生长区域{ri,i=0,...,k}的矩形外轮廓{pi,i=0,...,k};[0035]基于外轮廓{pi,i=0,...,k}的大小位置,筛选出属于被测用户的生长区域rp,以得到初始人体区域的深度图像i2。[0036]进一步,所述对所述初始人体区域的深度图像的边缘信息进行滤波,以得到滤波后的深度图像,包括:[0037]对所述初始人体区域的深度图像i2的边缘信息进行腐蚀膨胀操作,以得到滤波后的深度图像i3。[0038]第二方面,本发明提供一种基于深度相机三维人体旋转扫描的背景分割装置,包括:[0039]二维图像获取模块,用于获取深度相机拍摄人体生成的二维的深度图像,拍摄时用户以规定姿势静止站立于转台上,所述转台带动所述用户旋转;[0040]二维图像背景分割模块,用于采用二维图像背景分割技术,对所述深度图像进行预分割处理,并根据所述深度相机的内参标定结果,将预分割后的深度图像转换生成三维点云;[0041]三维点云背景分割模块,用于基于生成的三维点云,计算出切割圆柱体,并利用所述切割圆柱体进行三维点云背景分割,以生成背景分割后的人体点云。[0042]本发明与现有技术相比,其有益效果如下:[0043]本发明提供一种基于深度相机三维人体旋转扫描的背景分割方法与装置,通过获取深度相机拍摄人体生成的二维的深度图像,拍摄时用户以规定姿势静止站立于转台上,转台带动用户旋转,采用二维图像背景分割技术对采集的深度图像进行预分割处理,并根据深度相机的内参标定结果,将预分割后的深度图像转换生成三维点云,基于生成的三维点云,计算出切割圆柱体,并利用切割圆柱体进行三维点云背景分割,以生成背景分割后的人体点云,从而实现对人体深度图像的背景干扰信息剔除,提高背景分割的准确性和完整性,降低分割难度和成本,同时保护了用户的隐私。附图说明[0044]图1是本发明基于深度相机三维人体旋转扫描的背景分割方法的一种流程示意图;[0045]图2是本发明数据采集装置的一种架构示意图;[0046]图3是本发明二维图像背景分割的一种流程示意图;[0047]图4是本发明区域生长的一种拓扑结构示意图;[0048]图5是本发明三维点云背景分割的一种流程示意图;[0049]图6是本发明欧式距离聚类计算的一种流程示意图;[0050]图7是本发明基于深度相机三维人体旋转扫描的背景分割装置的一种架构示意图;[0051]图8是本发明用户端的一种架构示意图。具体实施方式[0052]为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。[0053]需要说明的是,本发明的说明书和权利要求书及上述附图中如果出现术语“第一”、“第二”等用语,其目的是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。[0054]实施例一[0055]参见图1至图7,实施例一提供一种基于深度相机三维人体旋转扫描的背景分割方法,包括步骤s1、步骤s2以及步骤s3,本实施例提供一种基于深度相机三维人体旋转扫描的背景分割方法,通过获取深度相机拍摄人体生成的二维的深度图像,拍摄时用户以规定姿势静止站立于转台上,转台带动用户旋转,采用二维图像背景分割技术对采集的深度图像进行预分割处理,并根据深度相机的内参标定结果,将预分割后的深度图像转换生成三维点云,基于生成的三维点云,计算出切割圆柱体,并利用切割圆柱体进行三维点云背景分割,以生成背景分割后的人体点云,从而实现对人体深度图像的背景干扰信息剔除,提高背景分割的准确性和完整性,降低分割难度和成本,同时保护了用户的隐私。[0056]需要说明的是,本实施例提供的基于深度相机三维人体旋转扫描的背景分割方法可以在用户端运行,用户端作为基于深度相机三维人体旋转扫描的背景分割方法中全部或部分步骤的执行主体,除了可以执行本实施例中步骤s1、步骤s2以及步骤s3之外,还可以运行下文中涉及的方法的部分或全部步骤。其中,用户端包括通过系统总线相互通信连接存储器、处理器、网络接口。需要指出的是,图中仅示出了用户端的部分组件,但是应理解的是,并不要求实施所有示出的组件,可以替代的实施更多或者更少的组件。其中,本
技术领域:
:技术人员可以理解,这里的用户端是一种能够按照事先设定或存储的指令,自动进行数值计算和/或信息处理的设备,其硬件包括但不限于微处理器、专用集成电路(applicationspecificintegratedcircuit,asic)、可编程门阵列(field-programmablegatearray,fpga)、数字处理器(digitalsignalprocessor,dsp)、嵌入式设备等。用户端可以是智能手机、智能穿戴设备等计算设备。用户端可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。存储器至少包括一种类型的可读存储介质,可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如,sd或dx存储器等)、随机访问存储器(ram)、静态随机访问存储器(sram)、只读存储器(rom)、电可擦除可编程只读存储器(eeprom)、可编程只读存储器(prom)、磁性存储器、磁盘、光盘等。在一些实施例中,存储器可以是用户端的内部存储单元,例如该用户端的硬盘或内存。在另一些实施例中,存储器也可以是用户端的外部存储设备,例如该用户端上配备的插接式硬盘,智能存储卡(smartmediacard,smc),安全数字(securedigital,sd)卡,闪存卡(flashcard)等。当然,存储器还可以既包括用户端的内部存储单元也包括其外部存储设备。[0057]参见图2,本实施例中,用户端还包括数据采集装置,数据采集装置包括:上深度相机(1)、下深度相机(3)、固定支架(2)、地垫(6)、转台(7)。所述上深度相机(1)和下深度相机(3)均为单目深度相机,包括红外摄像头、点阵投射器、深度计算处理器。所述深度相机只采集深度信息,不采集彩色信息。所述上深度相机(1)的视场大小为第一区域(4),可以覆盖人体(8)的上半身区域,负责采集人体(8)上半身的深度图像。所述下深度相机(3)的视场大小为第二区域(5),可以覆盖人体(8)的下半身区域,负责采集人体(8)下半身的深度图像。所述固定支架(2)用于固定上深度图像相机(1)和下深度相机(3)。所述固定支架(2)内部安装处理器,用于控制深度相机采集图像、数据处理和数据传输,以及用于控制转台旋转和停止。所述地垫(6)的左端与固定支架(2)底部对齐,用于确定转台(7)的固定位置。所述地垫(6)表面印制有安放转台(7)的圆形图案,将转台(7)放置在圆形图案内,即可确定转台(7)相对固定支架(2)的位置关系。所述转台(7)用于带动人体(8)绕转台轴线进行顺时针旋转。在旋转过程中,人体(8)双手保持a字型姿势,面部朝向深度相机。转台(8)在旋转过程中,上深度相机(1)和下深度相机(3)交替采集人体在不同旋转位置的深度图像。[0058]需要说明的是,由于所述上深度相机(1)和下深度相机(3)均为单目深度相机,包括红外摄像头、点阵投射器、深度计算处理器,所述深度相机只采集深度信息,不采集彩色信息,因此可以对用户隐私进行保护。[0059]具体到步骤s1,用户端获取深度相机拍摄人体生成的二维的深度图像,拍摄时用户以规定姿势静止站立于转台上,所述转台带动所述用户旋转。[0060]需要说明的是,深度相机拍摄人体生成的深度图像为二维图像,所述二维图像的拍摄主要通过上深度相机(1)和下深度相机(3)交替采集转台旋转过程中,人体表面的深度图像。所述深度图像的像素值表示人体表面某个位置与深度相机之间的空间距离。所述二维图像采集流程为:1、人体(8)站在转台中心位置,面部朝向上下深度相机,双手保持a字型姿势;2、所述上下深度相机,收到第一条图像采集指令后,采集一幅人体(8)的上下半身深度图像;3、所述转台(7)收到开始旋转指令后,带动人体绕转台轴线进行顺时针旋转,旋转360°后停止;4、所述转台(7)开始旋转后,上深度相机(1)收到第二条图像采集指令,采集上深度相机(1)的第二幅人体(8)的上半身深度图像;5、所述上深度相机(1)第二条图像采集指令执行完后,所述下深度相机(3)收到第二条图像采集指令,采集下深度相机(3)的第二幅人体(8)下半身深度图像。6、交替重复步骤4和步骤5,直到转台(7)停止,完成上下深度相机的二维图像采集。[0061]具体到步骤s2,用户端采用二维图像背景分割技术,对所述深度图像进行预分割处理,并根据所述深度相机的内参标定结果,将预分割后的深度图像转换生成三维点云。[0062]参见图3,所示二维图像背景分割,包括深度值剔除、区域生长、轮廓检测、边缘腐蚀、三维点云生成。[0063]所述深度值剔除,用于将采集的深度图像中,非人体区域的背景干扰信息,通过深度阈值和像素有效区域进行初步剔除。深度值剔除原理为:根据转台(7)和固定支架(2)之间的位置关系,确定深度最大阈值dmax和深度最小阈值dmin;对于深度图像中,任意像素点(u,v)的深度值d(u,v),按照如式(1)进行深度剔除:[0064][0065]像素有效区域剔除原理为:在深度图像宽度方向,将像素坐标(u,v)在u方向上,像素坐标位于[0,uths]和[uwide-uths,uwide]的像素点的深度值设置0,即将深度图像中左右两侧一定范围内的深度信息认为是背景干扰信息,并进行剔除。uths需要根据深度图像的分辨率设置,如对于640×480分辨率的深度图像,uths可以设置为120。将经过像素有效区域剔除后的深度图像,记为i1。[0066]如4所示,所述区域生长,用于将满足一定深度阈值条件的相邻像素点生长为一个区域。对于深度图像i1中的种子点ps,根据8连通规则查找它的8个邻域像素点{p0,...,p7};如果任意一个邻域点pi的深度值与种子点ps的深度值之差小于一定阈值dths1,则认为该邻域点与种子点是一个生成区域,即{(dpi-dps)<dths1,i=0,...,7}。按照同样的方法,对深度图像i1中的每一个像素点进行区域生长判断,进而得到深度图像i1的k个生长区域{ri,i=0,...,k}。[0067]所述轮廓检测,用于计算出生长区域{ri,i=0,...,k}的矩形外轮廓{pi,i=0,...,k},基于外轮廓的大小位置,筛选出属于被测人体的生长区域rp。以生长区域ri为例,给出具体筛选过程:遍历生长区域ri的每一个像素点,计算出在(u,v)方向上的最大最小点通过和计算出生长区域ri的中心点对于给定的边界阈值[udmin,udmax]和[vdmin,vdmax],如果和在u和v方向上满足边界阈值条件,则判定生长区域ri为代表扫描人体的信息(也即从二维图像中分割出的初始人体区域),即为i2。[0068]所述边缘腐蚀,用于对i2的边缘信息进行滤波。对于本发明采用的单目深度相机,由于光学成像原理的限制,对于深度图像中有效深度边缘区域,存在比较大的深度测量误差,因此需要将边缘区域的深度信息去除。本实施例采用常规的边缘腐蚀膨胀操作,对i2的边缘进行腐蚀,得到处理后的深度图像i3。[0069]所述三维点云生成,用于将深度图像i3转换为三维点云pc1,具体转化过程为:利用深度相机的内参标定结果(fx,fy,cx,cy),采用式(2)所示公式,计算得到三维点云pc1。点云pc1中已将大部分背景干扰信息(非人体区域)进行了去除,但是仍然还有部分背景干扰信息没有被去除掉,因此需要在后续步骤s3中进行“三维点云背景分割”。[0070][0071]其中,x表示深度图像i3中,像素点在横轴方向的索引值,y表示深度图像i3中,像素点在纵轴方向的索引值,z表示深度图像i3中,像素点在竖直方向的索引值。cx表示深度相机光轴对于投影平面坐标中心在x方向的偏移量,cy表示深度相机光轴对于投影平面坐标中心在y方向的偏移量,fx表示深度相机在x方向的焦距,fy表示深度相机在y方向的焦距。[0072]具体到步骤s3,用户端基于生成的三维点云,计算出切割圆柱体,并利用所述切割圆柱体进行三维点云背景分割,以生成背景分割后的人体点云。[0073]如5所示,三维点云背景分割可以包括欧式距离聚类、分割参数计算、背景点云分割。[0074]如图6所示,所述欧式距离聚类计算原理具体为:对于输入的三维点云pc1,首先建立该点云的kdtree,从中选取一个种子点ps,根据设置的阈值查找种子点ps的k个近邻点;然后将k个近邻点作为初始聚类c'1,再从初始聚类c'1中选择除种子点ps之外的其他点,作为新的种子点再次进行k近邻查找,如果满足阈值条件,则将新查找到的k个近邻点加入初始聚类c'1,如果初始聚类c'1的点数不在增加,则说明该聚类生长已停止,得到初始聚类c'1的最终聚类c1。按照同样的方法,从三维点云pc1中选择聚类c1之外的其他点作为新的种子点,重复上述步骤,得到一组聚类结果{ci,i=1,...,k}。[0075]所述分割参数计算,以聚类结果{ci,i=1,...,k}作为输入,计算每个聚类ci的点数si、聚类质心oi、聚类最大点pi_max和最小点pi_min,然后根据以下判定规则,筛选出属于人体点云的聚类:[0076]如果聚类ci的点数si小于2000,则判定该聚类为背景干扰信息;[0077]如果聚类ci的质心oi,在水平方向(y方向,即三维点云所在三维空间的水平方向)的分量值大于-0.45m且小于0.45m,则该聚类属于潜在人体点云;进一步,如果聚类ci在水平方向(y方向)的最大值和最小值,位于[-0.45m.0.45m],则判定聚类ci为人体点云聚类。[0078]如果聚类ci的质心oi,在水平方向(y方向)的分量值大于-0.45m且小于0.45m,则该聚类属于潜在人体点云;进一步,如果聚类ci在竖直方向(-x方向)的最小值大于-0.5m,则判定聚类ci为人体点云聚类。[0079]对聚类集合{ci,i=1,...,k}中的每个聚类,按照上述判定规则进行判断,进而得到属于人体的聚类点云cbody。[0080]所述分割参数计算,包括计算切割圆柱体的轴线、计算切割圆柱体的中心点、计算切割圆柱体的半径;[0081]根据图2所示的转台(7),利用下深度相机(3),采集一幅转台深度图像并转换为转台三维点云,通过对转台三维点云进行平面拟合分割,提取出转台台面的三维点云,最后对转台台面点云进行平面拟合得到转台台面的法向量ntable,将ntable作为切割圆柱体的轴线方向。[0082]利用所述人体聚类点云cbody,计算出它的质心obody,作为切割圆柱体的中心点。[0083]利用所述人体聚类点云cbody,计算出它在水平方向(y方向)的最大、最小值,基于最大最小值,计算得到人体的手臂宽;考虑到不同用户手臂张开的幅度有大有小,对计算出的手臂宽添加一个余量(参考值0.05m),进而得最终的人体手臂宽wbody,作为切割圆柱体的半径。考虑到一般用户双手按照a字型姿势张开,手臂宽最大不超过0.9m,因此如果计算出的用户手臂宽超过0.9m,则默认取0.9m。[0084]所述背景点云分割,主要对旋转扫描过程中,采集的每一幅深度图像,分别经过二维图像背景分割、三维点云生成、圆柱体背景点云切割,实现背景干扰信息的去除。所述二维图像背景分割,按照图3所示的“二维图像背景分割”方法,对采集的旋转扫描过程中深度图像进行背景预分割,从而将大部分背景干扰信息去除。所述三维点云生成,用于将上一步分割得到的深度图像,利用深度相机内参标定结果,计算得到三维点云。所述圆柱体背景点云切割,以上一步得到的三维点云作为输入,基于计算出的切割圆柱体参数(圆柱体轴线、圆柱体中心、圆柱体半径),计算输入点云中每一个点与切割圆柱体中心在切割圆柱体半径方向上的距离,如果距离大于圆柱体半径,则将该点判定为背景干扰点。对输入点云中的每个点,按照上述步骤进行距离判断,进而筛选出背景干扰点集,并将它们从输入点云中删除,最终得到只保留人体的三维点云,实现三维点云的背景分割,得到只有人体部分的三维点云。[0085]实施例二[0086]参见图1至图8,实施例二提供一种基于深度相机三维人体旋转扫描的背景分割装置,包括:[0087]二维图像获取模块,用于获取深度相机拍摄人体生成的二维的深度图像,拍摄时用户以规定姿势静止站立于转台上,所述转台带动所述用户旋转;[0088]二维图像背景分割模块,用于采用二维图像背景分割技术,对所述深度图像进行预分割处理,并根据所述深度相机的内参标定结果,将预分割后的深度图像转换生成三维点云;[0089]三维点云背景分割模块,用于基于生成的三维点云,计算出切割圆柱体,并利用所述切割圆柱体进行三维点云背景分割,以生成背景分割后的人体点云。[0090]需要说明的是,本实施例提供的基于深度相机三维人体旋转扫描的背景分割装置,通过获取深度相机拍摄人体生成的二维的深度图像,拍摄时用户以规定姿势静止站立于转台上,转台带动用户旋转,采用二维图像背景分割技术对采集的深度图像进行预分割处理,并根据深度相机的内参标定结果,将预分割后的深度图像转换生成三维点云,基于生成的三维点云,计算出切割圆柱体,并利用切割圆柱体进行三维点云背景分割,以生成背景分割后的人体点云,从而实现对人体深度图像的背景干扰信息剔除,提高背景分割的准确性和完整性,降低分割难度和成本,同时保护了用户的隐私。[0091]需要指出的是,以上实施例仅为本发明较佳的具体实施方式,本发明的保护范围并不局限于此,任何熟悉本
技术领域:
:的技术人员在本发明揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本发明的保护范围之内,本发明的保护范围应该以权利要求的保护范围为准。当前第1页12当前第1页12
技术特征:
1.一种基于深度相机三维人体旋转扫描的背景分割方法,其特征在于,所述基于深度相机三维人体旋转扫描的背景分割方法包括以下步骤:获取深度相机拍摄人体生成的二维的深度图像,拍摄时用户以规定姿势静止站立于转台上,所述转台带动所述用户旋转;采用二维图像背景分割技术,对所述深度图像进行预分割处理,并根据所述深度相机的内参标定结果,将预分割后的深度图像转换生成三维点云;基于生成的三维点云,计算出切割圆柱体,并利用所述切割圆柱体进行三维点云背景分割,以生成背景分割后的人体点云。2.如权利要求1所述的基于深度相机三维人体旋转扫描的背景分割方法,其特征在于,所述深度相机包括上深度相机和下深度相机;所述上深度相机和所述下深度相机同步采集所述人体的上下半身深度图像,以生成一组所述深度图像,随着所述转台带动所述用户旋转而采集生成到多组所述深度图像。3.如权利要求2所述的基于深度相机三维人体旋转扫描的背景分割方法,其特征在于,所述采用二维图像背景分割技术,对所述深度图像进行预分割处理,并根据所述深度相机的内参标定结果,将预分割后的深度图像转换生成三维点云,包括:采用二维图像背景分割技术,对多组所述深度图像依次进行预分割处理;根据所述上深度相机和所述下深度相机的内参标定结果,将预分割后的多组所述深度图像转换生成多组三维点云。4.如权利要求3所述的基于深度相机三维人体旋转扫描的背景分割方法,其特征在于,所述基于生成的三维点云,计算出切割圆柱体,并利用所述切割圆柱体进行三维点云背景分割,以生成背景分割后的人体点云,包括:基于生成的三维点云,计算出切割圆柱体;利用所述切割圆柱体对所述多组三维点云进行三维点云背景分割,以生成背景分割后的人体点云。5.如权利要求1-4任一项所述的基于深度相机三维人体旋转扫描的背景分割方法,其特征在于,所述采用二维图像背景分割技术,对所述深度图像进行预分割处理,并根据所述深度相机的内参标定结果,将预分割后的深度图像转换生成三维点云,包括:将所述深度图像中非人体区域的背景干扰信息,通过深度阈值和像素有效区域进行初步剔除,以得到深度值剔除图像;将所述深度值剔除图像中满足一定深度阈值条件的相邻像素点生长为一个区域,以得到区域生长图像;对所述区域生长图像进行轮廓检测,以得到初始人体区域的深度图像;对所述初始人体区域的深度图像的边缘信息进行滤波,以得到滤波后的深度图像;将滤波后的深度图像转换生成三维点云。6.如权利要求5所述的基于深度相机三维人体旋转扫描的背景分割方法,其特征在于,所述将所述深度图像中非人体区域的背景干扰信息,通过深度阈值和像素有效区域进行初步剔除,以得到深度值剔除图像,包括:根据转台和固定支架之间的位置关系,确定深度最大阈值d
max
和深度最小阈值d
min
;对于所述深度图像中任意像素点(u,v)的深度值d
(u,v)
,按照公式一进行深度剔除,所述
公式一为:在所述深度图像的宽度方向,将像素点(u,v)在u方向上,像素坐标位于[0,u
ths
]和[u
wide-uths
,u
wide
]的像素点的深度值设置0,以将所述深度图像中左右两侧一定范围内的深度信息认定为背景干扰信息,并进行剔除,u
ths
根据深度图像的分辨率设置;将经过像素有效区域剔除后的深度值剔除图像记为i1。7.如权利要求6所述的基于深度相机三维人体旋转扫描的背景分割方法,其特征在于,所述将所述深度值剔除图像中满足一定深度阈值条件的相邻像素点生长为一个区域,以得到区域生长图像,包括:对于深度值剔除图像i1中的种子点p
s
,根据8连通规则查找它的8个邻域像素点{p0,...,p7};如果任意一个邻域点p
i
的深度值与种子点p
s
的深度值之差小于一定阈值d
ths1
,满足{(dp
i-dp
s
)<d
ths1
,i=0,...,7},则认定该邻域点与种子点是一个生成区域;按照同样的方法,对深度值剔除图像i1中的每一个像素点进行区域生长判断,得到深度值剔除图像i1的k个生长区域{r
i
,i=0,...,k},进而得到区域生长图像。8.如权利要求7所述的基于深度相机三维人体旋转扫描的背景分割方法,其特征在于,所述对所述区域生长图像进行轮廓检测,以得到初始人体区域的深度图像,包括:计算出所述生长区域{r
i
,i=0,...,k}的矩形外轮廓{p
i
,i=0,...,k};基于外轮廓{p
i
,i=0,...,k}的大小位置,筛选出属于被测用户的生长区域r
p
,以得到初始人体区域的深度图像i2。9.如权利要求8所述的基于深度相机三维人体旋转扫描的背景分割方法,其特征在于,所述对所述初始人体区域的深度图像的边缘信息进行滤波,以得到滤波后的深度图像,包括:对所述初始人体区域的深度图像i2的边缘信息进行腐蚀膨胀操作,以得到滤波后的深度图像i3。10.一种基于深度相机三维人体旋转扫描的背景分割装置,包括:二维图像获取模块,用于获取深度相机拍摄人体生成的二维的深度图像,拍摄时用户以规定姿势静止站立于转台上,所述转台带动所述用户旋转;二维图像背景分割模块,用于采用二维图像背景分割技术,对所述深度图像进行预分割处理,并根据所述深度相机的内参标定结果,将预分割后的深度图像转换生成三维点云;三维点云背景分割模块,用于基于生成的三维点云,计算出切割圆柱体,并利用所述切割圆柱体进行三维点云背景分割,以生成背景分割后的人体点云。
技术总结
本发明属于数字信息处理技术领域,提供一种基于深度相机三维人体旋转扫描的背景分割方法与装置,通过获取深度相机拍摄人体生成的二维的深度图像,拍摄时用户以规定姿势静止站立于转台上,转台带动用户旋转,采用二维图像背景分割技术对采集的深度图像进行预分割处理,并根据深度相机的内参标定结果,将预分割后的深度图像转换生成三维点云,基于生成的三维点云,计算出切割圆柱体,并利用切割圆柱体进行三维点云背景分割,以生成背景分割后的人体点云,从而实现对人体深度图像的背景干扰信息剔除,提高背景分割的准确性和完整性,降低分割难度和成本,同时保护了用户的隐私。同时保护了用户的隐私。同时保护了用户的隐私。
技术研发人员:冯超 陈树青 袁壮 卓敏达 胡海瑛
受保护的技术使用者:深圳仙库智能有限公司
技术研发日:2023.06.21
技术公布日:2023/9/25
版权声明
本文仅代表作者观点,不代表航家之家立场。
本文系作者授权航家号发表,未经原创作者书面授权,任何单位或个人不得引用、复制、转载、摘编、链接或以其他任何方式复制发表。任何单位或个人在获得书面授权使用航空之家内容时,须注明作者及来源 “航空之家”。如非法使用航空之家的部分或全部内容的,航空之家将依法追究其法律责任。(航空之家官方QQ:2926969996)
航空之家 https://www.aerohome.com.cn/
航空商城 https://mall.aerohome.com.cn/
航空资讯 https://news.aerohome.com.cn/