图像传感器、图像处理装置及智能终端的制作方法
未命名
09-29
阅读:82
评论:0
1.本技术涉及成像
技术领域:
:,具体涉及一种图像传感器、图像处理装置及智能终端。
背景技术:
::2.一些实现中的图像传感器包括互补金属氧化物半导体(cmos)图像传感器(cmosimagesensor,cis)和动态视觉传感器(dynamicvisionsensor,dvs)。cis主要对颜色信息进行感知,以固定帧率全局输出灰度值信息,dvs主要对光强的变化进行感知,通过模拟生物视网膜处理信息的机制,在外部光强信息发生变化时,输出动态的事件信息,当光强信息不变化时则没有输出。但是,仅有事件信息无法重构图像,许多应用场景可以通过仅处理亮度变化事件来解决,但有些应用场景还需要某种形式的静态输出。为了解决这个问题,同时输出动态和静态信息的图像传感器已经有了一些发展。3.一些实现中能够同时输出动态视觉信息与图像灰度信息的图像传感器如图1所示,该图像传感器包括相连接的有源像素传感器(activepixelsensor,aps)、dvs及晶体管mn5。光电二极管pd捕捉到的光电流一方面通过aps逻辑电路进行传统相机基于帧率模式的拍照,一方面通过dvs逻辑电路进行光强度变化的事件模式拍照。现有的apsdvs像素单元结构中,像素中心区域是光电二极管的感光层si材料,四周是逻辑电路结构。一些实现中像素单元的感光层和逻辑电路采用平面排布式结构,这种像素排列方式占据了芯片表面大量的空间,使单个像素的尺寸较传统cis中的像素尺寸大很多,apsdvs传感器的有效像素密度较低。4.前面的叙述在于提供一般的背景信息,并不一定构成现有技术。技术实现要素:5.针对上述技术问题,本技术提供一种图像传感器、图像处理装置及智能终端,可以将传统的cis和dvs融合在一起,提升了感光面积的使用效率,减少了逻辑电路的占用面积,提升了图像传感器的像素密度。6.本技术提供一种图像传感器,包括图像传感器和第一逻辑电路层;7.所述图像传感器包括层叠设置的感光层和第二逻辑电路层,所述感光层包括至少两个排布成阵列的像素单元,至少一个所述像素单元为复用像素单元;8.所述第一逻辑电路层与所述复用像素单元电性连接,所述第一逻辑电路层和所述第二逻辑电路层层叠设置。9.可选地,第一逻辑电路层为dvs逻辑电路层,第二逻辑电路层为cis逻辑电路层。10.可选地,所述复用像素单元包括第一复用子单元、第二复用子单元、第三复用子单元和第四复用子单元,用于接收互不相同的第一波段光信号、第二波段光信号、第三波段光信号、第四波段光信号,四种复用子单元的数量相等且以n行n列矩阵排布,n为大于或等于2的正整数。11.可选地,所述复用像素单元还包括第五复用子单元,用于接收第五波段光信号,所述第五波段光信号的波段与所述第一波段光信号、所述第二波段光信号、所述第三波段光信号、所述第四波段光信号的波段均不相等。12.可选地,所述第一波段光信号属于红光波段光信号;所述第二波段光信号属于蓝光波段光信号;所述第三波段光信号和所述第四波段光信号均属于绿光波段光信号,且所述第三波段光信号所属的绿光波段和所述第四波段光信号所属的绿光波段不同;所述第五波段属于可见光波段光信号。13.可选地,所述像素单元包括延光路层叠设置的滤光片和光电转换器件;14.所述滤光片用于阻挡除目标波段之外的其他波段光束进入所述光电转换器件;15.所述光电转换器件,用于根据所述目标波段光信号生成表征所述目标波段的光强度信息的电信号。16.可选地,所述第二逻辑电路层与所述像素单元的所述光电转换器件电性连接,用于在基于帧率曝光模式下根据所述电信号生成对应的图像灰度信息。17.可选地,所述第一逻辑电路层与所述复用像素单元的所述光电转换器件电性连接,用于在基于光强度变化的事件模式下根据所述电信号生成对应的动态视觉信息。18.可选地,所述第二逻辑电路层和所述第一逻辑电路层之间形成有电介质绝缘层。19.本技术还提供一种图像处理装置,包括处理器和如上所述的图像传感器,所述图像传感器用于在基于帧率曝光模式下获取图像灰度信息,以及在基于光强度变化的事件模式下获取动态视觉信息,所述处理器用于根据所述图像灰度信息以及动态视觉信息得到动态视觉图像。20.本技术还提供一种智能终端,包括如上所述的图像处理装置。21.如上所述,本技术提供的图像传感器,通过复用cmos图像传感器感光层的部分像素单元,提升了感光面积的使用效率,将复用像素单元与dvs逻辑电路层电性连接,从而将传统的cis和dvs融合在一起,使图像传感器既能在基于帧率曝光模式下获取图像灰度信息,又能在基于光强度变化的事件模式下获取动态视觉信息,并且dvs逻辑电路层和cis逻辑电路层层叠设置,减少了逻辑电路的占用面积,提升了图像传感器的像素密度。附图说明22.此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本技术的实施例,并与说明书一起用于解释本技术的原理。为了更清楚地说明本技术实施例的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,对于本领域普通技术人员而言,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。23.图1为常见aps和dvs融合的电路图;24.图2为实现本技术各个实施例的一种智能终端的硬件结构示意图;25.图3为本技术实施例提供的一种通信网络系统架构图;26.图4是根据第一实施例示出的复用像素单元的像素阵列示意图;27.图5a和图5b是根据第二实施例示出的复用像素单元的像素阵列示意图;28.图6是根据第三实施例示出的复用像素单元的像素阵列示意图;29.图7是本技术实施例提供的一种图像传感器的电路层级结构示意图;30.图8是本技术实施例提供的一种图像传感器的器件层级结构示意图。31.本技术目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。通过上述附图,已示出本技术明确的实施例,后文中将有更详细的描述。这些附图和文字描述并不是为了通过任何方式限制本技术构思的范围,而是通过参考特定实施例为本领域技术人员说明本技术的概念。具体实施方式32.这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本技术相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本技术的一些方面相一致的装置和方法的例子。33.需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素,此外,本技术不同实施例中具有同样命名的部件、特征、要素可能具有相同含义,也可能具有不同含义,其具体含义需以其在该具体实施例中的解释或者进一步结合该具体实施例中上下文进行确定。34.应当理解,尽管在本文可能采用术语第一、第二、第三等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本文范围的情况下,第一信息也可以被称为第二信息,类似地,第二信息也可以被称为第一信息。取决于语境,如在此所使用的词语"如果"可以被解释成为"在……时"或"当……时"或"响应于确定"。再者,如同在本文中所使用的,单数形式“一”、“一个”和“该”旨在也包括复数形式,除非上下文中有相反的指示。应当进一步理解,术语“包含”、“包括”表明存在所述的特征、步骤、操作、元件、组件、项目、种类、和/或组,但不排除一个或多个其他特征、步骤、操作、元件、组件、项目、种类、和/或组的存在、出现或添加。本技术使用的术语“或”、“和/或”、“包括以下至少一个”等可被解释为包括性的,或意味着任一个或任何组合。例如,“包括以下至少一个:a、b、c”意味着“以下任一个:a;b;c;a和b;a和c;b和c;a和b和c”,再如,“a、b或c”或者“a、b和/或c”意味着“以下任一个:a;b;c;a和b;a和c;b和c;a和b和c”。仅当元件、功能、步骤或操作的组合在某些方式下内在地互相排斥时,才会出现该定义的例外。35.应当理解,此处所描述的具体实施例仅仅用以解释本技术,并不用于限定本技术。36.在后续的描述中,使用用于表示元件的诸如“模块”、“部件”或者“单元”的后缀仅为了有利于本技术的说明,其本身没有特定的意义。因此,“模块”、“部件”或者“单元”可以混合地使用。37.智能终端可以以各种形式来实施。例如,本技术中描述的智能终端可以包括诸如手机、平板电脑、笔记本电脑、掌上电脑、个人数字助理(personaldigitalassistant,pda)、便捷式媒体播放器(portablemediaplayer,pmp)、导航装置、可穿戴设备、智能手环、计步器等智能终端,以及诸如数字tv、台式计算机等固定终端。38.请参阅图2,其为实现本技术各个实施例的一种移动终端的硬件结构示意图,该移动终端100可以包括:rf(radiofrequency,射频)单元101、wifi模块102、音频输出单元103、a/v(音频/视频)输入单元104、传感器105、显示单元106、用户输入单元107、接口单元108、存储器109、处理器110、以及电源111等部件。本领域技术人员可以理解,图1中示出的移动终端结构并不构成对移动终端的限定,移动终端可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。39.下面结合图2对移动终端的各个部件进行具体的介绍:40.射频单元101可用于收发信息或通话过程中,信号的接收和发送,具体的,将基站的下行信息接收后,给处理器110处理;另外,将上行的数据发送给基站。通常,射频单元101包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外,射频单元101还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议,包括但不限于gsm(globalsystemofmobilecommunication,全球移动通讯系统)、gprs(generalpacketradioservice,通用分组无线服务)、cdma2000(codedivisionmultipleaccess2000,码分多址2000)、wcdma(widebandcodedivisionmultipleaccess,宽带码分多址)、td-scdma(timedivision-synchronouscodedivisionmultipleaccess,时分同步码分多址)、fdd-lte(frequencydivisionduplexing-longtermevolution,频分双工长期演进)、tdd-lte(timedivisionduplexing-longtermevolution,分时双工长期演进)和5g等。41.wifi属于短距离无线传输技术,移动终端通过wifi模块102可以帮助用户收发电子邮件、浏览网页和访问流式媒体等,它为用户提供了无线的宽带互联网访问。虽然图1示出了wifi模块102,但是可以理解的是,其并不属于移动终端的必须构成,完全可以根据需要在不改变发明的本质的范围内而省略。42.音频输出单元103可以在移动终端100处于呼叫信号接收模式、通话模式、记录模式、语音识别模式、广播接收模式等等模式下时,将射频单元101或wifi模块102接收的或者在存储器109中存储的音频数据转换成音频信号并且输出为声音。而且,音频输出单元103还可以提供与移动终端100执行的特定功能相关的音频输出(例如,呼叫信号接收声音、消息接收声音等等)。音频输出单元103可以包括扬声器、蜂鸣器等等。43.a/v输入单元104用于接收音频或视频信号。a/v输入单元104可以包括图形处理器(graphicsprocessingunit,gpu)1041和麦克风1042,图形处理器1041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元106上。经图形处理器1041处理后的图像帧可以存储在存储器109(或其它存储介质)中或者经由射频单元101或wifi模块102进行发送。麦克风1042可以在电话通话模式、记录模式、语音识别模式等等运行模式中经由麦克风1042接收声音(音频数据),并且能够将这样的声音处理为音频数据。处理后的音频(语音)数据可以在电话通话模式的情况下转换为可经由射频单元101发送到移动通信基站的格式输出。麦克风1042可以实施各种类型的噪声消除(或抑制)算法以消除(或抑制)在接收和发送音频信号的过程中产生的噪声或者干扰。44.移动终端100还包括至少一种传感器105,比如光传感器、运动传感器以及其他传感器。可选地,光传感器包括环境光传感器及接近传感器,可选地,环境光传感器可根据环境光线的明暗来调节显示面板1061的亮度,接近传感器可在移动终端100移动到耳边时,关闭显示面板1061和/或背光。作为运动传感器的一种,加速计传感器可检测各个方向上(一般为三轴)加速度的大小,静止时可检测出重力的大小及方向,可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等;至于手机还可配置的指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器,在此不再赘述。45.显示单元106用于显示由用户输入的信息或提供给用户的信息。显示单元106可包括显示面板1061,可以采用液晶显示器(liquidcrystaldisplay,lcd)、有机发光二极管(organiclight-emittingdiode,oled)等形式来配置显示面板1061。46.用户输入单元107可用于接收输入的数字或字符信息,以及产生与移动终端的用户设置以及功能控制有关的键信号输入。可选地,用户输入单元107可包括触控面板1071以及其他输入设备1072。触控面板1071,也称为触摸屏,可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板1071上或在触控面板1071附近的操作),并根据预先设定的程式驱动相应的连接装置。触控面板1071可包括触摸检测装置和触摸控制器两个部分。可选地,触摸检测装置检测用户的触摸方位,并检测触摸操作带来的信号,将信号传送给触摸控制器;触摸控制器从触摸检测装置上接收触摸信息,并将它转换成触点坐标,再送给处理器110,并能接收处理器110发来的命令并加以执行。此外,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板1071。除了触控面板1071,用户输入单元107还可以包括其他输入设备1072。可选地,其他输入设备1072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种,具体此处不做限定。47.可选地,触控面板1071可覆盖显示面板1061,当触控面板1071检测到在其上或附近的触摸操作后,传送给处理器110以确定触摸事件的类型,随后处理器110根据触摸事件的类型在显示面板1061上提供相应的视觉输出。虽然在图1中,触控面板1071与显示面板1061是作为两个独立的部件来实现移动终端的输入和输出功能,但是在某些实施例中,可以将触控面板1071与显示面板1061集成而实现移动终端的输入和输出功能,具体此处不做限定。48.接口单元108用作至少一个外部装置与移动终端100连接可以通过的接口。例如,外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(i/o)端口、视频i/o端口、耳机端口等等。接口单元108可以用于接收来自外部装置的输入(例如,数据信息、电力等等)并且将接收到的输入传输到移动终端100内的一个或多个元件或者可以用于在移动终端100和外部装置之间传输数据。49.存储器109可用于存储软件程序以及各种数据。存储器109可主要包括存储程序区和存储数据区,可选地,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外,存储器109可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。50.处理器110是移动终端的控制中心,利用各种接口和线路连接整个移动终端的各个部分,通过运行或执行存储在存储器109内的软件程序和/或模块,以及调用存储在存储器109内的数据,执行移动终端的各种功能和处理数据,从而对移动终端进行整体监控。处理器110可包括一个或多个处理单元;优选的,处理器110可集成应用处理器和调制解调处理器,可选地,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器110中。51.移动终端100还可以包括给各个部件供电的电源111(比如电池),优选的,电源111可以通过电源管理系统与处理器110逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。52.尽管图2未示出,移动终端100还可以包括蓝牙模块等,在此不再赘述。53.为了便于理解本技术实施例,下面对本技术的移动终端所基于的通信网络系统进行描述。54.请参阅图3,图3为本技术实施例提供的一种通信网络系统架构图,该通信网络系统为通用移动通信技术的lte系统,该lte系统包括依次通讯连接的ue(userequipment,用户设备)201,e-utran(evolvedumtsterrestrialradioaccessnetwork,演进式umts陆地无线接入网)202,epc(evolvedpacketcore,演进式分组核心网)203和运营商的ip业务204。55.可选地,ue201可以是上述终端100,此处不再赘述。56.e-utran202包括enodeb2021和其它enodeb2022等。可选地,enodeb2021可以通过回程(backhaul)(例如x2接口)与其它enodeb2022连接,enodeb2021连接到epc203,enodeb2021可以提供ue201到epc203的接入。57.epc203可以包括mme(mobilitymanagemententity,移动性管理实体)2031,hss(homesubscriberserver,归属用户服务器)2032,其它mme2033,sgw(servinggateway,服务网关)2034,pgw(pdngateway,分组数据网络网关)2035和pcrf(policyandchargingrulesfunction,政策和资费功能实体)2036等。可选地,mme2031是处理ue201和epc203之间信令的控制节点,提供承载和连接管理。hss2032用于提供一些寄存器来管理诸如归属位置寄存器(图中未示)之类的功能,并且保存有一些有关服务特征、数据速率等用户专用的信息。所有用户数据都可以通过sgw2034进行发送,pgw2035可以提供ue201的ip地址分配以及其它功能,pcrf2036是业务数据流和ip承载资源的策略与计费控制策略决策点,它为策略与计费执行功能单元(图中未示)选择及提供可用的策略和计费控制决策。58.ip业务204可以包括因特网、内联网、ims(ipmultimediasubsystem,ip多媒体子系统)或其它ip业务等。59.虽然上述以lte系统为例进行了介绍,但本领域技术人员应当知晓,本技术不仅仅适用于lte系统,也可以适用于其他无线通信系统,例如gsm、cdma2000、wcdma、td-scdma、5g以及未来新的网络系统(如6g)等,此处不做限定。60.基于上述移动终端硬件结构以及通信网络系统,提出本技术各个实施例。61.本技术提供的图像传感器,通过复用cmos图像传感器感光层的部分像素单元,将复用像素单元与dvs逻辑电路层电性连接,从而将传统的cis和dvs融合在一起,使图像传感器既能在基于帧率曝光模式下获取图像灰度信息,又能在基于光强度变化的事件模式下获取动态视觉信息。62.第一实施例63.本技术实施例中的复用像素单元包括第一复用子单元、第二复用子单元、第三复用子单元和第四复用子单元,用于接收互不相同的第一波段光信号、第二波段光信号、第三波段光信号、第四波段光信号,四种复用子单元的数量相等且以n行n列矩阵排布,n为大于或等于2的正整数。64.请参照图4,图4是根据第一实施例示出的复用像素单元的像素阵列示意图,在如图4所示的一种基于gr-r-b-gb排布的cis像素阵列中,分别将同一行或同一列相邻两个像素的临界位置的子像素做为复用像素单元的复用子单元。在该cis像素阵列中,复用子单元以两行两列矩阵排布,形成四合一的结构。复用像素单元的第一复用子单元所接收的第一波段光信号为红光波段光信号,第二复用子单元所接收的第二波段光信号为第一绿光波段光信号,第三复用子单元所接收的第三波段光信号为第二绿光波段光信号,第一绿光波段光信号的所属波段与第二绿光波段光信号所属波段不同,第四复用子单元所接收的第四波段光信号为蓝光波段光信号。其中,第一复用子单元和第四复用子单元在矩阵中呈对角线排布,第二复用子单元和第三复用子单元排布在另一条对角线上。65.第二实施例66.请参照图5a和图5b,图5a和图5b是根据第二实施例示出的复用像素单元的像素阵列示意图,在传统的四合一(4r-4gr-4gb-4b)的bayer像素模式的cis像素阵列中,分别将每个像素中的独立像素的临界位置的子像素做为复用像素单元的复用子单元。在该cis像素阵列中,复用子单元可以以两行两列矩阵排布形成四合一的结构,也可以以四行四列矩阵排布形成十六合一的结构。其中复用像素单元的第一复用子单元所接收的第一波段光信号为红光波段光信号,第二复用子单元所接收的第二波段光信号为第一绿光波段光信号,第三复用子单元所接收的第三波段光信号为第二绿光波段光信号,第一绿光波段光信号的所属波段与第二绿光波段光信号所属波段不同,第四复用子单元所接收的第四波段光信号为蓝光波段光信号。67.如图5a所示,在复用子单元以两行两列矩阵排布的结构中,第一复用子单元和第四复用子单元在矩阵中呈对角线排布,第二复用子单元和第三复用子单元排布在另一条对角线上。68.如图5b所示,在复用子单元以四行四列矩阵排布的结构中,第一复用子单元、第二复用子单元、第三复用子单元和第四复用子单元的数量均为四个,且分别呈两行两列矩阵排布,第一复用子单元矩阵和第四复用子单元矩阵在四行四列的复用像素单元矩阵中呈对角线排布,第二复用子单元和第三复用子单元排布在四行四列的复用像素单元矩阵中的另一条对角线上。69.第三实施例70.本技术实施例中的复用像素单元还包括第五复用子单元,用于接收第五波段光信号,第五波段光信号的波段与第一波段光信号、第二波段光信号、第三波段光信号、第四波段光信号的波段均不相等。71.请参照图6,图6是根据第三实施例示出的复用像素单元的像素阵列示意图,在如图6所示的一种基于rgbw像素结构的cis像素阵列中,分别将每个像素中相邻的九个子像素做为复用像素单元的复用子单元,其中构成复用像素单元301的相邻九个子像素需包含一个红色子像素(r),一个第一绿色子像素(gr),一个第二绿色子像素(gb)和一个蓝色子像素(b)。在该cis像素阵列中,复用子单元以三行三列矩阵排布,形成九合一的结构。复用像素单元301的第一复用子单元所接收的第一波段光信号为红光波段光信号,第二复用子单元所接收的第二波段光信号为第一绿光波段光信号,第三复用子单元所接收的第三波段光信号为第二绿光波段光信号,第一绿光波段光信号的所属波段与第二绿光波段光信号所属波段不同,第四复用子单元所接收的第四波段光信号为蓝光波段光信号,第五复用子单元所接收的第五波段光信号为可见光波段光信号。其中,第一复用子单元排布在第一行的中间位置,第二复用子单元排布在第三列的中间位置,第三复用子单元以及排布在第三行的中间位置,第四复用子单元排布在第一列的中间位置,第五复用子单元排布在三行三列矩阵中的四个顶点和中心位置。72.应当理解,此处所描述的具体实施例仅仅用以解释本技术,并不用于限定本技术。本技术通过复用cmos图像传感器感光层的部分像素单元,以形成dvs像素单元,从而使dvs和cis具有相同的像素模式,使相机在不同的工作模式下的算法能够兼容,并且dvs和cis共用部分像素单元,就不需要再分用光电转换器件,从而提升了感光面积的使用效率,节省了芯片表面大量的空间,进而提升了图像传感器的像素密度。73.请参照图7和图8,图7是本技术实施例提供的一种图像传感器的电路层级结构示意图,图8是本技术实施例提供的一种图像传感器的器件层级结构示意图。本技术提供的图像传感器,包括cmos图像传感器和dvs逻辑电路层440;其中cmos图像传感器包括层叠设置的感光层410和cis逻辑电路层420,感光层410包括至少两个排布成阵列的像素单元,其中有至少一个像素单元为复用像素单元;dvs逻辑电路层440与复用像素单元电性连接,dvs逻辑电路层440和cis逻辑电路层420层叠设置。74.具体地,像素单元包括延光路层叠设置的滤光片411和光电转换器件412;滤光片411用于阻挡除目标波段之外的其他波段光束进入光电转换器件412;光电转换器件412,用于根据目标波段光信号生成表征所述目标波段的光强度信息的电信号。例如红色滤光片仅允许属于红光波段的光束通过,进入红色像素单元对应的光电转换器件中,如光电二极管,进而通过相应的光电转换器件生成表征红色波段的光强度信息的电信号,即光电流。75.具体地,cis逻辑电路层420与像素单元的光电转换器件412电性连接,用于在基于帧率曝光模式下根据所述电信号生成对应的图像灰度信息。其中,cis逻辑电路层420包括传输门,复位器以及源极跟随器,传输门用于将所述光电转换器件,即光电二极管产生的光电荷传输至到浮置扩散节点,复位器用于将所述浮置扩散节点的电压复位,源极跟随器用于生成与所述浮置扩散节点电荷对应的输出电压,以基于所述输出电压生成对应的图像灰度信息。76.具体地,dvs逻辑电路层440与复用像素单元的所述光电转换器件412电性连接,用于在基于光强度变化的事件模式下根据所述电信号生成对应的动态视觉信息。如图7所示,dvs逻辑电路层440通过金属线与复用像素单元的光电转换器件412电性连接以形成dvs传感单元,dvs传感单元在用于基于光强度变化的事件模式的拍照时,dvs逻辑电路层440通过金属线从复用子单元接收到表征光强度信息的电信号,以生成动态视觉信息。其中,dvs逻辑电路层440包括运算器,差分器以及比较器,运算器用于基于所述浮置扩散节点电荷生成对数电压,差分器用于对生成的对数电压进行放大,比较器用于将经过放大的对数电压与比较电压进行比较,基于将所述经过放大的对数电压与比较电压进行比较的结果来确定光强度的变化,并基于所述光强度的变化生成动态视觉信息。77.具体地,cis逻辑电路层420和dvs逻辑电路层440之间形成有电介质绝缘层430。通过在dvs逻辑电路层440和cis逻辑电路层420中间的金属线之间进行原子层沉积,如ald原子层,形成栅介质薄膜,如al2o3或hfo2薄膜,以作为电介质绝缘层430,进行dvs逻辑电路层440和cis逻辑电路层420电信号的屏蔽,以保护电路,防止dvs逻辑电路层440和cis逻辑电路层420间存在放电串扰。78.需要说明的是,cis感光层的像素单元中的另一部分未被dvs复用的非复用像素单元,仅用于在基于帧率曝光拍照模式下获取图像灰度信息,而复用像素单元在基于帧率曝光模式下,各个复用子单元是独立进行工作的,如图7所示,各个复用子单元通过行/列控制线连接,用于获取所需的图像灰度信息;在基于光强度变化的事件模式下,dvs逻辑电路层440控制复用子单元融合成一个个单独的dvs像素单元,根据从复用子单元对应的光电转换器件412获取的电信号生成动态视觉信息所需的光强度信息。79.本技术提供的图像传感器,通过dvs逻辑电路层控制复用子单元融合成dvs像素单元,使dvs和cis共用部分像素单元,不需要再分用光电转换器件,保证了感光面积的使用效率;同时通过芯片堆栈的工艺,将传感器电路层放置于感光层的下方,最大程度地减少了电路逻辑占用的面积,就可以在相同芯片面积上集成更多的晶体管,实现更大的像素密度。80.本技术实施例还提供一种图像处理装置,包括处理器和如上所述的图像传感器。图像传感器用于在基于帧率曝光模式下,通过cis逻辑电路层获取图像灰度信息,并在基于光强度变化的事件模式下,通过dvs逻辑电路层获取动态视觉信息,处理器用于根据所述图像灰度信息以及动态视觉信息进行算法处理,使场景复现,得到动态视觉图像。81.本技术实施例还提供一种智能终端,包括如上所述的图像处理装置。82.上述本技术实施例序号仅仅为了描述,不代表实施例的优劣。83.本技术实施例器件中的电路模块可以根据实际需要进行合并、划分和删减。84.在本技术中,对于相同或相似的术语概念、技术方案和/或应用场景描述,一般只在第一次出现时进行详细描述,后面再重复出现时,为了简洁,一般未再重复阐述,在理解本技术技术方案等内容时,对于在后未详细描述的相同或相似的术语概念、技术方案和/或应用场景描述等,可以参考其之前的相关详细描述。85.在本技术中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。86.本技术技术方案的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本技术记载的范围。87.在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行计算机程序指令时,全部或部分地产生按照本技术实施例的流程或功能。计算机可以是通用计算机、专用计算机、计算机网络,或者其他可编程装置。计算机指令可以存储在计算机可读存储介质存储介质中,或者从一个计算机可读存储介质存储介质向另一个计算机可读存储介质存储介质传输,例如,计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线)或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。计算机可读存储介质存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。可用介质可以是磁性介质,(例如,软盘、存储盘、磁带)、光介质(例如,dvd),或者半导体介质(例如固态存储盘solidstatedisk(ssd))等。88.以上仅为本技术的优选实施例,并非因此限制本技术的专利范围,凡是利用本技术说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的
技术领域:
:,均同理包括在本技术的专利保护范围内。当前第1页12当前第1页12
技术特征:
1.一种图像传感器,其特征在于,包括图像传感器和第一逻辑电路层;所述图像传感器包括层叠设置的感光层和第二逻辑电路层,所述感光层包括至少两个排布成阵列的像素单元,至少一个所述像素单元为复用像素单元;所述第一逻辑电路层与所述复用像素单元电性连接,所述第一逻辑电路层和所述第二逻辑电路层层叠设置。2.根据权利要求1所述的图像传感器,其特征在于,所述复用像素单元包括第一复用子单元、第二复用子单元、第三复用子单元和第四复用子单元,用于接收互不相同的第一波段光信号、第二波段光信号、第三波段光信号、第四波段光信号,四种复用子单元的数量相等且以n行n列矩阵排布,n为大于或等于2的正整数。3.根据权利要求2所述的图像传感器,其特征在于,所述复用像素单元还包括第五复用子单元,用于接收第五波段光信号,所述第五波段光信号的波段与所述第一波段光信号、所述第二波段光信号、所述第三波段光信号、所述第四波段光信号的波段均不相等。4.根据权利要求2或3所述的图像传感器,其特征在于,包括以下至少一项:所述第一波段光信号属于红光波段光信号;所述第二波段光信号属于蓝光波段光信号;所述第三波段光信号和所述第四波段光信号均属于绿光波段光信号,且所述第三波段光信号所属的绿光波段和所述第四波段光信号所属的绿光波段不同;所述第五波段属于可见光波段光信号。5.根据权利要求2或3所述的图像传感器,其特征在于,所述像素单元包括延光路层叠设置的滤光片和光电转换器件;所述滤光片用于阻挡除目标波段之外的其他波段光束进入所述光电转换器件;所述光电转换器件,用于根据所述目标波段光信号生成表征所述目标波段的光强度信息的电信号。6.根据权利要求5所述的图像传感器,其特征在于,所述第二逻辑电路层与所述像素单元的所述光电转换器件电性连接,用于在基于帧率曝光模式下根据所述电信号生成对应的图像灰度信息。7.根据权利要求5所述的图像传感器,其特征在于,所述第一逻辑电路层与所述复用像素单元的所述光电转换器件电性连接,用于在基于光强度变化的事件模式下根据所述电信号生成对应的动态视觉信息。8.根据权利要求1所述的图像传感器,其特征在于,所述第二逻辑电路层和所述第一逻辑电路层之间形成有电介质绝缘层。9.一种图像处理装置,其特征在于,包括处理器和如权利要求1至8任一项所述的图像传感器,所述图像传感器用于在基于帧率曝光模式下获取图像灰度信息,以及在基于光强度变化的事件模式下获取动态视觉信息,所述处理器用于根据所述图像灰度信息以及动态视觉信息得到动态视觉图像。10.一种智能终端,其特征在于,包括如权利要求9所述的图像处理装置。
技术总结
本申请提供了一种图像传感器、图像处理装置及智能终端,图像传感器包括图像传感器和第一逻辑电路层;图像传感器包括层叠设置的感光层和第二逻辑电路层,感光层包括多个排布成阵列的像素单元,至少一个像素单元为复用像素单元;第一逻辑电路层与复用像素单元电性连接,第一逻辑电路层和第二逻辑电路层层叠设置。本申请提供的图像传感器,通过复用图像传感器感光层的部分像素单元,将传统的图像传感器和第一逻辑电路层融合在一起,提升了感光面积的使用效率,并且第一逻辑电路层和图像传感器的第二逻辑电路层层叠设置,减少了逻辑电路的占用面积,提升了图像传感器的像素密度。提升了图像传感器的像素密度。提升了图像传感器的像素密度。
技术研发人员:陈玉龙
受保护的技术使用者:上海传英信息技术有限公司
技术研发日:2023.07.26
技术公布日:2023/9/23
技术领域:
:,具体涉及一种图像传感器、图像处理装置及智能终端。
背景技术:
::2.一些实现中的图像传感器包括互补金属氧化物半导体(cmos)图像传感器(cmosimagesensor,cis)和动态视觉传感器(dynamicvisionsensor,dvs)。cis主要对颜色信息进行感知,以固定帧率全局输出灰度值信息,dvs主要对光强的变化进行感知,通过模拟生物视网膜处理信息的机制,在外部光强信息发生变化时,输出动态的事件信息,当光强信息不变化时则没有输出。但是,仅有事件信息无法重构图像,许多应用场景可以通过仅处理亮度变化事件来解决,但有些应用场景还需要某种形式的静态输出。为了解决这个问题,同时输出动态和静态信息的图像传感器已经有了一些发展。3.一些实现中能够同时输出动态视觉信息与图像灰度信息的图像传感器如图1所示,该图像传感器包括相连接的有源像素传感器(activepixelsensor,aps)、dvs及晶体管mn5。光电二极管pd捕捉到的光电流一方面通过aps逻辑电路进行传统相机基于帧率模式的拍照,一方面通过dvs逻辑电路进行光强度变化的事件模式拍照。现有的apsdvs像素单元结构中,像素中心区域是光电二极管的感光层si材料,四周是逻辑电路结构。一些实现中像素单元的感光层和逻辑电路采用平面排布式结构,这种像素排列方式占据了芯片表面大量的空间,使单个像素的尺寸较传统cis中的像素尺寸大很多,apsdvs传感器的有效像素密度较低。4.前面的叙述在于提供一般的背景信息,并不一定构成现有技术。技术实现要素:5.针对上述技术问题,本技术提供一种图像传感器、图像处理装置及智能终端,可以将传统的cis和dvs融合在一起,提升了感光面积的使用效率,减少了逻辑电路的占用面积,提升了图像传感器的像素密度。6.本技术提供一种图像传感器,包括图像传感器和第一逻辑电路层;7.所述图像传感器包括层叠设置的感光层和第二逻辑电路层,所述感光层包括至少两个排布成阵列的像素单元,至少一个所述像素单元为复用像素单元;8.所述第一逻辑电路层与所述复用像素单元电性连接,所述第一逻辑电路层和所述第二逻辑电路层层叠设置。9.可选地,第一逻辑电路层为dvs逻辑电路层,第二逻辑电路层为cis逻辑电路层。10.可选地,所述复用像素单元包括第一复用子单元、第二复用子单元、第三复用子单元和第四复用子单元,用于接收互不相同的第一波段光信号、第二波段光信号、第三波段光信号、第四波段光信号,四种复用子单元的数量相等且以n行n列矩阵排布,n为大于或等于2的正整数。11.可选地,所述复用像素单元还包括第五复用子单元,用于接收第五波段光信号,所述第五波段光信号的波段与所述第一波段光信号、所述第二波段光信号、所述第三波段光信号、所述第四波段光信号的波段均不相等。12.可选地,所述第一波段光信号属于红光波段光信号;所述第二波段光信号属于蓝光波段光信号;所述第三波段光信号和所述第四波段光信号均属于绿光波段光信号,且所述第三波段光信号所属的绿光波段和所述第四波段光信号所属的绿光波段不同;所述第五波段属于可见光波段光信号。13.可选地,所述像素单元包括延光路层叠设置的滤光片和光电转换器件;14.所述滤光片用于阻挡除目标波段之外的其他波段光束进入所述光电转换器件;15.所述光电转换器件,用于根据所述目标波段光信号生成表征所述目标波段的光强度信息的电信号。16.可选地,所述第二逻辑电路层与所述像素单元的所述光电转换器件电性连接,用于在基于帧率曝光模式下根据所述电信号生成对应的图像灰度信息。17.可选地,所述第一逻辑电路层与所述复用像素单元的所述光电转换器件电性连接,用于在基于光强度变化的事件模式下根据所述电信号生成对应的动态视觉信息。18.可选地,所述第二逻辑电路层和所述第一逻辑电路层之间形成有电介质绝缘层。19.本技术还提供一种图像处理装置,包括处理器和如上所述的图像传感器,所述图像传感器用于在基于帧率曝光模式下获取图像灰度信息,以及在基于光强度变化的事件模式下获取动态视觉信息,所述处理器用于根据所述图像灰度信息以及动态视觉信息得到动态视觉图像。20.本技术还提供一种智能终端,包括如上所述的图像处理装置。21.如上所述,本技术提供的图像传感器,通过复用cmos图像传感器感光层的部分像素单元,提升了感光面积的使用效率,将复用像素单元与dvs逻辑电路层电性连接,从而将传统的cis和dvs融合在一起,使图像传感器既能在基于帧率曝光模式下获取图像灰度信息,又能在基于光强度变化的事件模式下获取动态视觉信息,并且dvs逻辑电路层和cis逻辑电路层层叠设置,减少了逻辑电路的占用面积,提升了图像传感器的像素密度。附图说明22.此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本技术的实施例,并与说明书一起用于解释本技术的原理。为了更清楚地说明本技术实施例的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,对于本领域普通技术人员而言,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。23.图1为常见aps和dvs融合的电路图;24.图2为实现本技术各个实施例的一种智能终端的硬件结构示意图;25.图3为本技术实施例提供的一种通信网络系统架构图;26.图4是根据第一实施例示出的复用像素单元的像素阵列示意图;27.图5a和图5b是根据第二实施例示出的复用像素单元的像素阵列示意图;28.图6是根据第三实施例示出的复用像素单元的像素阵列示意图;29.图7是本技术实施例提供的一种图像传感器的电路层级结构示意图;30.图8是本技术实施例提供的一种图像传感器的器件层级结构示意图。31.本技术目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。通过上述附图,已示出本技术明确的实施例,后文中将有更详细的描述。这些附图和文字描述并不是为了通过任何方式限制本技术构思的范围,而是通过参考特定实施例为本领域技术人员说明本技术的概念。具体实施方式32.这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本技术相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本技术的一些方面相一致的装置和方法的例子。33.需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素,此外,本技术不同实施例中具有同样命名的部件、特征、要素可能具有相同含义,也可能具有不同含义,其具体含义需以其在该具体实施例中的解释或者进一步结合该具体实施例中上下文进行确定。34.应当理解,尽管在本文可能采用术语第一、第二、第三等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本文范围的情况下,第一信息也可以被称为第二信息,类似地,第二信息也可以被称为第一信息。取决于语境,如在此所使用的词语"如果"可以被解释成为"在……时"或"当……时"或"响应于确定"。再者,如同在本文中所使用的,单数形式“一”、“一个”和“该”旨在也包括复数形式,除非上下文中有相反的指示。应当进一步理解,术语“包含”、“包括”表明存在所述的特征、步骤、操作、元件、组件、项目、种类、和/或组,但不排除一个或多个其他特征、步骤、操作、元件、组件、项目、种类、和/或组的存在、出现或添加。本技术使用的术语“或”、“和/或”、“包括以下至少一个”等可被解释为包括性的,或意味着任一个或任何组合。例如,“包括以下至少一个:a、b、c”意味着“以下任一个:a;b;c;a和b;a和c;b和c;a和b和c”,再如,“a、b或c”或者“a、b和/或c”意味着“以下任一个:a;b;c;a和b;a和c;b和c;a和b和c”。仅当元件、功能、步骤或操作的组合在某些方式下内在地互相排斥时,才会出现该定义的例外。35.应当理解,此处所描述的具体实施例仅仅用以解释本技术,并不用于限定本技术。36.在后续的描述中,使用用于表示元件的诸如“模块”、“部件”或者“单元”的后缀仅为了有利于本技术的说明,其本身没有特定的意义。因此,“模块”、“部件”或者“单元”可以混合地使用。37.智能终端可以以各种形式来实施。例如,本技术中描述的智能终端可以包括诸如手机、平板电脑、笔记本电脑、掌上电脑、个人数字助理(personaldigitalassistant,pda)、便捷式媒体播放器(portablemediaplayer,pmp)、导航装置、可穿戴设备、智能手环、计步器等智能终端,以及诸如数字tv、台式计算机等固定终端。38.请参阅图2,其为实现本技术各个实施例的一种移动终端的硬件结构示意图,该移动终端100可以包括:rf(radiofrequency,射频)单元101、wifi模块102、音频输出单元103、a/v(音频/视频)输入单元104、传感器105、显示单元106、用户输入单元107、接口单元108、存储器109、处理器110、以及电源111等部件。本领域技术人员可以理解,图1中示出的移动终端结构并不构成对移动终端的限定,移动终端可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。39.下面结合图2对移动终端的各个部件进行具体的介绍:40.射频单元101可用于收发信息或通话过程中,信号的接收和发送,具体的,将基站的下行信息接收后,给处理器110处理;另外,将上行的数据发送给基站。通常,射频单元101包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外,射频单元101还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议,包括但不限于gsm(globalsystemofmobilecommunication,全球移动通讯系统)、gprs(generalpacketradioservice,通用分组无线服务)、cdma2000(codedivisionmultipleaccess2000,码分多址2000)、wcdma(widebandcodedivisionmultipleaccess,宽带码分多址)、td-scdma(timedivision-synchronouscodedivisionmultipleaccess,时分同步码分多址)、fdd-lte(frequencydivisionduplexing-longtermevolution,频分双工长期演进)、tdd-lte(timedivisionduplexing-longtermevolution,分时双工长期演进)和5g等。41.wifi属于短距离无线传输技术,移动终端通过wifi模块102可以帮助用户收发电子邮件、浏览网页和访问流式媒体等,它为用户提供了无线的宽带互联网访问。虽然图1示出了wifi模块102,但是可以理解的是,其并不属于移动终端的必须构成,完全可以根据需要在不改变发明的本质的范围内而省略。42.音频输出单元103可以在移动终端100处于呼叫信号接收模式、通话模式、记录模式、语音识别模式、广播接收模式等等模式下时,将射频单元101或wifi模块102接收的或者在存储器109中存储的音频数据转换成音频信号并且输出为声音。而且,音频输出单元103还可以提供与移动终端100执行的特定功能相关的音频输出(例如,呼叫信号接收声音、消息接收声音等等)。音频输出单元103可以包括扬声器、蜂鸣器等等。43.a/v输入单元104用于接收音频或视频信号。a/v输入单元104可以包括图形处理器(graphicsprocessingunit,gpu)1041和麦克风1042,图形处理器1041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元106上。经图形处理器1041处理后的图像帧可以存储在存储器109(或其它存储介质)中或者经由射频单元101或wifi模块102进行发送。麦克风1042可以在电话通话模式、记录模式、语音识别模式等等运行模式中经由麦克风1042接收声音(音频数据),并且能够将这样的声音处理为音频数据。处理后的音频(语音)数据可以在电话通话模式的情况下转换为可经由射频单元101发送到移动通信基站的格式输出。麦克风1042可以实施各种类型的噪声消除(或抑制)算法以消除(或抑制)在接收和发送音频信号的过程中产生的噪声或者干扰。44.移动终端100还包括至少一种传感器105,比如光传感器、运动传感器以及其他传感器。可选地,光传感器包括环境光传感器及接近传感器,可选地,环境光传感器可根据环境光线的明暗来调节显示面板1061的亮度,接近传感器可在移动终端100移动到耳边时,关闭显示面板1061和/或背光。作为运动传感器的一种,加速计传感器可检测各个方向上(一般为三轴)加速度的大小,静止时可检测出重力的大小及方向,可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等;至于手机还可配置的指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器,在此不再赘述。45.显示单元106用于显示由用户输入的信息或提供给用户的信息。显示单元106可包括显示面板1061,可以采用液晶显示器(liquidcrystaldisplay,lcd)、有机发光二极管(organiclight-emittingdiode,oled)等形式来配置显示面板1061。46.用户输入单元107可用于接收输入的数字或字符信息,以及产生与移动终端的用户设置以及功能控制有关的键信号输入。可选地,用户输入单元107可包括触控面板1071以及其他输入设备1072。触控面板1071,也称为触摸屏,可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板1071上或在触控面板1071附近的操作),并根据预先设定的程式驱动相应的连接装置。触控面板1071可包括触摸检测装置和触摸控制器两个部分。可选地,触摸检测装置检测用户的触摸方位,并检测触摸操作带来的信号,将信号传送给触摸控制器;触摸控制器从触摸检测装置上接收触摸信息,并将它转换成触点坐标,再送给处理器110,并能接收处理器110发来的命令并加以执行。此外,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板1071。除了触控面板1071,用户输入单元107还可以包括其他输入设备1072。可选地,其他输入设备1072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种,具体此处不做限定。47.可选地,触控面板1071可覆盖显示面板1061,当触控面板1071检测到在其上或附近的触摸操作后,传送给处理器110以确定触摸事件的类型,随后处理器110根据触摸事件的类型在显示面板1061上提供相应的视觉输出。虽然在图1中,触控面板1071与显示面板1061是作为两个独立的部件来实现移动终端的输入和输出功能,但是在某些实施例中,可以将触控面板1071与显示面板1061集成而实现移动终端的输入和输出功能,具体此处不做限定。48.接口单元108用作至少一个外部装置与移动终端100连接可以通过的接口。例如,外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(i/o)端口、视频i/o端口、耳机端口等等。接口单元108可以用于接收来自外部装置的输入(例如,数据信息、电力等等)并且将接收到的输入传输到移动终端100内的一个或多个元件或者可以用于在移动终端100和外部装置之间传输数据。49.存储器109可用于存储软件程序以及各种数据。存储器109可主要包括存储程序区和存储数据区,可选地,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外,存储器109可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。50.处理器110是移动终端的控制中心,利用各种接口和线路连接整个移动终端的各个部分,通过运行或执行存储在存储器109内的软件程序和/或模块,以及调用存储在存储器109内的数据,执行移动终端的各种功能和处理数据,从而对移动终端进行整体监控。处理器110可包括一个或多个处理单元;优选的,处理器110可集成应用处理器和调制解调处理器,可选地,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器110中。51.移动终端100还可以包括给各个部件供电的电源111(比如电池),优选的,电源111可以通过电源管理系统与处理器110逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。52.尽管图2未示出,移动终端100还可以包括蓝牙模块等,在此不再赘述。53.为了便于理解本技术实施例,下面对本技术的移动终端所基于的通信网络系统进行描述。54.请参阅图3,图3为本技术实施例提供的一种通信网络系统架构图,该通信网络系统为通用移动通信技术的lte系统,该lte系统包括依次通讯连接的ue(userequipment,用户设备)201,e-utran(evolvedumtsterrestrialradioaccessnetwork,演进式umts陆地无线接入网)202,epc(evolvedpacketcore,演进式分组核心网)203和运营商的ip业务204。55.可选地,ue201可以是上述终端100,此处不再赘述。56.e-utran202包括enodeb2021和其它enodeb2022等。可选地,enodeb2021可以通过回程(backhaul)(例如x2接口)与其它enodeb2022连接,enodeb2021连接到epc203,enodeb2021可以提供ue201到epc203的接入。57.epc203可以包括mme(mobilitymanagemententity,移动性管理实体)2031,hss(homesubscriberserver,归属用户服务器)2032,其它mme2033,sgw(servinggateway,服务网关)2034,pgw(pdngateway,分组数据网络网关)2035和pcrf(policyandchargingrulesfunction,政策和资费功能实体)2036等。可选地,mme2031是处理ue201和epc203之间信令的控制节点,提供承载和连接管理。hss2032用于提供一些寄存器来管理诸如归属位置寄存器(图中未示)之类的功能,并且保存有一些有关服务特征、数据速率等用户专用的信息。所有用户数据都可以通过sgw2034进行发送,pgw2035可以提供ue201的ip地址分配以及其它功能,pcrf2036是业务数据流和ip承载资源的策略与计费控制策略决策点,它为策略与计费执行功能单元(图中未示)选择及提供可用的策略和计费控制决策。58.ip业务204可以包括因特网、内联网、ims(ipmultimediasubsystem,ip多媒体子系统)或其它ip业务等。59.虽然上述以lte系统为例进行了介绍,但本领域技术人员应当知晓,本技术不仅仅适用于lte系统,也可以适用于其他无线通信系统,例如gsm、cdma2000、wcdma、td-scdma、5g以及未来新的网络系统(如6g)等,此处不做限定。60.基于上述移动终端硬件结构以及通信网络系统,提出本技术各个实施例。61.本技术提供的图像传感器,通过复用cmos图像传感器感光层的部分像素单元,将复用像素单元与dvs逻辑电路层电性连接,从而将传统的cis和dvs融合在一起,使图像传感器既能在基于帧率曝光模式下获取图像灰度信息,又能在基于光强度变化的事件模式下获取动态视觉信息。62.第一实施例63.本技术实施例中的复用像素单元包括第一复用子单元、第二复用子单元、第三复用子单元和第四复用子单元,用于接收互不相同的第一波段光信号、第二波段光信号、第三波段光信号、第四波段光信号,四种复用子单元的数量相等且以n行n列矩阵排布,n为大于或等于2的正整数。64.请参照图4,图4是根据第一实施例示出的复用像素单元的像素阵列示意图,在如图4所示的一种基于gr-r-b-gb排布的cis像素阵列中,分别将同一行或同一列相邻两个像素的临界位置的子像素做为复用像素单元的复用子单元。在该cis像素阵列中,复用子单元以两行两列矩阵排布,形成四合一的结构。复用像素单元的第一复用子单元所接收的第一波段光信号为红光波段光信号,第二复用子单元所接收的第二波段光信号为第一绿光波段光信号,第三复用子单元所接收的第三波段光信号为第二绿光波段光信号,第一绿光波段光信号的所属波段与第二绿光波段光信号所属波段不同,第四复用子单元所接收的第四波段光信号为蓝光波段光信号。其中,第一复用子单元和第四复用子单元在矩阵中呈对角线排布,第二复用子单元和第三复用子单元排布在另一条对角线上。65.第二实施例66.请参照图5a和图5b,图5a和图5b是根据第二实施例示出的复用像素单元的像素阵列示意图,在传统的四合一(4r-4gr-4gb-4b)的bayer像素模式的cis像素阵列中,分别将每个像素中的独立像素的临界位置的子像素做为复用像素单元的复用子单元。在该cis像素阵列中,复用子单元可以以两行两列矩阵排布形成四合一的结构,也可以以四行四列矩阵排布形成十六合一的结构。其中复用像素单元的第一复用子单元所接收的第一波段光信号为红光波段光信号,第二复用子单元所接收的第二波段光信号为第一绿光波段光信号,第三复用子单元所接收的第三波段光信号为第二绿光波段光信号,第一绿光波段光信号的所属波段与第二绿光波段光信号所属波段不同,第四复用子单元所接收的第四波段光信号为蓝光波段光信号。67.如图5a所示,在复用子单元以两行两列矩阵排布的结构中,第一复用子单元和第四复用子单元在矩阵中呈对角线排布,第二复用子单元和第三复用子单元排布在另一条对角线上。68.如图5b所示,在复用子单元以四行四列矩阵排布的结构中,第一复用子单元、第二复用子单元、第三复用子单元和第四复用子单元的数量均为四个,且分别呈两行两列矩阵排布,第一复用子单元矩阵和第四复用子单元矩阵在四行四列的复用像素单元矩阵中呈对角线排布,第二复用子单元和第三复用子单元排布在四行四列的复用像素单元矩阵中的另一条对角线上。69.第三实施例70.本技术实施例中的复用像素单元还包括第五复用子单元,用于接收第五波段光信号,第五波段光信号的波段与第一波段光信号、第二波段光信号、第三波段光信号、第四波段光信号的波段均不相等。71.请参照图6,图6是根据第三实施例示出的复用像素单元的像素阵列示意图,在如图6所示的一种基于rgbw像素结构的cis像素阵列中,分别将每个像素中相邻的九个子像素做为复用像素单元的复用子单元,其中构成复用像素单元301的相邻九个子像素需包含一个红色子像素(r),一个第一绿色子像素(gr),一个第二绿色子像素(gb)和一个蓝色子像素(b)。在该cis像素阵列中,复用子单元以三行三列矩阵排布,形成九合一的结构。复用像素单元301的第一复用子单元所接收的第一波段光信号为红光波段光信号,第二复用子单元所接收的第二波段光信号为第一绿光波段光信号,第三复用子单元所接收的第三波段光信号为第二绿光波段光信号,第一绿光波段光信号的所属波段与第二绿光波段光信号所属波段不同,第四复用子单元所接收的第四波段光信号为蓝光波段光信号,第五复用子单元所接收的第五波段光信号为可见光波段光信号。其中,第一复用子单元排布在第一行的中间位置,第二复用子单元排布在第三列的中间位置,第三复用子单元以及排布在第三行的中间位置,第四复用子单元排布在第一列的中间位置,第五复用子单元排布在三行三列矩阵中的四个顶点和中心位置。72.应当理解,此处所描述的具体实施例仅仅用以解释本技术,并不用于限定本技术。本技术通过复用cmos图像传感器感光层的部分像素单元,以形成dvs像素单元,从而使dvs和cis具有相同的像素模式,使相机在不同的工作模式下的算法能够兼容,并且dvs和cis共用部分像素单元,就不需要再分用光电转换器件,从而提升了感光面积的使用效率,节省了芯片表面大量的空间,进而提升了图像传感器的像素密度。73.请参照图7和图8,图7是本技术实施例提供的一种图像传感器的电路层级结构示意图,图8是本技术实施例提供的一种图像传感器的器件层级结构示意图。本技术提供的图像传感器,包括cmos图像传感器和dvs逻辑电路层440;其中cmos图像传感器包括层叠设置的感光层410和cis逻辑电路层420,感光层410包括至少两个排布成阵列的像素单元,其中有至少一个像素单元为复用像素单元;dvs逻辑电路层440与复用像素单元电性连接,dvs逻辑电路层440和cis逻辑电路层420层叠设置。74.具体地,像素单元包括延光路层叠设置的滤光片411和光电转换器件412;滤光片411用于阻挡除目标波段之外的其他波段光束进入光电转换器件412;光电转换器件412,用于根据目标波段光信号生成表征所述目标波段的光强度信息的电信号。例如红色滤光片仅允许属于红光波段的光束通过,进入红色像素单元对应的光电转换器件中,如光电二极管,进而通过相应的光电转换器件生成表征红色波段的光强度信息的电信号,即光电流。75.具体地,cis逻辑电路层420与像素单元的光电转换器件412电性连接,用于在基于帧率曝光模式下根据所述电信号生成对应的图像灰度信息。其中,cis逻辑电路层420包括传输门,复位器以及源极跟随器,传输门用于将所述光电转换器件,即光电二极管产生的光电荷传输至到浮置扩散节点,复位器用于将所述浮置扩散节点的电压复位,源极跟随器用于生成与所述浮置扩散节点电荷对应的输出电压,以基于所述输出电压生成对应的图像灰度信息。76.具体地,dvs逻辑电路层440与复用像素单元的所述光电转换器件412电性连接,用于在基于光强度变化的事件模式下根据所述电信号生成对应的动态视觉信息。如图7所示,dvs逻辑电路层440通过金属线与复用像素单元的光电转换器件412电性连接以形成dvs传感单元,dvs传感单元在用于基于光强度变化的事件模式的拍照时,dvs逻辑电路层440通过金属线从复用子单元接收到表征光强度信息的电信号,以生成动态视觉信息。其中,dvs逻辑电路层440包括运算器,差分器以及比较器,运算器用于基于所述浮置扩散节点电荷生成对数电压,差分器用于对生成的对数电压进行放大,比较器用于将经过放大的对数电压与比较电压进行比较,基于将所述经过放大的对数电压与比较电压进行比较的结果来确定光强度的变化,并基于所述光强度的变化生成动态视觉信息。77.具体地,cis逻辑电路层420和dvs逻辑电路层440之间形成有电介质绝缘层430。通过在dvs逻辑电路层440和cis逻辑电路层420中间的金属线之间进行原子层沉积,如ald原子层,形成栅介质薄膜,如al2o3或hfo2薄膜,以作为电介质绝缘层430,进行dvs逻辑电路层440和cis逻辑电路层420电信号的屏蔽,以保护电路,防止dvs逻辑电路层440和cis逻辑电路层420间存在放电串扰。78.需要说明的是,cis感光层的像素单元中的另一部分未被dvs复用的非复用像素单元,仅用于在基于帧率曝光拍照模式下获取图像灰度信息,而复用像素单元在基于帧率曝光模式下,各个复用子单元是独立进行工作的,如图7所示,各个复用子单元通过行/列控制线连接,用于获取所需的图像灰度信息;在基于光强度变化的事件模式下,dvs逻辑电路层440控制复用子单元融合成一个个单独的dvs像素单元,根据从复用子单元对应的光电转换器件412获取的电信号生成动态视觉信息所需的光强度信息。79.本技术提供的图像传感器,通过dvs逻辑电路层控制复用子单元融合成dvs像素单元,使dvs和cis共用部分像素单元,不需要再分用光电转换器件,保证了感光面积的使用效率;同时通过芯片堆栈的工艺,将传感器电路层放置于感光层的下方,最大程度地减少了电路逻辑占用的面积,就可以在相同芯片面积上集成更多的晶体管,实现更大的像素密度。80.本技术实施例还提供一种图像处理装置,包括处理器和如上所述的图像传感器。图像传感器用于在基于帧率曝光模式下,通过cis逻辑电路层获取图像灰度信息,并在基于光强度变化的事件模式下,通过dvs逻辑电路层获取动态视觉信息,处理器用于根据所述图像灰度信息以及动态视觉信息进行算法处理,使场景复现,得到动态视觉图像。81.本技术实施例还提供一种智能终端,包括如上所述的图像处理装置。82.上述本技术实施例序号仅仅为了描述,不代表实施例的优劣。83.本技术实施例器件中的电路模块可以根据实际需要进行合并、划分和删减。84.在本技术中,对于相同或相似的术语概念、技术方案和/或应用场景描述,一般只在第一次出现时进行详细描述,后面再重复出现时,为了简洁,一般未再重复阐述,在理解本技术技术方案等内容时,对于在后未详细描述的相同或相似的术语概念、技术方案和/或应用场景描述等,可以参考其之前的相关详细描述。85.在本技术中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。86.本技术技术方案的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本技术记载的范围。87.在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行计算机程序指令时,全部或部分地产生按照本技术实施例的流程或功能。计算机可以是通用计算机、专用计算机、计算机网络,或者其他可编程装置。计算机指令可以存储在计算机可读存储介质存储介质中,或者从一个计算机可读存储介质存储介质向另一个计算机可读存储介质存储介质传输,例如,计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线)或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。计算机可读存储介质存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。可用介质可以是磁性介质,(例如,软盘、存储盘、磁带)、光介质(例如,dvd),或者半导体介质(例如固态存储盘solidstatedisk(ssd))等。88.以上仅为本技术的优选实施例,并非因此限制本技术的专利范围,凡是利用本技术说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的
技术领域:
:,均同理包括在本技术的专利保护范围内。当前第1页12当前第1页12
技术特征:
1.一种图像传感器,其特征在于,包括图像传感器和第一逻辑电路层;所述图像传感器包括层叠设置的感光层和第二逻辑电路层,所述感光层包括至少两个排布成阵列的像素单元,至少一个所述像素单元为复用像素单元;所述第一逻辑电路层与所述复用像素单元电性连接,所述第一逻辑电路层和所述第二逻辑电路层层叠设置。2.根据权利要求1所述的图像传感器,其特征在于,所述复用像素单元包括第一复用子单元、第二复用子单元、第三复用子单元和第四复用子单元,用于接收互不相同的第一波段光信号、第二波段光信号、第三波段光信号、第四波段光信号,四种复用子单元的数量相等且以n行n列矩阵排布,n为大于或等于2的正整数。3.根据权利要求2所述的图像传感器,其特征在于,所述复用像素单元还包括第五复用子单元,用于接收第五波段光信号,所述第五波段光信号的波段与所述第一波段光信号、所述第二波段光信号、所述第三波段光信号、所述第四波段光信号的波段均不相等。4.根据权利要求2或3所述的图像传感器,其特征在于,包括以下至少一项:所述第一波段光信号属于红光波段光信号;所述第二波段光信号属于蓝光波段光信号;所述第三波段光信号和所述第四波段光信号均属于绿光波段光信号,且所述第三波段光信号所属的绿光波段和所述第四波段光信号所属的绿光波段不同;所述第五波段属于可见光波段光信号。5.根据权利要求2或3所述的图像传感器,其特征在于,所述像素单元包括延光路层叠设置的滤光片和光电转换器件;所述滤光片用于阻挡除目标波段之外的其他波段光束进入所述光电转换器件;所述光电转换器件,用于根据所述目标波段光信号生成表征所述目标波段的光强度信息的电信号。6.根据权利要求5所述的图像传感器,其特征在于,所述第二逻辑电路层与所述像素单元的所述光电转换器件电性连接,用于在基于帧率曝光模式下根据所述电信号生成对应的图像灰度信息。7.根据权利要求5所述的图像传感器,其特征在于,所述第一逻辑电路层与所述复用像素单元的所述光电转换器件电性连接,用于在基于光强度变化的事件模式下根据所述电信号生成对应的动态视觉信息。8.根据权利要求1所述的图像传感器,其特征在于,所述第二逻辑电路层和所述第一逻辑电路层之间形成有电介质绝缘层。9.一种图像处理装置,其特征在于,包括处理器和如权利要求1至8任一项所述的图像传感器,所述图像传感器用于在基于帧率曝光模式下获取图像灰度信息,以及在基于光强度变化的事件模式下获取动态视觉信息,所述处理器用于根据所述图像灰度信息以及动态视觉信息得到动态视觉图像。10.一种智能终端,其特征在于,包括如权利要求9所述的图像处理装置。
技术总结
本申请提供了一种图像传感器、图像处理装置及智能终端,图像传感器包括图像传感器和第一逻辑电路层;图像传感器包括层叠设置的感光层和第二逻辑电路层,感光层包括多个排布成阵列的像素单元,至少一个像素单元为复用像素单元;第一逻辑电路层与复用像素单元电性连接,第一逻辑电路层和第二逻辑电路层层叠设置。本申请提供的图像传感器,通过复用图像传感器感光层的部分像素单元,将传统的图像传感器和第一逻辑电路层融合在一起,提升了感光面积的使用效率,并且第一逻辑电路层和图像传感器的第二逻辑电路层层叠设置,减少了逻辑电路的占用面积,提升了图像传感器的像素密度。提升了图像传感器的像素密度。提升了图像传感器的像素密度。
技术研发人员:陈玉龙
受保护的技术使用者:上海传英信息技术有限公司
技术研发日:2023.07.26
技术公布日:2023/9/23
版权声明
本文仅代表作者观点,不代表航家之家立场。
本文系作者授权航家号发表,未经原创作者书面授权,任何单位或个人不得引用、复制、转载、摘编、链接或以其他任何方式复制发表。任何单位或个人在获得书面授权使用航空之家内容时,须注明作者及来源 “航空之家”。如非法使用航空之家的部分或全部内容的,航空之家将依法追究其法律责任。(航空之家官方QQ:2926969996)
航空之家 https://www.aerohome.com.cn/
航空商城 https://mall.aerohome.com.cn/
航空资讯 https://news.aerohome.com.cn/