基础医学与临床
    主页 > 期刊导读 >

一种基于通用软硬件的医学立体多媒体直播和录

引言:人类具有双眼双耳以及大脑处理后形成的立体视觉和听觉,极大帮助了人类认识和改造世界。基础医学教学领域虽然越来越多利用多媒体以及虚拟仿真技术等辅助手段,完成一些更适合的内容,但绝大部分多媒体,尤其是视觉部分,并不是立体的,给某些需要学生得到视觉深度信息的学习留下不少遗憾。在当下媒体及虚拟仿真技术发展迅猛的新时代,发达国家基础医学教学中已经广泛采用了立体影像技术,我们也很有必要与时俱进,研发并使用一些最新的多媒体技术手段提升基础医学教学品质。

本文就介绍一套基于市场上性价比极高的计算机和摄录制播通用软硬件,构建的一套立体视音频以及VR/AR/MR内容创建系统,用于基础医学在线流媒体直播或更高品质录播教学,提高教学效果。本系统绝大部分采用了免费自由开源操作系统和应用软件,制作流程上也有非常多的原创性,从一年多的应用来看,达到了世界先进水平。

1 系统功能目标

1)实拍样本及操作的立体影像;2)实拍教师讲解的影像和声音;

3)利用色键抠像处理后的多角度高画质实拍照片上传云端智能自动化处理,得到人类或其他生物器官标本三维建模,并在本系统实时生成可用各种输入装置操作互动的立体影像;

4)实拍或者计算机生成的三维立体影像与实拍场景或者本系统计算机生成的虚拟场景进行合成,创建虚拟现实VR、增强现实AR和混合现实MR内容。

5)以上实拍和计算机生成的内容可以利用本系统实现流媒体直播或后期制作为更精致的课件。

2 系统外观

3 硬件

3.1实拍音视频采集部分

(1)带麦克风的USB高质量摄像头。摄像头可以说是本项目的核心部件之一,加上实拍立体影像的特殊要求,选型非常重要。

用于常规内容拍摄的传统立体摄像系统并不适合,因为它们的尺寸太大,瞳距通常最小也是60mm左右,模拟的是正常人类观察日常世界。而立体拍摄小型动物、小型植物以及人体器官解剖属于比较微观场景的微距摄影,难点在于合适的摄像头组件应尽可能小,才能组成瞳距足够小的立体摄像头对,满足我们的拍摄需求。

对于立体拍摄而言,选用的摄像头要具备良好的微距成像能力,景深宜深不宜浅,可采用软件锁定聚焦、白平衡、曝光量等光学和视频参数,防止固定距离定焦拍摄时各种自动参数造成的误动作。

另外,此类摄像头最好带有高品质的麦克风,采用USB2.0或3.0接口连接计算机,不需要额外采购视音频采集卡,大大降低系统总造价和使用安装难度。

市场上符合我们这些特殊需求,且性价比高的摄像头并不多见,到发稿时止,只有极少数几款。

本项目入门级可选微软(Microsoft)LifeCam Studio梦剧场精英版USB摄像头。

进阶级可选4KUSB摄像头,但目前市场上没有合适的外形和尺寸组微距拍摄立体对。

本系统选用了三只同款摄像头,一只用来摄录主讲教师,另外两只用来组成立体拍摄对。所选摄像头采用定焦镜头,为了看清被摄物体细节,拍摄距离最近可以凑近物体10厘米左右,我们选用的这款微软全高清摄像头,最小间距可以减小到人眼间距的2/3左右,所以,拍摄平均20厘米远的物体最终立体成像效果约等于人眼观察30厘米远的物体,观众还不至于太难受。如果还想进一步缩小拍摄距离,还要在市场上寻找体积更小方便组建更小左右视差间距,但摄像头太小,一般光学和传感器性能也会减弱,这是有些矛盾的。

(2)摄像头及被拍摄物体承载。这套系统摄录的另一个难点在于画面的稳定性。因为属于微距拍摄,被摄物体和摄像头之间不需要的抖动越小越好,否则会很明显,造成观看者不适,甚至头晕呕吐。为此,我们选用了价廉物美对环境震动有一定阻尼能力的悬臂麦克风减震支架安装摄像头组件;一些被摄物体的相对运动则可以依靠现有的慢速电动转盘、电动滑轨、电动升降台等得到,这类设备既可以在市场上购买合适的现成产品,又可以在教学中根据需要自己开发研制。当然,有些操作用教师双手进行也是必须和自然的,后期可视情况用防抖插件减少不需要的抖动。

(3)立体高像素拍摄手机。具有双摄像头立体视音频及图片拍摄,甚至带有裸眼3D显示屏的手机曾经在市场上昙花一现,可惜对医学教学用途来说,这类早期产品像素太低不具备实用价值。最近的趋势是厂商重新考虑用双镜头立体相机实现景深计算和AR应用,或许未来也会重新出现高像素高画质的立体拍摄功能甚至有附带自动校正的APP。一旦手机能作为本系统的素材采集设备,必然大大降低操作难度、提高普及性。