有趣的静态模型动态化是如何实现的?
华为3D建模服务(3D Modeling Kit)的动作捕捉能力,利用人体检测技术以及模型加速与压缩技术、基于深度学习的单目姿态估计算法,仅需要普通手机的RGB摄像头,就可以捕获人体24个骨骼关键点三维信息,轻松实现静态模型动态化,让我们的模型更加生动鲜活。
想要实现此功能也很简单,一起看下集成步骤吧!
应用场景该服务广泛应用于3D内容制作领域,特别是游戏、影视、医疗等行业。例如,UGC游戏中角色的驱动及动画视频制作,虚拟主播的实时驱动,医疗行业的康复指导等。
集成代码 1 开发准备详细准备步骤可参考华为开发者联盟官网:
配置AppGallery Connect-开发准备-Android-3D建模服务 (huawei.com)
2 编辑工程集成在开始API开发工作之前,您需要先3.3.1 配置AppGallery Connect,同时请确保您的工程中已经配置HMS Core SDK的Maven仓地址,并且完成了本服务的3.3.2 集成HMS Core SDK。
2.1创建动作捕捉引擎。 // 自定义参数配置。 Modeling3dMotionCaptureEngineSetting setting = new Modeling3dMotionCaptureEngineSetting.Factory() // 设置检测模式。 // Modeling3dMotionCaptureEngineSetting.TYPE_3DSKELETON_QUATERNION:输出人体姿态对应的骨骼点四元数。 // Modeling3dMotionCaptureEngineSetting.TYPE_3DSKELETON:输出人体姿态对应的骨骼点坐标。 .setAnalyzeType(Modeling3dMotionCaptureEngineSetting.TYPE_3DSKELETON_QUATERNION | Modeling3dMotionCaptureEngineSetting.TYPE_3DSKELETON) .create(); Modeling3dMotionCaptureEngine engine = Modeling3dMotionCaptureEngineFactory.getInstance().getMotionCaptureEngine(setting);Modeling3dFrame封装了源自相机的视频帧或静态图片数据,以及相关的数据处理逻辑。
您可以自行处理视频流,将视频帧转换为Modeling3dFrame对象,用于检测视频帧,支持NV21格式。
通过android.graphics.Bitmap创建Modeling3dFrame对象,用于动作捕捉引擎检测图片,支持的图片格式包括:JPG/JPEG/PNG。
// 通过bitmap创建Modeling3dFrame。 Modeling3dFrame frame = Modeling3dFrame.fromBitmap(bitmap); // 通过视频帧创建Modeling3dFrame。 Modeling3dFrame.Property property = new Modeling3dFrame.Property.Creator().setFormatType(ImageFormat.NV21) // 设置视频帧宽度。 .setWidth(width) // 设置视频帧高度。 .setHeight(height) // 设置视频帧旋转角度。 .setQuadrant(quadant) // 设置视频帧序号。 .setItemIdentity(framIndex) .create(); Modeling3dFrame frame = Modeling3dFrame.fromByteBuffer(byteBuffer, property); 2.2调用同步或异步方法进行动作捕捉检测。asyncAnalyseFrame异步方法示例代码:
Task<List<Modeling3dMotionCaptureSkeleton>> task = engine.asyncAnalyseFrame(frame); task.addOnSuccessListener(new OnSuccessListener<List<Modeling3dMotionCaptureSkeleton>>() { @Override public void onSuccess(List<Modeling3dMotionCaptureSkeleton> results) { // 检测成功。 } }).addOnFailureListener(new OnFailureListener() { @Override public void onFailure(Exception e) { // 检测失败。 } });analyseFrame同步方法示例代码:
SparseArray<Modeling3dMotionCaptureSkeleton> sparseArray = engine.analyseFrame(frame); for (int i = 0; i < sparseArray.size(); i++) { // 检测结果处理。 }; 2.3检测完成,停止引擎,释放检测资源。 try { if (engine != null) { engine.stop(); } } catch (IOException e) { // 异常处理。 }Demo演示
集成开发过程中,您有任何问题都可以,将有专人为您解答。