1). 简介

　　Gstreamer多媒体开发框架是当前嵌入式Linux设备最为常用的多媒体应用处理平台，关于Gstreamer开发框架的介绍请参考我们过往发表的其他相关文章，这里不再赘述而是直接展示使用C语言基于Gstreamer进行摄像头处理的示例程序开发。

　　本文所演示的平台来自于Toradex Aaplis iMX6D嵌入式平台，这个平台是基于NXP iMX6系列ARM处理器，支持双核心Cortex-A9。

　　2). 准备

　　a). ApalisiMX6D ARM核心版配合ApalisIxora载板，连接调试串口到开发主机，具体操作方法可以参考这里。

　　b). Apalis iMX6D操作系统使用Toradex LinuxRelease V2.7b2，下载和更新方法请参考这里。

　　c). 连接一个USB Camera到Ixora载板X8靠上的USB接口，这里使用Logitech 720P摄像头。

　　3). 配置Ubuntu开发主机

　　a). 安装Toradex提供的交叉编译SDK，可以基于OpenEmbedded环境自行编译，也可以从这里下载我们已经编译好的进行测试使用，下载后执行下面命令进行安装，并根据提示设置安装目录。

　　--------------------

　　$ ./angstrom-glibc-x86_64-armv7at2hf-neon-v2016.12-toolchain.sh-S

　　--------------------

　　b). 本文使用Eclipse IDE进行开发，请参考这里的文章说明在Eclipse配置基本的SDK交叉编译相关设置。

　　c). 启动Eclipse并创建Gstreamer新项目

　　./ 在启动Eclipse之前，首先打开Terminal并执行下面命令配置SDK，配置在Terminal关闭时候失效，下次使用要重新配置。

　　--------------------

　　$ source SDK Path/environment-setup-armv7at2hf-vfp-neon-angstrom-linux-gnueabi

　　--------------------

　　./ 然后在同一Terminal下启动Eclipse IDE

　　./ 创建新的Cross GCC项目，这里为gstest

　　d). 设置Gstreamer编译选项

　　./gstest –> Properties-> C/C++ Build -> Settings –> Tool Settings -> Cross GCC Compiler-> Miscellaneous -> Other flags 添加下面内容

　　--------------------

　　`pkg-config --cflags gstreamer-1.0` -fPIC

　　--------------------

　　./ ./gstest –> Properties -> C/C++Build -> Settings –> Tool Settings -> Cross GCC Linker ->Miscellaneous -> Linker flags添加下面内容

　　--------------------

　　`pkg-config --libs gstreamer-1.0 gobject-2.0 glib-2.0`

　　--------------------

　　4). C程序开发示例

　　a). 本文演示C程序main程序中主要实现三种Gstreamer应用示例，第一种是捕获USB摄像头输入图像并显示在桌面上，第二种是捕获USB摄像头输入图像并进行H.264编码后保存为MKV视频文件，第三种是读取上面第二种保存的视频文件并播放显示在桌面上面。

　　b). 程序完整代码如下，分别说明如下：

　　https://github.com/simonqin09/gstest/blob/master/gstest.c

　　./ Main函数首先创建所需要使用的Elements和bus等，然后初始化gstreamer并创建main loop。

　　./ 然后通过程序输入参数做三个选项，分别对应上面提到的三个子应用。

　　./ 应用1 - 捕获USB摄像头输入图像并显示在桌面

　　// 首先在iMX6上面可以通过命令行先测试好要使用的pipeline，如下：

　　--------------------

　　$ gst-launch-1.0 imxv4l2src device=/dev/video3 ! 'video/x-raw,width=1280, height=720, format=(string)YUY2' ! videoconvert ! imxv4l2sink overlay-width=640 overlay-height=480

　　--------------------

　　// 然后按照上面测试的pipeline在程序中先创建pipeline，然后再分别调用”gst_element_factory_make”函数匹配实际使用的elements，最后创建pipeline message bus和monitor。

　　// 然后调用”gst_bin_add_many”函数将刚才生成的elements添加到pipeline中。

　　// 最后调用”gst_element_link_many”函数顺序链接各个elements

　　./ 应用2 - 捕获USB摄像头输入图像并进行H.264编码后保存为MKV视频文件

　　// 首先同样在iMX6上面通过命令行先测试好要使用的pipeline，如下：

　　--------------------

　　$ gst-launch-1.0 imxv4l2src device=/dev/video3 ! 'video/x-raw,width=1280, height=720, format=(string)YUY2' ! videoconvert ! vpuenc_h264 ! matroskamux ! filesink location=output.mkv

　　--------------------

　　// 后面的程序和上面应用1是类似的方法配置

　　./ 应用3 - 读取上面第二种保存的视频文件并播放显示在桌面

　　// 首先同样在iMX6上面通过命令行先测试好要使用的pipeline，如下：

　　--------------------

　　gst-launch-1.0 filesrc location=output.mkv typefind=true ! matroskademux ! vpudec ! imxv4l2sink overlay-width=640overlay-height=480

　　--------------------

　　// 后面的程序基本上和上面应用1是类似的方法配置，只是有一个元件需要注意，就是”matroskademux”，通过”gst-inspect”查看可以得知其sink pad是根据src数据情况动态产生的，这样导致在上面测试piepeline的时候没有问题，但是做C程序开发的时候就需要我们来处理这个事件，因此我们添加了”on_pad_added”函数，并在main函数中调用”g_signal_connect”函数来动态链接pipeline中的demux元件和decoder元件。

　　./ main函数最后通过”gst_element_set_state”函数play pipeline，并通过” g_main_loop_run”函数开始循环。

　　c). 测试上述c程序代码运行请见如下：

　　./ 应用1：

　　--------------------------------

　　root@apalis-imx6:~# ./gstest 1 /dev/video3

　　[ 3689.676941] ERROR: v4l2 capture: slave not found! V4L2_CID_HUE

　　[ 3689.682806] ERROR: v4l2 capture: slave not found! V4L2_CID_HUE

　　[ 3689.688697] ERROR: v4l2 capture: slave not found! V4L2_CID_HUE

　　====== IMXV4L2SRC: 4.1.4 build on Apr 102017 02:13:12. ======

　　====== IMXV4L2SINK: 4.1.4 build on Apr 102017 02:13:12. ======

　　display(/dev/fb0) resolution is (1920x1080).

　　Running

　　v4l2sink need allocate 3 buffers.

　　--------------------------------

　　显示如下：

　　./ 应用2：

　　--------------------------------

　　root@apalis-imx6:~# ./gstest 2 /dev/video3 output.mkv

　　[ 9096.456753] ERROR: v4l2 capture: slave not found! V4L2_CID_HUE

　　[ 9096.462704] ERROR: v4l2 capture: slave not found! V4L2_CID_HUE

　　[ 9096.468553] ERROR: v4l2 capture: slave not found! V4L2_CID_HUE

　　====== IMXV4L2SRC: 4.1.4 build on Apr 102017 02:13:12. ======

　　[INFO]  Product Info: i.MX6Q/D/S

　　====== VPUENC: 4.1.4 build on Apr 10 201702:13:17. ======

　　wrapper: 1.0.68 (VPUWRAPPER_ARM_LINUX Build on Apr  4 2017 17:47:13)

　　vpulib: 5.4.35

　　firmware: 3.1.1.46072

　　Running

　　[INFO]  ringBufferEnable 0, chromaInterleave 1, mapType 0, linear2TiledEnable 0

　　--------------------------------

　　查看生成文件如下：

　　./ 应用3：

　　--------------------------------

　　root@apalis-imx6:~# ./gstest 3 output.mkv

　　[INFO]  Product Info: i.MX6Q/D/S

　　====== IMXV4L2SINK: 4.1.4 build on Apr 102017 02:13:12. ======

　　display(/dev/fb0) resolution is (1920x1080).

　　[INFO]  Product Info: i.MX6Q/D/S

　　====== VPUDEC: 4.1.4 build on Apr 10 201702:13:17. ======

　　wrapper: 1.0.68 (VPUWRAPPER_ARM_LINUX Build on Apr  4 2017 17:47:13)

　　vpulib: 5.4.35

　　firmware: 3.1.1.46072

　　Running

　　Dynamic pad created, linking demux/decoder

　　[INFO]  bitstreamMode 1, chromaInterleave 1, mapType 0, tiled2LinearEnable 0

　　v4l2sink need allocate 3 buffers.

　　--------------------------------

　　显示如下：

　　5). 总结

　　Gstreamer框架是非常强大的多媒体处理工具，本文只是做了一些简单的应用示例，更多详细说明和示例请参考其官方网站。