4. Поддержка аппаратных блоков в GStreamer

GStreamer поддерживает следующие аппаратные блоки MCom-03:

  • VPU ARM Mali-V61 (Video Processing Unit, видеопроцессор);

  • ISP Felix v2505 (Image Signal Processor, процессор обработки изображений).

4.1. VPU ARM Mali-V61

4.1.1. Обзор поддержки

Кодирование и декодирование видео и изображений с использованием VPU поддерживается плагином gst-omx для пакета GStreamer. Перечень поддерживаемых элементов плагина приведён в таблице.

Таблица 4.1 Элементы GStreamer, поддерживаемые плагином gst-omx

Элемент

Назначение

omxh264dec

Декодирование видео, сжатого кодеком H.264

omxh264enc

Кодирование видео с использованием кодека H.264

omxh265dec

Декодирование видео, сжатого кодеком H.265 (HEVC)

omxh265enc

Кодирование видео с использованием кодека H.265 (HEVC)

omxmjpegenc

Кодирование изображений в формате JPEG/MJPEG

4.1.2. DMA-буферы

Для ускорения обработки видео в конвейерах GStreamer могут быть использованы DMA-буферы (экспортируются модулем dmabuf_exporter). DMA-буферы поддерживают следующие элементы gst-omx:

  • omxh264enc;

  • omxh265enc;

  • omxmjpegenc.

Для этого вышестоящий (upstream) элемент конвейера должен отправить запрос типа GST_QUERY_CUSTOM, содержащий структуру dmabuf_query. Содержимое структуры описано в таблице.

Таблица 4.2 Содержимое структуры dmabuf_query

Имя поля

Тип поля

Описание

fd_list

GValue

Список GValue, каждый из которых содержит int с дескриптором буфера

buffer_size

guint

Размер одного буфера в байтах

При получении и успешной обработке запроса элементом gst-omx будут импортированы DMA-буферы и функция gst_pad_peer_query() вернёт TRUE. В противном случае функция вернёт FALSE и элемент gst-omx самостоятельно выделит буферы для копирования данных.

4.1.3. Примеры запуска

Кодирование H.264 видео:

gst-launch-1.0 filesrc location=/tmp/input.yuv blocksize=3110400 ! \
  video/x-raw,format=I420,width=1920,height=1080,framerate=25/1 ! queue ! omxh264enc ! \
  filesink location=/tmp/output.h264

Декодирование H.264 видео:

gst-launch-1.0 filesrc location=/tmp/input.h264 ! h264parse ! omxh264dec ! \
  filesink location=/tmp/output.yuv

Транскодирование из H.264 в MJPEG:

gst-launch-1.0 filesrc location=/tmp/input.h264 ! h264parse ! omxh264dec ! omxmjpegenc ! \
  filesink location=/tmp/output.mjpeg

Транскодирование видео H.265 (HEVC):

gst-launch-1.0 filesrc location=/tmp/input.h265 ! h265parse ! omxh265dec ! omxh265enc ! \
  filesink location=/tmp/output.h265

4.2. ISP Felix v2505

4.2.1. Обзор поддержки

Захват и обработка видео с сенсора изображения с использованием ISP поддерживается плагином gst-felix для пакета GStreamer. Перечень поддерживаемых элементов плагина приведён в таблице.

Таблица 4.3 Элементы GStreamer, поддерживаемые плагином gst-felix

Элемент

Назначение

felixsrc

Захват видео с видеосенсора, один источник

4.2.2. DMA-буферы

Элементы gst-felix используют DMA-буферы (выделяют с помощью модуля dmabuf_exporter), если задана опция -use_dmabuf. Для поддержки элементов gst-omx, элементы gst-felix возвращают информацию о DMA-буферах в структуре dmabuf_query.

4.2.3. Свойства

Для вывода свойств элементов Таблица 4.3 использовать gst-inspect-1.0, например, для просмотра свойств felixsrc:

gst-inspect-1.0 felixsrc

4.2.4. Примеры запуска

Захват видео с видеомодуля Arducam OV5647 camera board на модуле ROCK Pi N10 с установленным модулем ELV-MC03-SMARC r1.1 с выводом на HDMI-дисплей:

gst-launch-1.0 felixsrc config-file=args-ov5647.txt context=0 awb-enable=1 ! \
  video/x-raw,format=BGRx ! kmssink driver-name=mali-dp

Конфигурационный файл args-ov5647.txt требуется предварительно создать и заполнить содержанием:

-sensorNumber 1
-use_dmabuf

-CT0_nFrames 30
-CT0_nBuffers 10
-CT0_nPreenqBuffers 1
-CT0_setupFile /etc/felix/ov5647/ov5647-arducam.cfg
-CT0_FPS 30
-CT0_sensor OV5647_0
-CT0_sensorMode 0
-CT0_AE 1
-CT0_WBC 2
-CT0_WBCCT 3

RTSP-стриминг видео с Arducam OV5647 на модуле ROCK Pi N10:

gst-rtsp-test-launch "felixsrc config-file=args-ov5647.txt context=0 awb-enable=1 ! \
  queue max-size-buffers=1 ! video/x-raw,format=NV12 ! \
  omx264enc control-rate=constant target-bitrate=10000000 ! rtph264pay name=pay0 pt=96"

При вызове команды gst-rtsp-test-launch в консоль модуля будет выведено сообщение:

stream ready at rtsp://127.0.0.1:8554/test

Для приёма и вывода видео на ПК запустить ffplay (camera-address — IP-адрес модуля ROCK Pi N10):

ffplay rtsp://<camera-address>:8554/test