Проблема была в цветовой матрице для видео (исходная bt709), после установки ее в bt470bg (PAL) видео стало отображаться.
Наш работоспособный параметр видео потока для rtsp-siple-server такой:
runOnInit: ffmpeg -f image2 -loop 1 -i /opt/rtsp-simple-server/call-icon.png
-c:v libx264 -tune zerolatency -preset ultrafast -profile:v main
-crf 35 -maxrate 600k -bufsize 1M -vf "format=yuv420p" -color_range pc
-color_primaries bt470bg -color_trc gamma28 -colorspace bt470bg
-r 10 -s vga -f rtsp rtsp://localhost:$RTSP_PORT/$RTSP_PATH
Сейчас поток работает с любыми параметрами сжатия от максимального сжатия до максимальной скорости обработки (минимального сжатия).
PS. поменяли на `smpte170m` (NTSC), тк не на всех тестируемых смартфонах работало с “bt470bg” (PAL)
runOnInit: ffmpeg -f image2 -loop 1 -i /opt/rtsp-simple-server/call-icon.png
-c:v libx264 -tune zerolatency -preset ultrafast -profile:v main
-crf 35 -maxrate 600k -bufsize 1M -vf "format=yuv420p" -color_range pc
-color_primaries smpte170m -color_trc smpte170m -colorspace smpte170m
-s cif -r 16 -f rtsp rtsp://localhost:$RTSP_PORT/$RTSP_PATH