Спасибо за подсказку, в вообщем-то получилось. Сделал так:
Создал отдельный каталог, скопировал туда модуль FMX.Media.Win.pas, FMX.Controls.Win.res, FMX.Filter.res (без последних двух проект не компилировался)
Внес каталог в Tools - Options - Library - Library path
В модуле FMX.Media.Win.pas в процедуре TWindowsMedia.UpdateMediaFromControl первой строкой в коде добавил добавление масштабирования:
procedure TWindowsMedia.UpdateMediaFromControl;
var
P: TPointF;
R: TRect;
Bounds: TRectF;
Form: TCommonCustomForm;
begin
FVMRWindowlessControl.SetAspectRatioMode(VMR9ARMode_LetterBox); // <-- Добавить
if FWnd <> 0 then
....
далее в коде закомментировал строку:
Bounds := TRectF.Create(0, 0, P.X, P.Y);
вместо P.X и P.Y (Ширина и высота видео) - ввел ширину и высоту контрола:
Bounds := TRectF.Create(0, 0, Control.AbsoluteWidth, Control.AbsoluteHeight);
После этих манипуляций видео стало растягивать под контрол.