Да, необходимо завершить предыдущую активити с MXPlayer
Используйте JNI и переделайте под Ваши нужды:
ActivityManager.killBackgroundProcesses(String packageName)
Где packageName - название пакета MXPlayer
Если видео запускается в том же экземпляре программы MXPlayer, то этого делать не нужно.
Можете подсмотреть здесь