Как через composer удобно подменить системный пакет его альтернативной версией

А вот ссылки на документацию:

getcomposer.org/doc/05-repositories.md#vcs
getcomposer.org/doc/04-schema.md#replace

А разве указать свой репозиторий и вписать имя существующего пакета, он его не заменит?

По идее, если yii/yii2-elasticsearch будет в перечне required какой то из ваших зависимостей и там будет требоваться стабильная версия — то просто замены пакета будет недостаточно. Нужно будет еще добавить алиас — http://mnapoli.fr/overriding-dependencies-with-composer/