Para que os links abram em janelas modais, inclua dentro do link a classe modal.
Pelo JCE vá no editor do Link e na aba Avançado e em Classes inclua modals conforme imagem abaixo.
Outra forma é trocando no código html. Para isso clique no botão de Alternar Editor e vá no código do link e inclua class="modals"
Exemplo:
<a href="/teulink">Teu Texto</a> fica <a class="modals" href="/teulink">Teu Texto</a>