Cómo listar todos los títulos de categorías en la página principal? (en el Loop)

Hola a todos!
¿Sabeis cómo listar todos los títulos de las categorías en la página principal? Lo que necesito es similar a lo que aparece en domain.com/category/x con el título de la categoría por encima de las entradas, pero con todas las categorías (y sus respectivas entradas) en la página principal.
Probé el plugin «List category posts», pero quiero aprender a hacerlo en el loop del index.php, que es:

<?php get_header(); ?>
<div id="primary" class="content-area clr">
<div id="content" class="site-content" role="main">
<?php if ( have_posts() ) : ?>
<div id="infinite-wrap" class="grid clr">
<?php while ( have_posts() ) : the_post(); ?>
<?php get_template_part( 'content', get_post_format() ); ?>
<?php endwhile; ?>
</div><!-- .grid -->
<?php wpex_pagination(); ?>
<?php else : ?>
<?php get_template_part( 'content', 'none' ); ?>
<?php endif; ?>
</div><!-- #content -->
</div><!-- #primary -->
<?php get_footer(); ?>

¿Me podeis ayudar? Muchas gracias!