Mi virtualhost por defecto ha funcionado bien (la página de Apache 'It Works!' ha cambiado también), pero al poner un DocumentRoot concreto, no cargaba. Primero he comprobado que no hubiera un .htaccess o algo que me estuviera fastidiando (era una aplicación que ya estaba montada y funcionando en otro host), pero al final he visto que el problema era la configuración del VH. El error que tenía era
AH01630: client denied by server configuration:
Básicamente me faltaba añadir lo siguiente:
Después reinicia tu nuevo Apache y comprueba tu URL; en mi caso ha empezado a funcionar.
Si quieres más información sobre las nuevas directrices de Apache 2.4 respecto a las antiguas (2.2) las puedes consultar aquí (en inglés).