Basicamente, para resolver os problemas apontados pelo page speed você precisa solucionar tudo ligado a carregamento dentro do seu site.
Imagens
HTML
CSS
JavaScript
Cache
Hospedagem
DNS
Por que seu site fica lento?
Se você usar qualquer uma das ferramentas que citei acima, menos o plugin, claro, elas te darão várias recomendações de melhorias. Legal né? Talvez, se você entender todos os termos técnicos utilizados.
Enfim, é importante você entender o que está deixando seu site lento.
Algumas das causas mais comuns:
Provedor de hospedagem: servidor não está configurado corretamente, isso prejudica seu site.
Configurações do WordPress: as configurações do seu site podem afetar servidor, e, também deixar seu site lento.
Aplicações: Apache, Nginx e mySQL, por exemplo, precisam estar otimizados.
Plugins: a quantidade e a qualidade dos plugins instalados podem afetar a velocidade.
Scripts externos: carregamento de fontes, api`s, etc; também podem prejudicar o carregamento.
São alguns dos pontos que devem ser levados em consideração.
Aqui vou apresentar algumas formas de você reduzir o tempo de carregamento do seu site, no método mais simples possível.
Lembrando que o resultado depende de uma serie de variáveis, e que devido o versionamento do wordpress, algumas funções podem não funcionar corretamente.
Instale no seu Wordpress para ajuda-lo
Plugin WP Fastest Cache
Quando se trata de plugins de cache para o WordPress o W3 Total Cache é a maior referência, sendo recomendado por empresas de hospedagem, como GoDaddy, Hackspace e Hostgator. Porém, depois de enfrentar problemas de compatibilidade com alguns sites, principalmente com relação a javascript, resolvi testar outros plugins. Foi aí que eu conheci um modesto plugin, que foi avaliado apenas algumas centenas de vezes, porém todos deram nota 5. Intrigado, resolvi ler a descrição e descobri que o conceito por traz do WP Fastest Cache é simples, porém muito eficiente. O que ele faz e salvar uma cópia das páginas em html estático, eliminando a necessidade de consultas ao banco de dados e de grandes processos no servidor. Ele também tem outros recursos, como gzip, cache no navegador, minimização de html, js e css.
Smush.it
As imagens correspondem por mais da metade do tráfego de um site, por esse motivo são uma das melhores formas de otimizar carregamento de um site. O Smush.it é um serviço do Yahoo! que reduz o tamanho das imagens sem perder qualidade. O melhor de tudo é que existe também o plugin Smush.it para WordPress que otimiza as imagens na hora que você faz o upload e ainda permite otimizar todas as imagens que já foram enviadas.
WP Super Minify
A idéia de minify é combinar arquivos Javascript (JS), HTML e CSS para que eles possam ser compactados e entregues para os usuários, reduzindo a quantidade de dados a ser transmitida e o número de requisições de arquivos que seriam feitas para seu servidor, reduzindo, assim, o tempo de carregamento do site.
Vale a pena ressaltar que você precisa ser um pouco cuidadoso ao instalar esse tipo de plugin. Ele pode dar conflito com outros plugins instalados.
Mas o WP Super Minify te dá a opção de desabilitar a compressão no JavaScript e/ou CSS quando acontecer algum desses conflitos.
Principais Características:
Compactar JavaScript, CSS e HTML
Opção de desabilitar a compressão em CSS/JavaScript
Bem direto e fácil de usar.
Reveja os plug-ins que está utilizando
É mais comum do que você imagina que quando iniciamos um novo site em WordPress, ele tenha um carregamento bastante rápido, porém com o passar do tempo ele fique mais lento, sem qualquer motivo aparente.
Não é por mal, porém acabamos lendo em diversos locais que tal plug-in é bom para isso, o outro é bom para aquilo e depois de algum tempo, estamos com vários instalados em nosso painel.
O que nos esquecemos é que cada vez que instalamos um, ele faz sua própria base de dados para analisar as funções pré programadas, o que torna o site mais lento.
Nossa dica é, se você tem 10 plug-ins ou mais instalados em seu painel, faça uma faxina geral.
Verificando quais deles são realmente úteis e quais só estão ali para ocupar espaço. Ao fazer uma limpeza, notará de imediato que o carregamento irá melhorar consideravelmente.
Elimine as TAGS PHP sem utilização
Por falta de conhecimento para a criação de um template próprio ou então, por ainda estar dando os primeiros passos com o nosso site em WordPress, é comum fazer a utilização de um template pronto, porém esse pode ser o motivo de nosso site estar lento.
A importância de uma boa hospedagem WordPress
Novidade ou não, a hospedagem tem grande importância no desempenho do seu site. A Hospedagem WordPress é otimizada para tornar a sua loja ou blog mais rápida e confiável.
Tente substituir o Apache por Nginx, para uma configuração otimizada com Percona MySQL, APC, Memcache e Redis Cache.
Usando um CDN
O uso de uma CDN (Rede de entrega de conteúdo), com certeza vai acelerar o tempo de carregamento do seu site.
A CDN do Cloudflare por exemplo, possui servidores ao redor do mundo, trazendo o conteúdo para mais perto dos usuários de cada região, acelerando o processo de carregamento.
A tecnologia CloudFlare aproveita as alterações de hardware, tecnologia de servidor web e roteamento da rede.
O resultado é uma CDN mais fácil de configurar, mais acessível, e com um desempenho melhor do que qualquer CDN que você usou antes.
Para utilizar o serviço do Cloudflare, o seu DNS precisa ser alterado.
Otimizar o banco de dados
Quanto mais velho seu site, mais informações terá no banco de dados, pela quantidade de postagens, imagens, alterações, tags, etc.
E para aumentar a velocidade do seu site você precisa limpar esses dados desnecessários, você pode fazer isso facilmente com os plugins WP-Sweep ou WP-Optimize.
Dúvidas? Comente aqui e ajude mais usuários a ter acesso a dicas úteis de otimização! 
