Sem vencedor absoluto. Ambos testam JavaScript/TypeScript; o encaixe com o bundler do projeto pesa na escolha.
Resumo em uma frase
Jest é o runner consolidado no ecossistema JS; Vitest reutiliza o pipeline do Vite para testes rápidos em projetos já centrados em Vite.
Diferença principal
Jest traz isolamento e um conjunto maduro de matchers/mocks independente do bundler. Vitest alinha transformação e resolução de módulos ao Vite, o que reduz configuração duplicada em apps Vite.
Jest
- Padrão de fato em muitos templates e libs
- API estável; amplo material de referência
- Configuração de transform (TS/JSX) é responsabilidade do projeto
Vitest
- Compatível em grande parte com a API do Jest
- Dev server e HMR de testes no ecossistema Vite
- Natural quando o app já usa Vite; menos atrativo fora desse contexto
Comparação por critérios
- Integração Vite: Vitest
- Legado e exemplos: Jest
- Migração: muitos testes Jest portam com ajustes pequenos para Vitest
Quando escolher cada um
- Vitest: app Vite/Vue/React com Vite e desejo de uma só pipeline de transform
- Jest: monorepos e libs onde Jest já é padrão, ou tooling que assume Jest
Relacionado: Vite vs Webpack.
DICA Mais em comparativos.