É aí que está a questão também, o next é feito para utilizar a hospedagem da vercel, sem isso muitas funcionalidades do próprio Next não vão funcionar. Não é bom ter tudo tão acoplado, o React no Next e o Next na vercel. Por exemplo, se você não vai hospedar o seu projeto na vercel, o componente que lida com imagens não irá funcionar, pois depende da Vercel e, se você quiser utilizar o componente terá que passar por maus bocados para fazer funcionar, coisa que com o Vite seria muito mais simples, por exemplo.
Esse "tentar forçar" para o dev ir diretamente para o framework é prejudicial para quem está começando, pois não poderá colocar a mão na massa e aprender alguns dos fundamentos do React, pois o Next já oferece tudo out of the box.
onde que voce encontrou essa informação de que o componente Image do next só funciona com a Vercel ?