Eu não acho que a utilização é errada, eu uso bastante e me ajuda demais, principalmente quando estou migrando de frameworks, tipo trabalhei muito tempo em React, tudo de React ta na minha cabeça e agora estou indo para o Vue.js. Eu amo fazer perguntas do tipo: "me mostra como faz um useEffect do React só que no Vue.js" e então o ChatGPT me da uma solução com o "watch" do Vue. Resumindo: eu uso muito pra coisas assim.

Agora o que tem que ter cuidado é em copiar e colar código confidencial da empresa. Isso eu nunca fiz e não recomendo, mesmo que seja uma função que não tenha nenhuma chave exposta ou coisa assim. Normalmente quando você vai trabalhar você assina um contrato de confidencialidade, mandar código de algum projeto da empresa pro ChatGPT faz você quebrar essa clausula e pode dar justa causa.

Ou realmente é preciso passar horas pensando na solução de um problema?

As vezes você vai passar horas (ou dias) pensando na solução de um problema sim, as vezes não. As vezes o GPT vai ser útil e as vezes não.

O GPT não deve ser um divisor de águas na hora de vc programar, você quem deve dividir a água, o GPT vai ser, sei la, talvez uma máquina que faz uma super condução de vento que quando você ligar apontado pro rio vai te ajudar a dividir a água, mas ainda assim você tem que segurar ele forte para não acabar tombando.

Eu inventei essa analogia agora do nada, mas é isso, espero que tenha ajudado haha.