Você precisa utilizar o campo context e diminuir a temperatura.

Dá uma lida nisso aqui: https://stancsz.medium.com/keeping-the-gpt-3-context-alive-875e1624adf4 https://platform.openai.com/docs/guides/completion/prompt-design