Vekic, 13ª no ranking da WTA, fechou o jogo em 2 sets a 0, com parciais de 7-6 (9/7) e 6-2, em uma hora e 58 minutos.
Nas quartas de final, a croata encara a vencedora do duelo entre a grega Maria Sakkari e a ucraniana Marta Kostyuk.
Gauff, que foi porta-bandeira da delegação americana na cerimônia de abertura dos Jogos, se mostrou nervosa depois de perder o primeiro set em um tie break muito disputado.
"Estão me enganando. Não estão sendo honestos comigo", disse ao juiz de cadeira depois que uma bola duvidosa foi decidida a favor de Vekic.
A americana cometeu sete duplas faltas e teve uma baixa porcentagem de aproveitamento em seus saques, contra uma adversária que foi sólida no serviço e cometeu menos erros não forçados.
Gauff discutiu com o juiz de cadeira por bolas que caíram muito perto da linha e chegou a chorar antes de voltar ao jogo para terminar com poucos acertos nos dois últimos games.