Se for uma tabela HTML sugiro que dê uma olhada na lib datatables. Nela já tem várias funcionalidades como paginação, campo de busca, ordenação das colunas e várias outras coisas.

Mas se você só quer uma solução básica no HTML meio que a quantidade de dados pra deixar essa busca perceptivelmente lenta tem que ser muito grande. Então, se não for o caso, pode implantar usando um laço comum mesmo. As vezes a abordagem mais direta é a melhor.