Il est tout à fait possible de faire pousser des plantes sans substrat de sol.
Il existe même un tas de plantes qui n'ont pas leurs racines dans le sol, il faut les attacher à une pierre ou à un morceau de bois. Anubias ou une Java Fern par exemple. Je les ai toutes les deux attachées à un morceau de bois dans mon réservoir, et elles poussent très bien.
Pour les autres plantes, cela dépend un peu de la taille des cailloux que vous avez. Au début, il est possible que vous deviez les maintenir avec une pierre ou les attacher à quelque chose pour leur donner la possibilité de développer leurs racines autour des cailloux.
Cependant, les plantes ne vous aideront pas vraiment à résoudre le problème des crottes de poisson. Une partie sera probablement utilisée, mais vous devrez quand même faire l'entretien “normal” du vivier (comme les changements d'eau). Et pour réussir à faire pousser des plantes, vous devrez également utiliser de l'engrais et/ou avoir des boules d'argile près des racines.
Je recommande vivement d'ajouter de vraies plantes dans un aquarium, mais je ne pense pas que cela vous aidera à résoudre le problème que vous essayez de résoudre.