Вот вам и готовый диагноз - с кормом и отходами жизнедеятельности рыб подымаются нитраты и фосфаты которые затем потребляют растения. Если растениям нет питания, тогда этим пользуются водоросли и усиленно размножаются. Бурые (они же диатомовые) водоросли как раз и развиваются в среде с низким освещением и(или) низких показателях NO3 и PO4. Остальные также не дремлют.
Макро удобрения + отключение света на несколько дней помогут убрать помутнение воды, бурые не так страшны - уйдут после. Если хочется быстрее (но дороже) купите УФ стериализатор, но макро вам все равно понадобятся.
Деревовидний вигляд