Оцінка екологічного стану водного об’єкта та прогнозування його змін у результаті антропогенного впливу здійснено з використанням вдосконалених математичних моделей динаміки популяцій фітопланктону у водних екосистемах на основі системи нелінійних диференціальних рівнянь. При моделюванні динаміки популяцій у водних екосистемах використовуються системи нелінійних диференціальних рівнянь, а екологічний стан водойм описується фазовим портретом коливань. Розв’язання системи нелінійних диференціальних рівнянь при моделюванні динаміки популяцій фітопланктону у водному середовищі здійснено за допомогою наближених числових методів із застосуванням системи рекурентних рівнянь. Інтегральний екологічний стан водойм оцінюється шляхом обчислення індексів Сімпсона та Шеннона щодо відносної кількості частинок фітопланктону кожного виду.