Если общая численность стаи х, то
(х/8)² + 12 = х,
откуда
х1=48
х2=16

Задача имеет два положительных решения: в стае могло бы быть или 48 обезьян, или 16. Оба ответа вполне удовлетворяют задаче.