macroevolution

Я бы тоже порекомендовал Python. С натяжкой можно назвать R и Matlab, но это боль, особенно на первых этапах.

Компилируемость не есть необходимое требование для скорости. Большинство научных задач хорошо укладываются в векторизацию (сведение операций с циклами к операциям с матрицами), поэтому будут работать достаточно быстро на любом из вышеназванных языком.

С другой стороны, прототипировать научную модель на С имеет смысл лишь из спортивного интереса: слишком много проблем насобираете по дороге.