Но для выполнения дифференцирования аргумент, по которому оно выполняется, должен быть непрерывным на всём отрезке дифференцирования, так как исключение даже бесконечно малой окрестности любой точки на этом отрезке, не говоря уже о самой точке, может привести к потере неизвестных заранее особенностей (разрывов, особых точек, максимумов и т. д.) в изменении
дифференцируемой функции.
В качестве
дифференцируемых функций рассматривается произведение энергетических составляющих: положительной, отрицательной, нейтральной.
Скажем, можно «смягчать»/relax формулирование архитектурных проблем из языка дискретных решений так, чтобы получать набор вроде бы непрерывных, то есть
дифференцируемых функций, искать архитектурный оптимум на них нейросетевыми или даже какими-то другими алгоритмами, а потом возвращать в дискретную область архитектурных решений для формулирования ответа на вопрос об оптимальной архитектуре.
Это методы эффективно работают с гладкими и
дифференцируемыми функциями.