519.2 Сравнительное моделирование на основе многочленов Колмогорова-Габора в задачах полиномиального хаоса и регрессии

Облакова Т. В. (МГТУ им.Н.Э.Баумана), Фам К. (-)

ПОЛИНОМИАЛЬНЫЙ ХАОС, ПОЛИНОМИАЛЬНАЯ НЕЙРОННАЯ СЕТЬ, МЕТОД ГРУППОВОГО УЧЕТА АРГУМЕНТОВ, ПОЛИНОМЫ КОЛМОГОРОВА-ГАБОРА, ЛИНЕЙНЫЕ ТРАНСПОРТНЫЕ ЗАДАЧИ, УРАВНЕНИЕ РАСПАДА


doi: 10.18698/2309-3684-2023-4-93108


Рассмотрено применение обобщенного разложения полиномиального хаоса (ПХ) и модели на основе полиномов Колмогорова-Габора в задачах регрессии. При выборе разложения ПХ использовалась схема Винера-Аски, задающая соответствие между законом распределения признаков и ортогональным полиномиальным базисом. Для вычисления коэффициентов разложения применялись неинтрузивные методы: наименьших квадратов, эластичная сеть, а также индуктивный эволюционный алгоритм Ивахненко. В качестве эталонной функции полиномиальной нейронной сети использованы полиномы Колмогорова-Габора. Ошибки модели и скорость работы вычислялись на тестовой выборке. Проведено сравнение моделей на линейной транспортной задаче в условиях неопределенности: коэффициент диффузии и снос моделировались равномерно распределенными случайными величинами. Показано, что при небольшом интервале изменения значений случайных величин обе модели дают хорошую эффективность, но модель ПХ демонстрирует меньший разброс ошибок и быстрее по времени. Для уравнения распада со случайными коэффициентами, распределенными по гауссовскому закону, изучено влияние корреляции этих коэффициентов на скорость сходимости. Продемонстрировано, что при зависимых коэффициентах наилучшие показатели наблюдаются у моделей ПХ более высокого порядка. На основе сравнительного моделирования установлено, что применение ПХ однозначно предпочтительнее в случаях: малой размерности пространства входных признаков, известном законе распределения входных данных, при коррелированности признаков. Также показано, что применение ПХ при большой размерности пространства входных признаков неэффективно из-за быстрого увеличения числа членов в разложении, приводящего к резкому росту времени на обработку задачи. В этом случае однозначно предпочтительнее оказалась регрессионная модель на основе полиномов Колмогорова-Габора в сочетании с МГУА


Xiu D., Karniadakis G. The Wiener-Askey Polynomial Chaos for Stochastic Differential Equations. SIAM Journal on Scientific Computing, 2002, vol. 24, iss. 2, pp. 619–644. DOI: 10.1137/S1064827501387826
Wiener N. The Homogeneous Chaos. American Journal of Mathematics, 1938, vol. 60, pp. 897–936.
Cameron R.H., Martin W.T. The Orthogonal Development of Non-Linear Functionals in Series of Fourier-Hermite Functionals. Annals of Mathematics. Second Series, 1947, vol. 48, no. 2, pp. 385–392.
Ghanem R., Spanos P. Stochastic Finite Elements: A Spectral Approach. NewYork, Springer-Verlag, 1991, 214 p.
Ghanem R. Ingredients for a General Purpose Stochastic Finite Element Formulation. Computer Methods in Applied Mechanics and Engineering, 1999, vol. 168, no. 19, pp. 19–34.
Ghanem R. Stochastic Finite Elements with Multiple Random Non-Gaussian Properties. Journal of Engineering Mechanics, 1999, vol. 125, no. 1, pp. 26–40.
Xiu D., Karniadakis G. Modeling uncertainty in flow simulations via generalized polynomial chaos. Journal of Computational Physics, 2003, vol. 187, pp. 137–167. DOI: 10.1016/S0021-9991(03)00092-5
Liu W., Dou Z., Wang W., Liu Y., Zou H., Zhang B., Hou S. Short-Term Load Forecasting Based on Elastic Net Improved GMDH and Difference Degree Weighting Optimization. Applied Sciences, 2018, vol. 8, iss. 9, art. no. 1603. DOI: 10.3390/app8091603
Ivakhnenko A.G. Polynomial Theory of Complex Systems. IEEE Transactions on Systems, Man, and Cybernetics, 1971, vol. SMC-1, no. 4, pp. 364–378.
Ivakhnenko A.G., Ivakhnenko G.A. The Review of Problems Solvable by Algorithms of the Group Method of Data Handling (GMDH). Pattern Recognition and Image Analysis, 1995, vol. 5, no. 4, pp. 527–535.
Onwubolu G.C. GMDH-Methodology and Implementation in MATLAB. London, Imperial College Press, 2016, 284 p.
Gu J., Chu L.L., Zhang Y.J, Shi W.G., Application of GMDH and variable cointegration theory in power load forecasting. Power System Protection and Control, 2010, vol. 38, no. 22, pp. 80–85.
Ahmadi M.H., Ahmadi M.A. Mehrpooya M., Rosen M.A. Using GMDH Neural Networks to Model the Power and Torque of a Stirling Engine. Sustainability, 2015, vol. 7, iss. 2, pp. 2243–2255. DOI: 10.3390/su7022243
Yang L.T., Yang H.G., Liu H.T. GMDH-Based Semi-Supervised Feature Selection for Electricity Load Classification Forecasting. Sustainability, 2018, vol. 10, iss. 1, pp. 217. DOI: 10.3390/su10010217
Najafzadeh M., Saberi-Movhed F., Sarkamaryan S. NF-GMDH-Based selforganized systems to predict bridge pier scour depth under debris flow effects. Marine Georesources & Geotechnology, 2018, vol. 36, iss. 5, pp. 589–602.
Zhang M.Z., He C.Z., Panos L.A. A D-GMDH model for time series forecasting. Expert Systems with Applications, 2012, vol. 39, iss. 5, pp. 5711–5716.
Petterson M.P., Iaccarino G., Nordstrom J. Polynomial Chaos Methods for Hyperbolic Partial Differential Equations: Numerical Techniques for Fluid Dynamics Problems in the Presence of Uncertainties. Springer International Publishing Switzerland, 2015, 379 p.
Стрижов В.В., Крымова Е.А. Методы выбора регрессионных моделей. Москва, Вычислительный центр РАН, 2010, 60 с.
Стрижов В.В. Порождение и выбор моделей в задачах регрессии и классификации. Дисс. д-ра физ.-мат. наук, Москва, 2014, 299 с.
Crestaux T., Maitre O.L., Martinez J.M. Polynomial chaos expansion for sensitivity analysis. Reliability Engineering & System Safety, 2009, vol. 94, iss. 7, pp.1161–1172.
Askey R., Wilson J. Some Basic Hypergeometric Orthogonal Polynomials that Generalize Jacobi Polynomials. Memoirs of the American Mathematical Society, 1985, vol. 54, 55 p.
Попкова А.П. Линейные регрессионные модели на основе полиномиального хаоса и их применение. Выпускная квалификационная работа бакалавра, Москва, 2022, 159 с.
Русских С.В., Шклярчук Ф.Н., Применение одношагового метода Галеркина для решения системы обыкновенных дифференциальных уравнений с начальными условиями, Математическое моделирование и численные методы, 2022, № 3, с. 18–32.
Базилевский М. П. Аналитические зависимости между коэффициентами детерминации и соотношением дисперсий ошибок исследуемых признаков в модели регрессии Деминга. Математическое моделирование и численные методы, 2016, № 2, c. 104–116.
Zou H., Hastie T. Regularization and Variable Selection via the Elastic Net. Journal of the Royal Statistical Society. Series B (Statistical Methodology), 2005, vol. 67, no. 2, pp. 301–320.
Кадиев А.Д., Чибисова А.В. Нейросетевые методы решения задачи кредитного скоринга. Математическое моделирование и численные методы, 2022, № 4, с. 81–92.


Облакова Т.В., Фам Куок Вьет. Сравнительное моделирование на основе многочленов Колмогорова-Габора в задачах полиномиального хаоса и регрессии. Математическое моделирование и численные методы, 2023, № 4, с. 93–108.



Скачать статью

Количество скачиваний: 198