Estimation of knots location and number in the splines regression models using an optimization approach (2022)
- Authors:
- Autor USP: FERREIRA, ALBERTO RODRIGUES - IME
- Unidade: IME
- Sigla do Departamento: MAE
- DOI: 10.11606/D.45.2022.tde-08082022-182210
- Subjects: ANÁLISE DE REGRESSÃO E DE CORRELAÇÃO; FUNÇÕES SPLINE
- Keywords: BFGS; BFGS; Estimação da localização dos knots; Estimação do número de knots; Knots location estimation; Knots number estimation; Métodos de regularização; Modelo de regressão splines; Regularization methods; Splines regression model
- Agências de fomento:
- Language: Inglês
- Abstract: Em muitos problemas práticos relacionados ao aprendizado estatístico supervisionado, estamos interessados em prever um alvo contínuo. Frequentemente, a relação entre a variável explicativa e o variável alvo é não linear, então os modelos que introduzem não linearidade para este propósito tendem a obter melhores performances em geral. Um modelo estatístico que aborda esse problema é chamado de regressão splines e tem recebido atenção considerável nos últimos anos. Isso se deve ao seu grande poder preditivo e bons ajustes incorporados pela sua flexibilidade. No entanto, o modelo de regressão splines tem um desvantagem significativa: um de seus principais componentes, chamados nós, relacionados aos pontos de mudança, geralmente são escolhidos antes do processo de estimação. São considerados valores pré-especificados, que em algumas situações podem apresentar problemas graves na prática. Neste trabalho, propomos uma nova metodologia que tenta resolver isso considerando a localização dos nós e o número de nós como parâmetros, e resolvemos esse problema como uma abordagem de otimização usando o algoritmo de otimização não linear BFGS. Além disso, introduzimos novos métodos de regularização para penalizar variáveis com nós e evitar overfitting. A metodologia proposta obteve muitas vantagens em relação à a abordagem utilizada na literatura, como a estimativa automática do número e localização de nós, métodos de regularização que evitam overfitting e seleção de nós irrelevantes.Nosso método obteve vários ganhos em desempenho preditivo e estimativa de nós nas simulações, obtendo assim melhores resultados do que o procedimento usual
- Imprenta:
- Data da defesa: 06.06.2022
- Este periódico é de acesso aberto
- Este artigo é de acesso aberto
- URL de acesso aberto
- Cor do Acesso Aberto: gold
- Licença: cc-by-nc-sa
-
ABNT
FERREIRA, Alberto Rodrigues. Estimation of knots location and number in the splines regression models using an optimization approach. 2022. Dissertação (Mestrado) – Universidade de São Paulo, São Paulo, 2022. Disponível em: https://www.teses.usp.br/teses/disponiveis/45/45133/tde-08082022-182210/. Acesso em: 01 jun. 2024. -
APA
Ferreira, A. R. (2022). Estimation of knots location and number in the splines regression models using an optimization approach (Dissertação (Mestrado). Universidade de São Paulo, São Paulo. Recuperado de https://www.teses.usp.br/teses/disponiveis/45/45133/tde-08082022-182210/ -
NLM
Ferreira AR. Estimation of knots location and number in the splines regression models using an optimization approach [Internet]. 2022 ;[citado 2024 jun. 01 ] Available from: https://www.teses.usp.br/teses/disponiveis/45/45133/tde-08082022-182210/ -
Vancouver
Ferreira AR. Estimation of knots location and number in the splines regression models using an optimization approach [Internet]. 2022 ;[citado 2024 jun. 01 ] Available from: https://www.teses.usp.br/teses/disponiveis/45/45133/tde-08082022-182210/
Informações sobre o DOI: 10.11606/D.45.2022.tde-08082022-182210 (Fonte: oaDOI API)
How to cite
A citação é gerada automaticamente e pode não estar totalmente de acordo com as normas
