O espaço de parâmetros é o espaço de todos os valores possíveis dos parâmetros que definem um determinado modelo matemático, usualmente sendo um espaço euclidiano de dimensão finita. Em estatística, os espaços de parâmetros são particularmente úteis para descrever famílias paramétricas de distribuições de probabilidade . Eles também formam a base necessaria para ser feita qualquer estimação de parâmetros. Às vezes, os parâmetros são analisados para observar como afetam o modelo estatístico. Nesse contexto, eles podem ser vistos como entradas de uma função. Pode ser criado um gráfico com os possíveis parâmetros sendo as entradas para ilustrar como diferentes regiões do espaço de parâmetros produzem diferentes tipos de comportamento no modelo.
Exemplos Um modelo simples de deterioração da saúde após o desenvolvimento de câncer de pulmão poderia incluir, por exemplo, dois parâmetros: sexo e a caracteristica da pessoa ser ou não fumante, nesse caso o espaço de parâmetros é o seguinte conjunto de quatro possibilidades: {(Homem, Fumante), (Homem, Não fumante), (Mulher, Fumante), (Mulher, Não fumante)} . O mapa logístico
x
n + 1
= r
x
n
( 1 −
x
n
)
{\displaystyle x_{n+1}=rx_{n}(1-x_{n})}
possui um parâmetro, r, que pode assumir qualquer valor positivo. O espaço de parâmetros é, portanto, o espaço dos números reais positivos. Para alguns valores de r, essa função acaba oscilando em torno de alguns valores ou se fixa em um único valor. Esses valores de longo prazo podem ser plotados em função de r em um diagrama de bifurcação para mostrar os diferentes comportamentos da função para diferentes valores de r . Em um modelo de onda senoidal
y ( t ) = A ⋅ sin ( ω t + φ ) ,
{\displaystyle y(t)=A\cdot \sin(\omega t+\phi ),}
Os parâmetros são amplitude A > 0, frequência angular ω > 0 e fase φ ∈ S 1 . Assim, o espaço de parâmetros é
R
+
×
R
+
×
S
1
.
{\displaystyle R^{+}\times R^{+}\times S^{1}.}
Em uma distribuição normal, descrita pela função de distribuição de probabilidade
f ( x ) =
1
σ
2 π
e
−
1 2
(
x − μ
σ
)
2
{\displaystyle f(x)={\frac {1}{\sigma {\sqrt {2\pi }}}}\;\;\mathrm {e} ^{-{\frac {1}{2}}\left({\frac {x-\mu }{\sigma }}\right)^{2}}}
, tem o espaço de paramêtros
{ μ , σ } = R ×
R
+
{\displaystyle \{\mu ,\sigma \}=R\times R^{+}}
, onde é
μ
{\displaystyle \mu }
a média e
σ
{\displaystyle \sigma }
é o desvio padrão.
Em aprendizado de máquina, hiperparâmetros são utilizados para descrever modelos. Em deep learning, os parâmetros de uma rede neural são chamados de pesos. Devido à estrutura em camadas das redes neurais profundas, seu espaço de pesos possui uma estrutura e geometria complexas. Por exemplo, em perceptrons multicamadas, a mesma função é preservada ao permutar os nós de uma camada oculta, o que equivale a permutar as matrizes de pesos da rede. Essa propriedade é conhecida como equivariância à permutação de espaços de pesos profundos. O trabalho no apredizado usualmente busca a otimização de hiperparâmetros.
Aplicações Quando utilizamos estimadores de extremo para modelos paramétricos, uma determinada função objetivo é maximizada ou minimizada sobre o espaço de parâmetros. Teoremas de existência e consistência de tais estimadores requerem algumas suposições sobre a topologia do espaço de parâmetros. Por exemplo, a compacidade do espaço de parâmetros, juntamente com a continuidade da função objetivo, é suficiente para a existência de um estimador de extremo.
O espaço de parâmetros contribuiu para a geometria não estar mais limitada das pelo espaço tridimensional. Por exemplo, o espaço de parâmetros das esferas em três dimensões possui quatro dimensões: três para o centro da esfera e uma para o raio. Segundo Dirk Struik, foi o livro Neue Geometrie des Raumes (1849), de Julius Plücker, que demonstrou isso.'...a geometria não precisa se basear exclusivamente em pontos como elementos básicos. Linhas, planos, círculos, esferas podem ser usados como elementos ( Raumelemente ) nos quais uma geometria pode ser baseada. Essa concepção fértil lançou nova luz sobre a geometria sintética e algébrica e criou novas formas de dualidade. O número de dimensões de uma forma particular de geometria poderia agora ser qualquer número positivo, dependendo do número de parâmetros necessários para definir o "elemento".' A necessidade de dimensões superiores é ilustrada pela geometria de linha de Plücker . Struik escreve:A geometria das linhas [de Plücker] no espaço tridimensional poderia ser considerada como uma geometria quadridimensional ou, como Klein enfatizou, como a geometria de uma quádrica quadridimensional em um espaço pentadimensional.
Veja também Espaço amostral Espaço de configuração Análise de dados Redução de dimensionalidade Seleção de modelo Equação paramétrica Superfície paramétrica Espaço de fase
Referências
