Análise Multivariada

Aula 5: Análise de Agrupamentos (Clusters)

Prof. Admir Antonio Betarelli Junior

Juiz de Fora
 Estrutura
 Parte I. Introdução.

 Parte II. Medidas de dissimilariedades e similaridades.

 Parte III. Técnicas hierárquicas de agrupamento.

 Parte IV. Técnicas para a partição final.

 Parte V. Técnicas não hierárquicas de agrupamento.

Parte I. Introdução
 Análise de Cluster
 Encontrar nos dados uma estrutura de agrupamento
natural é uma importante técnica exploratória.

 Permite avaliar a dimensionalidade, identificar outliers e

sugerir hipóteses acerca da estrutura de relações.

 Busca descobrir agrupamentos naturais de indivíduos (ou

variáveis) a partir dos dados observados, agrupando
indivíduos com base na similaridade ou distâncias
(dissimilaridades).
 Análise de Cluster
 Maximiza a homogeneidade de indivíduos dentro de
grupos, e maximiza a heterogeneidade entre os grupos.

Variação entre cluster = Maximiza

Variação dentro do cluster =
Minimize
 Análise de Cluster
Alta
Frequência de comer fora

Baixa
Baixa Alta
Frequência de ir a restaurantes de fast food
 Análise de Cluster
Alta
Frequência de comer fora

Baixa
Baixa Alta
Frequência de ir a restaurantes de fast food
 Análise de Cluster
Alta
Frequência de comer fora

Baixa
Baixa Alta
Frequência de ir a restaurantes de fast food
 Análise de Cluster
Alta
Frequência de comer fora

Baixa
Baixa Alta
Frequência de ir a restaurantes de fast food
 Objetivos gerais
 Particionar os elementos em 2 ou mais clusters com base
na similaridade deles a partir de um conj. de variáveis.

 Possui 3 aplicações comuns:

 classificação de elementos (taxonomia);

 simplificação de dados;

 identificação das relações entre os elementos.

 Críticas à Análise de Cluster
 A análise de agrupamento é descritiva, a-teórica, e não
inferencial.

 . . . vai sempre criar clusters, independentemente da

existência real de qualquer estrutura nos dados.

 A solução de cluster não é generalizável porque é

totalmente dependente das variáveis utilizadas como a
base para a medida de similaridade.
 Quando usar?
 Quando a preocupação principal é dividir os elementos
em grupos, de forma que os elementos de um mesmo
grupo sejam homogêneos e os elementos em grupos
diferentes sejam heterogêneos.

 Considerações teóricas, conceituais e práticas devem ser

observadas ao selecionar variáveis para a AA.

 Como medir similaridades entre indivíduos?

 Como agrupar indivíduos semelhantes?
 Parte II. Medidas de
dissimilariedades e similaridades
 Similaridade
 Similaridade entre os elementos é uma medida empírica
de correspondência, ou semelhança, entre os elementos
a serem agrupados.

 Três técnicas dominam as aplicações na AA:

 Tipos de distância (proximidade):variáveis quantitativas.

 Medida de similaridade => variáveis qualitativas

 Associação => agrupamentos das variáveis.

 Dissimilaridade – Var. quantitativas
 Seja o vetor aleatório, ______________
Xj  [ X j1 , X j 2 ,..., X jp ] , com p variáveis
para cada elemento j dos n elementos.

 Utilizam-se medidas de distância (dissimilaridades): ↓

seu valor → ↑ similares são os elementos comparados.

a) Distância euclidiana:
1
 p
2
2
d  X l , X k    X l  X k '  X l  X k     X il  X ik  
1
2 ( j  l)
 i 1 

i.e., 2 elementos são comparados em cada variável i.

 Dissimilaridade – Var. quantitativas
b) Distância generalizada ou ponderada:
     
d Xl, Xk  Xl  Xk ' A Xl  Xk 2
1
( j  l)
se
A  I  d  é uma euclidiana .
A  S 1  d  é uma M ahalanobis.
A  diag (1 / p )  d  é uma euclidiana média.

 diag ( Si2 ) 1 => considera somente a

A reflete a ponderação. Se A_________
A  S 1 =>
≠ de variabilidade entre as variáveis. Já quando ______
pondera as possíveis ≠s de variâncias e covariâncias entre as
variáveis.
 Dissimilaridade – Var. quantitativas
c) Distância de Minkowsky:
1

p
 
d  X l , X k    wi X il  X ik  ( j  l)
 i 1 
se
  1  d  é uma city - block ou M anhattan.
  2  d  é uma euclidiana .

___
wi ' s são os pesos de ponderação para as variáveis.

A métrica de Minkowsky é menos afetada pela presença de

outliers do que a distância euclidiana.
 Dissimilaridade – Var. quantitativas
 As distâncias entre os elementos são armazenadas em
uma matriz de distâncias:

0 d12 d13 d14 

 0 d 23 d 24 
D  
( nxn )  0 d 34 
 
 0

em que dlk representa a distância do elemento l ao elemento k.

 Similaridade – Var. qualitativas
 Há 2 alternativas:

 Transforma em quantitativas e usa-se as medidas de

distâncias.

 Trabalha-se com coeficientes de similaridades, comparando

os elementos de acordo com a presença ou ausência de
certas características.
 Similaridade – Var. qualitativas
 Para entender o problema com variáveis qualitativas:
Variáveis
1 2 3 4 5
Item l 1 0 0 1 1
Item k 1 1 0 1 0
 Há 2 pares (1,1), 1 par (0,0) e 2 pares incompatíveis (0,1;1,0).
5

 X
i 1
il  X ik   (1  1) 2  (0  0) 2  (0  1) 2  (1  0) 2  2
2

 Deve-se comparar os itens diante da presença ou ausência de

características. Os pares (1,1) e (0,0) são ignorados na distância.
 Similaridade – Var. qualitativas
 O esquema organiza a frequência de similaridades e
dissimilaridades para os elementos l e k.
Elemento k
1 0 Total
1 a b a+b
Elemento l
0 c d c+d
Total a+c b+d p = a+b+c+d
 a é a frequência do par (1,1), b a do par (1,0), e assim por
diante.
 Similaridade – Var. qualitativas
 Desenvolve-se os coef. de similaridades para os itens:

a) concordância simples:
ad 3
s (l , k )   exemplo anterior :  0.6  s()  similaridade
p 5

b) concordância positiva: (0,0) não necessariamente representa

concordância (ideia do caso contrário).

a 2
s (l , k )   exemplo anterior :  0.4  s()  similaridade
p 5
 Similaridade – Var. qualitativas
c) concordância de Jaccard: proporção do par (1,1) em
relação ao total [-(0,0)].
a 2
s (l , k )   exemplo anterior :  0.5  s()  similaridade
abc 4

d) distância euclidiana média: índice de dissimilaridade.

1
cb 2
2
d (l , k )     exemplo anterior :  0.63  d ()   similaridade
 p  5

em que s(l , k )  1 - d () 2  similaridade simples

 Similaridade – Var. quantitativas
 Qualquer distância usada para var. quantitativas pode ser
transformada em um coef. de similaridade:

s (l , k )  1  d * (l , k )

d (l , k )  min( D )
d (l , k ) 
*

max( D )  min( D )
em que :
min( D ) é o menor e max( D ) é o maior valor dos elementos fora da diagonal de D.
 Variáveis quantitativas e qualitativas
 Uma situação comum é quando p var. quantitativas e q
var. qualitativas são observadas nos n itens. Pode-se:

a) Var. qualitativas => quantitativas ao atribuir valores às

categorias (ad hoc). Depois, usa-se uma medida de
distância para comparar as p+q var.;

b) Var. quantitativas => qualitativas categorizando os seus

valores. Depois, usa-se uma medida de similaridade
para comparar as p+q var.
 Variáveis quantitativas e qualitativas
c) Construir medidas de semelhança mistas e usá-las para
a comparação dos elementos. Tem-se uma combinação
linear entre as var. (p e q).
c(l , k )   p c p (l , k )  q cq (l , k )
p q
em que  p  e q  ; c p () e cq () são coef. de similaridade.
pq pq

 A definição dos pesos de ponderação, __  , permite que

os coef. tenham o intervalo de variação. Para manter
c p () e cq () na mesma direção e o mesmo padrão, usa-se
_______
s(l , k )  1  d * (l , k ) no caso das quantitativas.
____________
 Variáveis quantitativas e qualitativas
d) Coeficiente de Gower (1971): para cada var. j,
considera-se um coef. , sj, em um intervalo [0,1].
Comparando os elementos, l e k, as suas similaridades:
 p  q1 (l , k )s (l , k ) 
 j j 
j 1
d (l , k )   pq

  1 j (l , k ) 
 j 1 
1 j (l , k ) é uma variável igual a 1 se l e k podem ser comparados pela var. X j .

 E.g., se existir 6 var., porém para l há valores de 4 var.,

então compara-se l e k para 4 var..
 Usa-se _____________
s(l , k )  1  d * (l , k ) no caso das quantitativas.
Similaridades para pares de variáveis
 Ao invés dos elementos, as variáveis serão agrupadas.

 Usa-se a matriz de correlação (R). Pode-se obter a matriz

de distância a partir de R (valores absolutos):

D  1  ABS ( R )
( pxp ) ( pxp ) ( pxp )

sik
 rik    d ik i, k  1,2,, p
i k sii skk i k
 Similaridades para pares de variáveis
 Para variáveis são binárias, os dados são agrupados por
tabela de contingência. As variáveis, ao invés dos itens,
delineiam as categoriais.
Variável k
1 0 Total
1 a b a+b
Variável l
0 c d c+d
Total a+c b+d n = a+b+c+d

 A correlação é:
ad  bc
r (l , k )  1
[(a  b)(c  d )(a  c)(b  d )] 2
Parte III. Técnicas hierárquicas de
agrupamento
Métodos para construção de Clusters
 Não hierárquicos: o n° g de grupos é pré-especificado.

 Hierárquicos: identificam agrupamentos e o provável o

n° g de grupos, por:

a) Uma série de fusões sucessivas (técnicas aglomerativas);

b) Ou uma série de sucessivas divisões (técnicas divisas).
 Os resultados de ambos, aglomerativos e divisivos, são
observados no dendograma, que ilustra as fusões ou
divisões feitas em níveis sucessivos.
 Métodos hierárquicos
Número de observações Aglomerativo

Divisivo

Dendograma ilustrando o agrupamento hierárquico

 Técnicas hierárquicas aglomerativas
 Inicia com todos os elementos sendo o próprio cluster.

 Usando a medida de similaridade, combina 2 elementos mais

semelhantes em um novo cluster, agora contendo 2 itens.

 Repete o procedimento de agrupamento usando a medida de

similaridade para combinar os dois itens mais semelhantes ou
combinações de itens de outro cluster.

 Continua o processo até que todos os itens estejam em um

único cluster.
 Técnicas hierárquicas aglomerativas
 Single Linkage (a)

 Complete Linkage (b)

 Average Linkage (c)

 Centroid Method.

 Ward’s Method.
 Técnicas hierárquicas aglomerativas
 Single Linkage:
10 
  (35)  0 
2 9 0
  1 3 0  (135) 0 
D  3 3 7 0     2 7 0   (135)  0 
  2 7 9 0    
( 24) 6 0
4 6 5 0 
( nxn )
46 5 9 0    
4  8 6 5 0   
5 11 10 2  8 0 
Passo 4
Passo 3
   Passo 2
Passo1

 Passo 1: item 3 e 5 serão agrupados: Min[ D  {d lk }]

 Passo 2: as distâncias do grupo (35) serão: d ( 35) k  min{d 3k , d 5k }.

d ( 35)1  min( d 31,d 51)  min( 3,11)  3; d ( 35) 2  min( d 32 ,d 52)  7; d ( 35) 4  min( d 34 ,d 54)  8

 Depois roda novamente: Min[ D  {d lk }] ; e continua os estágios de

agrupamento.
 Técnicas hierárquicas aglomerativas
 Complete Linkage:
10 
29 0  (35)  0 
  1 11 0  (35)  0 
D  3 3 7 0   
  1 10 0   (35)  0 
  2 10 9 0   
 (124) 11 0
9  
( nxn )
  ( 24) 11 0  
4  9 6 5 0 
46 5 9 0 

5 11 10 2  8 0 
Passo 4
Passo 3
   Passo 2
Passo 1

 Passo 1: item 3 e 5 serão agrupados: Min[ D  {d lk }]

 Passo 2: as distâncias do grupo (35) serão: d ( 35) k  max{d 3k , d 5k }.

d ( 35)1  max( d 31,d 51)  max( 3,11)  11; d ( 35) 2  max( d 32 ,d 52)  10; d ( 35) 4  9

 Depois roda novamente: Min[ D  {d lk }] e continua os estágios de

agrupamento.
 Técnicas hierárquicas aglomerativas
 Average linkage: segue os mesmos passos, porém para
computar as distâncias de cada cluster formado, utiliza-se a
distância média:
 
  d lk 
d (UV )W  l k  , d é a distância entre l no cluster (UV) e k no cluster W;
lk
N (UV ) NW

 Centroid method: a distância entre dois clusters é aquela

entre as médias (centroide) dos clusters formados:

d (UV )W  ( X UV X W )( X UV  X W )

é a distância euclidiana ao quadrado entre os vetores de médias X UV e X W .
O agrupamento em cada passo se dá pelo menor valor da distância.
 Técnicas hierárquicas aglomerativas
 Ward method: a partição “desejada” é aquela que produz os
grupos mais heterogêneos possíveis entre si e o mais possível
homogêneo internamente.

 Quando se passa de (n-k) para (n-k-1) clusters, a qualidade de

partição decresce, pois o nível de fusão aumenta e o nível de
similaridade decresce. Ou seja:
 entre os grupos (C1 , C2 )
C1  C2  C  
  dentro do grupo (C )
 Ward buscou minimizar as “perdas de informação”,i.e., tratar
essa “mudança de variação” nos 2 casos (inter e intragrupo).
 Técnicas hierárquicas aglomerativas
 Ward method:

 Inicia tratando cada item como um cluster. Agrupa-os por Min djk

 Depois, para um cluster i, há ESSi, que é a soma dos desvios de

cada item em relação à média no cluster :

ESS i   X ij  X i. 
´ X ij  X i . 
ni

j 1

sendo ni o número de elementos no cluster i.

 No passo k, a soma de quadrados dentro dos clusters é:
gk
SSR   SSi
i 1
 Técnicas hierárquicas aglomerativas
 Ward method: var. quantitativas para o cálculo de médias.
 A distância entre os clusters é definida como:

 nn 
d Cl , Ci    l i X l  X i ´X l  X i 
 nl  ni 
que é a soma dos quadrados entre os cluster Cl e Ci .

 Em cada passo, 2 clusters são combinados pela Min d(∙). A d(∙) é a ≠

entre o valor de SSR depois e antes de combiná-los.
 Esta combinação resulta no menor valor de SSR.
 Centroide ≠ Ward, que trata a ≠ dos tamanhos dos clusters
comparação.  n n  l i
 
 nl  ni 
 Técnicas hierárquicas aglomerativas
 Coeficiente de Lance e Williams (1967) : fórmula de
recorrência que define a maioria dos métodos hierárquicos
bem conhecidos (Stata):
d k ( ij )  i d ki   j d kj  d ij   d ki  d kj
d ij é a distância entre o cluster i e o cluster j; d k ( ij ) é a distância entre o cluster k e
o novo cluster formado pela junção do i e j; e i ,  j ,  , e  são parâmetros de um método.
 Permite, a cada novo nível do agrupamento hierárquico, a
dissimilaridade entre o grupo recém-formado e o resto dos
grupos a ser calculado a partir das ≠s do agrupamento atual.
 economias computacionais .
 Técnicas hierárquicas aglomerativas
 Coeficiente de Lance e Williams (1967) :
 Técnicas hierárquicas aglomerativas
 Coeficiente de Lance e Williams (1967) : é convertida em
medidas de dissimilaridade.
d (l , k )  1  s (l , k )

 Há 2 intervalos possíveis: i) similaridade [0,1]=> dissimilaridade [1,0];

ii) similaridade [-1,1] => dissimilaridade [2,0].
 O software fornece medidas de dissimilaridades:
 ___
L2 : simples, completo e média.
2
 ___:
L2 outros, como Ward.
 Técnicas hierárquicas aglomerativas
 Considerações gerais:
 Todas as técnicas seguem um algoritmo básico, porém com seus
critérios (métrica).Na maioria delas, as variações não são tratadas,
=> sensíveis aos outliers.
 Não aponta os itens agrupados incorretamente em um estágio
anterior. Análise cuidadosa.
 Aplique várias técnicas. Se a configuração for ≈ consistente =>
agrupamento natural.
 Pode-se testar a estabilidade da solução por perturbações nos itens
e comparar os resultados (antes/depois). Se os clusters forem
distinguidos, os resultados (antes/depois) se aproximam.
 Técnicas hierárquicas aglomerativas
 Considerações gerais:
 Valores comuns na distância => múltiplas soluções em níveis menores.
O usuário necessita conhecê-las (não são ruins).
 Podem provocar inversões. Ocorrem quando inexiste uma estrutura de
cluster clara. Use o m. centroide para solucioná-las. D é adicionado ao
grupo (ABC), a uma distância de 30, inferior à distância a qual se
juntou C (AB).
 Técnicas hierárquicas aglomerativas
 Comparações dos métodos:
a) single linkage: estruturas geométricas diferentes, mas é incapaz
de delinear grupos pouco separados.
b) complete linkage: clusters de mesmo diâmetro e isolam os
outliers nos primeiros passos.
c) avarege linkage: clusters de mesma variância interna, produzindo
melhores partições.
d) Ward: cluster com o mesmo n° de itens, baseado nos princípios
de análises de variâncias.

(a), (b) e (c) : var. quantitativas e qualitativas; (d): var. quantitativas

Parte IV. Técnicas para a partição
final
 Técnicas para a partição final
1. Nível de fusão (distância);
2. Nível de similaridade;
3. Coeficiente R2;
4. Estatística Pseudo F;
5. Correlação semiparcial (Ward);
6. Estatística Pseudo T2;
7. Estatística CCC (Cubic Clustering Criterion);
TÉCNICAS PARA A PARTIÇÃO FINAL
1. Nível de fusão: avanço dos passos => ↓ similaridade (↑ d)
entre os clusters. No dendograma, se existir um salto
grande, já se alcançou o n° de cluster final.

2. Nível de similaridade: detecta pontos em que há

decréscimo acentuado na similaridade dos grupos. N° de
cluster final com acima 90%.

 d il 

Sil  1  .100  j, k  1,2,..., n
 max d 
 jk 

em que max d jk é a maior distância entre os n elementos de D no primeiro estágio.

TÉCNICAS PARA A PARTIÇÃO FINAL
3. Coeficiente R2: calcula-se a soma de quadrados intergrupos
e intragrupos de uma partição. Seja j item e i grupo, então:

X ij  X i1 j X i 2 j ... X ipj ; X i.  X i1. X i 2. ... X ip. , médias i grupo; X   X .1 X .2 ... X . p .

a) Soma de quadrados total : SSTc   X ij  X ' X ij  X 

g* ni

i 1 j 1

b) Soma de quadrados total intragrupo : SSR   SSi   X ij  X i . ' X ij  X i . 

g* g* ni

i 1 i 1 j 1

c) Soma de quadrados total intergrupos : SSB   ni X i .  X ' X i .  X 

g*

i 1

SSB ↑R2 => ↑ SSB e ↓ SSR. Procure se há algum “ponto de salto”.

Logo : R  2
Observe a ↓ R2 quando ↓g grupos.
SSTc
TÉCNICAS PARA A PARTIÇÃO FINAL
4. Estatística Pseudo F: se F apresentar um valor de máximo,
logo g* é a partição ideal dos dados:
SSBg * 1
1
 n  g *  R 2 
F    
2 
SSTcn  g *
1
 g * 1  1  R 

Ck  Ci  Cl
5. Correlação semiparcial (Ward): em um passo, _________,
SPR2 será:
SPR 2 
Bil
, Bil 
ni nl
X i.  X l . ' X i.  X l . 
SSTc ni  nl
em que Bil é a distância intergrupos (Ward).
busca-se o um salto maior que os restantes, o que deve indicar o
número de clusters e partição ideal.
TÉCNICAS PARA A PARTIÇÃO FINAL
k  Ci  Cl
6. Estatística Pseudo T2: em um passo, C_________:
Bil
P.T 
2
;
 2
  X ij  X i .   X lj  X l . ni  nl  2 
2 1

 jCi jCl 
X kj  X k .  X kj  X k . ' X kj  X k . 
1
2

 busca-se ponto de máximo para um número g de grupos.

7. Estatística CCC (Cubic Clustering Criterion): compara o R2

calculado e o seu esperado, E[R2], supondo que os clusters são
gerados por distribuição uniforme p-dimensional. Se CCC>3 (bom),
R2 > E[R2], i.e., a estrutura de cluster é ≠ da partição uniforme.
 TÉCNICAS PARA A PARTIÇÃO FINAL
Indicador Observação
Nível de fusão (distância) Salto do ↑D: parar no passo anterior

Nível de similaridade Salto da ↓S: parar no passo anterior (≈ 90%)

Coeficiente R2 Salto da ↓ R2: parar no passo anterior (≥ 90%)

Estatística Pseudo F Salto da ↓ F: parar no passo anterior

Correlação Semiparcial (SPR2) Salto do ↑ SPR2: parar no passo anterior

Pseudo T2 (P.T2) Salto do ↓ P.T2: parar no anterior ou vigente.

Estatística CCC Salto do ↓ CCC: parar no passo anterior

Parte V. Técnicas não hierárquicas
de agrupamento
 Técnicas não hierárquicas
 Encontrar diretamente uma partição de n itens em k
clusters, por 2 requisitos: semelhança interna e
isolamento dos clusters formados.
 Não hierárquicas ≠ hierárquicas:
 definição prévia do número de clusters;
 em cada estágio, novos clusters podem ser formados por
divisão ou junção de clusters inicialmente definidos. Sem
dendogramas;
 os algoritmos são iterativos e têm uma maior capacidade de
análise do conjunto de dados.
 Técnicas não hierárquicas: k-médias
 Cada item é alocado para um cluster que tem um
centroide mais próximo (média). Passos:
a) escolher k centroides (sementes) para iniciar o processo de
partição;
b) comparar cada item com o centroide inicial por uma distância
(e.g., euclidiana). Os itens são alocados aos clusters pelo min d(∙);
c) Após a alocação dos n itens, recalcular os centroides para cada
novo cluster formado, repetindo o passo (b) com estes novos
centroides.
d) repetir os passos (b) e (c) até que todos os elementos estejam bem
alocados em seus grupos.
 Técnicas não hierárquicas: k-médias
 Em k-médias, a escolha das sementes iniciais influencia na partição
final. Assim, seguem algumas sugestões para essa escolha:

 Sugestão 1: Use alguma técnica hierárquica para obter os k clusters

iniciais. Calcule o vetor de médias de cada grupo, as sementes iniciais.

 Sugestão 2: escolha aletoriamente os k centroides iniciais. Selecione m

amostras aleatórias com k centroides e repetir a amostragem m vezes
e, no final, calcula-se os m centroides para cada grupo.

 Sugestão 3: Escolha a variável de maior variância. Em seguida, divida o

domínio da variável em k intervalos. A semente inicial será o centroide
de cada intervalo.
 Técnicas não hierárquicas: k-médias
 Sugestão 4: Escolha os k outliers identificados, que serão as sementes
iniciais.

 Sugestão 5: Escolha prefixada (ad hoc) – não muito recomendável.

 Sugestão 6: selecione os k primeiros valores do banco de dados.

Grande parte dos softwares usa como padrão esta sugestão para
atribuir as sementes iniciais. Fornece bons resultados quando os itens
são bem discrepantes entre si. Logo, não é recomendável quando os
elementos são bem semelhantes.

 Mingoti (2005, p.194) aponta que a solução da k—médias, utilizando

como sementes iniciais a técnica de Ward, gera melhores resultados
que a solução e k-médias, usando os quatro primeiros valores
Técnicas não hierárquicas: Fuzzy c-Médias
 Técnica iterativa e exige a definição inicial de k clusters. Sendo n itens e
p variáveis aleatórias, busca-se a partição que minimiza:

J   uij  d X j ,Vi 
c n
m

i 1 j 1

Vi é o centroide ponderado do cluster i; m  1 é o parâmetro de Fuzzy;

uij é a probabilidade do item X j de pertencer ao grupo de centróide Vi ;
d X j ,Vi  é a distância escolhida.
 A função é minimizada quando as probabilidades:
 u 
n
1 m
 c  d ( X ,V )  2
( m 1)  ij Xj
uij    j i
  em que Vi  j 1

 k 1  d ( X j ,Vk )  
 u 
n
m
  ij
j 1
Técnicas não hierárquicas: Fuzzy c-Médias
 Para ter solução final, deve-se ter os centroides e probabilidades
uij geradas de uma distribuição uniforme [0,1].
iniciais, ___,
 Os centroides se modificam a cada iteração e o processo cessa
quando a distância entre os centroides dos 2 últimos passos é:
d (Vt ,Vt 1 )   .
__________
 Nessa técnica, a partição final alocará os itens nos clusters
conforme a sua maior probabilidade, o que torna possível
identificar os itens que se assemelham a mais de um cluster.
 Em oposição, a técnica de k-Médias gera uma partição na qual
cada elemento pertence a um único cluster.
 Técnicas não hierárquicas: comentários
 Tais técnicas são também sensíveis às escalas e aos outliers. As
variáveis de maior dispersão dominam na distância euclidiana.
 Pode-se padronizar as variáveis ou usar distâncias ponderadas.
 Há razões para não fixar o n° de clusters, como nessas técnicas:
 se 2 ou mais sementes estão dentro de um cluster, os clusters
resultantes serão pobremente diferenciados;
 Outliers => pelo menos 1 cluster com itens muito dispersos.
 Mesmo que saiba os itens nos k clusters, perde-se grupos raros
e latentes na amostra. Os k grupos iniciais => partição sem
sentido.
 Técnicas não hierárquicas: comentários
 Comparando às técnicas, pode-se afirmar:
 quando os grupos estão bem separados, qualquer técnica
leva a resultados satisfatórios;

 quando há interseção inicial entre os grupos, Fuzzy é

melhor por gerar a probabilidade dos itens;

 para definir o n° final de grupos, pode aplicar bootstrap a

fim de delinear um intervalo de confiança.