UFR Sciences Fondamentales et Biomédicales, Université Paris Cité

Rapport de stage dans le cadre du Master 2 Cybersécurité

Modélisaton statsttue de réseaux sociaux multples

Réalisé par Quentn Guardia, tuentnnguardiaaetunu-parisnfr

Sous la supervision de la tutrice du Ministère des Armées

et d’Ahmed Mehaoua, professeur à l’Université Paris Citén

Septembre 2022
 Note spéciale

Conformément à la réglementation en vigueur, certaines activités du Ministère des Armées sont

sujettes à des contraintes de confidentialité. Dans cette optique, les missions de stage et les
informations relatives à l’organisme d’accueil ne seront pas développées dans ce rapport. En
revanche, un sujet de recherche a été réalisé en respectant les thèmes abordés durant le stage et la
formation.
 Résumé

Dans ce rapport, un modèle statistique est proposé pour étudier un ensemble de réseaux sociaux,
où interagit le même groupe d'acteurs. On appelle ces réseaux intriqués des « réseaux multiples ».
Au-delà d'étudier les liens au sein de chacun des réseaux, le modèle proposé extrapole les
informations entre les réseaux afin d'obtenir de meilleurs résultats en termes de prédiction et de
qualité d'ajustement. Le modèle s'appuie sur une extension hiérarchique du modèle d’espace
latent, en supposant l’existence d’une position sociale « globale » pour chaque acteur, ce qui
permet d’avoir différentes approches pour chaque rôle social. La proposition a été mise en
pratique avec plusieurs jeux de données réels, en considérant divers types de relations.

Mots clés: Statistique Bayésienne, Réseaux, Chaîne de Markov Monte Carlo, Modèle d'Espace
Latent.
Sommaire
1. Introduction.................................................................................................................................. 1
1.1. Réseaux sociaux....................................................................................................................2
2. Quelques exemples de motivation...............................................................................................7
2.1. Salle de câblage.....................................................................................................................7
2.2. Microfinance........................................................................................................................ 8
2.4. Équipe de dirigeants............................................................................................................9
3. Modèle de distance d'espace latent pour un réseau...................................................................10
4. Modèle de distance spatiale latente pour plusieurs réseaux......................................................12
4.1. La modélisation...................................................................................................................12
4.2. Interchangeabilité..............................................................................................................13
4.3. Élicitation des hyper-paramètres.......................................................................................14
5. Calcul.......................................................................................................................................... 15
5.1. Identifiabilité.......................................................................................................................15
5.2. Sélection de la dimension latente K...................................................................................16
6. Illustrations................................................................................................................................ 17
6.1. Salle de câblage...................................................................................................................17
Dimension de l'espace social................................................................................................17
Réseau consensuel................................................................................................................18
Projections dans l'espace social............................................................................................18
Ajustement du modèle..........................................................................................................19
6.2. Prédiction et qualité d’ajustement.....................................................................................19
7. Discussion.................................................................................................................................. 22
Références...................................................................................................................................... 24
A. Algorithme de MCMC pour le modèle de réseaux multiples....................................................28
B. Notation.................................................................................................................................... 30
Index des figures
Figure 1: Graphe non dirigé avec n = 7 acteurs....................................................................................3
Figure 2: Graphe dirigé avec n=7 acteurs............................................................................................4
Figure 3: Graphes pour les jeux de données de la salle de câblage......................................................7
Figure 4: Graphes pour l'ensemble de données sur la microfinance...................................................8
Figure 5: Graphes pour l'ensemble de données sur les réseaux sociaux en ligne................................9
Figure 6: Représentation DAG du modèle de distance pour un seul réseau......................................11
Figure 7: Représentation DAG du modèle de distance pour réseaux multiples.................................13
Figure 8: Valeurs WAIC pour sélectionner la dimension K et chaîne de Markov de la log-
vraisemblance associée à K qui optimise le WAIC..............................................................................17
Figure 9: Deux estimations de la probabilité consensus de l’interaction entre deux acteurs............18
Figure 10: Positions des variables latentes selon les deux dimensions avec une meilleure variabilité;
les matrices d’adjacence; et matrices de probabilité d'interaction estimées.....................................20
Figure 11: Statistiques concernant la densité, la transitivité et l'assortativité sur 20 000 répliques de
l'ensemble des données......................................................................................................................20
 1. Introduction

L'étude des réseaux sociaux est omniprésente, principalement lorsqu’il faut étudier les
interactions dans un ensemble d'individus, dans différents contextes. Les exemples
abondent dans toutes les sciences : dans l'industrie, avec la planification et l'optimisation
des processus opérationnels ; en biologie, avec l'étude des systèmes complexes liés au
génome humain ; dans l'économie, avec l'investigation des relations entre les nations, en
termes de coopération économique, de droits de l'homme et d'actions militaires ; parmi tant
d'autres.

Le domaine d'application qui illustre à la fois l'importance et les enjeux de l'étude des
réseaux est celui des communications. La manière et la rapidité avec laquelle nous nous
connectons sont actuellement un axe de développement important, car chaque individu
établit des modes de relation différents selon son environnement. Par exemple, les
différents rôles que remplissent les salariés d'une entreprise ne sont pas les mêmes que les
relations interpersonnelles qui s'établissent en dehors de leur travail. Cependant, les deux
manières d'interagir peuvent avoir un lien, même si elles sont différentes. Un échantillon de
ces interactions se reflète dans les réseaux sociaux en ligne, tels que Twitter et Facebook,
qui ont respectivement des approches et des objectifs différents, mais avec certaines
structures en commun.

En étudiant les réseaux sociaux, il est généralement intéressant d'étudier la probabilité que
deux acteurs interagissent entre eux, ainsi que leur « position sociale » dans le système.
D’autant plus si les individus sont inscrits sur différents réseaux sociaux, et donc
interagissent les un avec les autres de différentes manières dans différents contextes. Ainsi,
nous voulons étudier les dépendances structurelles à la fois "dans" et "entre" ces relations,
étant donné qu'il existe différentes sources d'information dans lesquelles les mêmes acteurs
du système sont impliqués.

Un modèle statistique très populaire dans la littérature pour un seul réseau est le modèle de
distance dans l’espace latent (Hoff et al., 2002). Selon ce modèle, les probabilités
d'interaction dépendent de la distance entre les positions des acteurs dans un « espace
social » latent (c'est-à-dire non observé). Cette formulation est très populaire car elle
permet de modéliser directement des caractéristiques qui sont observées dans les réseaux
sociaux, telles que la transitivité (l'ami d'un ami est un ami) et l'équilibre (l'ennemi d'un
ami est un ennemi), par exemple. Des avancées significatives dans la modélisation des
réseaux simples au moyen de variables latentes peuvent être trouvées dans les travaux de
Nowicki et Snijders (2001), Hoff et al. (2002), Schweinberger et Snijders (2003), Hoff
(2005), Handcock et al. (2007), Linkletter (2007), Krivitsky et Handcock (2008), Hoff
(2008), Krivitsky et al. (2009), Hoff (2009), Li et al. (2011), Raftery et al. (2012), Minhas et
al. (2019).

Dans ce travail, le modèle de distance de Hoff est étendu afin d'étudier conjointement le
processus génératif de plusieurs réseaux transversaux (statiques). Dans cette optique,
Gollini et Murphy (2016) et Salter-Townshend et McCormick (2017) apportent des

1
contributions très importantes, permettant aux acteurs de jouer différents rôles dans
différentes relations. Notre proposition s'appuie sur ces modèles, puisqu'elle maintient la
vraisemblance multivariée de Bernoulli, mais structure davantage la distribution à priori
correspondant au positionnement social de chaque acteur, ce qui permet de caractériser
avec précision leurs caractéristiques au sein de chaque réseau et à travers les réseaux.

Du point de vue des espaces latents, outre les travaux pionniers de Salter-Townshend et
McCormick (2017), d'autres alternatives pour étudier les réseaux sociaux multiples ont
émergé au cours des dernières années. En connectomie cérébrale, Durant et al. (2018)
proposent un modèle bayésien non paramétrique à travers un modèle de mélange qui
réduit la dimensionnalité et intègre efficacement les informations des réseaux au sein de
chaque composant du mélange ; puis Wang et al. (2019) proposent un modèle pour étudier
les similitudes et les différences des matrices d'adjacence, basé sur une décomposition
hiérarchique des valeurs singulières. À leur tour, D'Angelo et al., étendent les modèles
d'espace latent dans d'autres contextes, en incorporant des effets spécifiques aux nœuds
(D'Angelo et al., 2018) et des covariables spécifiques au lien D'Angelo et al. (2019), et enfin,
en introduisant des groupes dans le cadre d'un mélange infini de distributions, D'Angelo et
al. (2020). D'autres avancées importantes d'un point de vue fréquentiste sont disponibles
dans Zhang (2020).

Il existe d’autres travaux en relation avec l’étude transversale des réseaux, comme ceux
permettant la détection de communautés (par exemple, Han et al., 2015, Reyes et
Rodriguez, 2016, Paul et al., 2016, Gao et al., 2019, Paez et al., 2019, et Paul et al., 2020), et
l'évaluation de perception cognitive dans les structures sociales (par exemple, Swartz et al.,
2015, Sosa, 2017, Sewell et al., 2019). Enfin, du point de vue dynamique, il existe une
grande variété d'approches pour modéliser l'évolution d'un système dans le temps (eg,
Durante et Dunson, 2014, Hoff, 2015, Sewell et Chen, 2015, Sewell et Chen, 2016, Sewell et
al., 2017, Gupta et al., 2018, Kim et al., 2018, Turnbull, 2020).

Ce travail se structure comme suit: dans la Section 2, sont présentés plusieurs cas mettant
en évidence des réseaux multiples; dans la Section 3, les modèles spatiaux latents de
distance sont étudiés; dans la Section 4, un modèle pour la caractérisation de plusieurs
réseaux est proposé, où les propriétés d'interchangeabilité sont également discutées avec
l'élicitation des hyper-paramètres du modèle ; La Section 5 examine tous les aspects liés à la
mise en œuvre du modèle ; La Section 6 présente les résultats correspondant aux exemples
de motivation ; et enfin, dans la Section 7, les résultats sont discutés avec quelques
alternatives pour les recherches futures.

1.1. Réseaux sociaux

Un réseau social (ou simplement réseau) désigne un ensemble de n acteurs (éléments ou

individus) avec une variable y i ,i ' définie entre chacun d'eux, pour tout couple i, i’=1, . .. , n ,
i≠ i’ . Cette variable y i ,i ' caractérise l'interaction de deux individus i et i’ dans un
système particulier. Dans le cas le plus simple, la variable y i ,i ' est une variable

2
dichotomique qui prend les valeurs 0 et 1 ; 0, s'il n'y a pas de lien entre les acteurs i et i’ ;
et 1, s'il y a effectivement une connexion.

Figure 1: Exemple d'un graphe non dirigé avec n = 7 acteurs.

Source: Élaboration personnelle

Les données peuvent être représentées par un graphe, qui est une collection de sommets
(ou nœuds) et d'arêtes. Dans le contexte des réseaux sociaux, les acteurs correspondent aux
sommets, tandis que les arêtes représentent les relations entre lesdits acteurs.
La Figure 1 illustre un réseau qui montre de n=7 sommets, qui peuvent représenter : les
sénateurs d’un parti politique, membres d’une famille ou un ensemble de pays dans une
région donnée.
Un réseau est dit non dirigé lorsque y i ,i ' = y i ' ,i pour toute paire de sommets, dans le cas
contraire on dit que le réseau est dirigé. Un exemple de réseau dirigé est illustré par la
Figure 2, où il y a une direction implicite dans les relations. On peut voir que le réseau de la
Figure 1 est non-orienté, puisque les arêtes ne se réfèrent à aucune direction.
Par ailleurs, le lien entre deux sommets i et i’ dans un réseau se note i∼ i’ , ce qui
implique qu'il y a une arête entre le sommet i et le sommet i’ . Deux sommets connectés
sont dits voisins, et le voisinage du sommet i, N i , est l’ensemble de sommets voisins au
sommet i .

N i={i' :i∼ i' }

On peut présenter le graphe sous forme d’une matrice, où chaque interaction est
représentée par un nombre (dans notre cas ce sera 1), indiquant qu'il y a interaction entre
deux sommets, générant une matrice associée au réseau (ou matrice d'adjacence) Y , étant
une matrice de n ×n éléments y i ,i ' telle que :

3
 Figure 2 : Exemple d'un réseau dirigé avec sept acteurs.
Source: Élaboration personnelle

{
y i ,i ' = i si i ∼ i ' , i ≠ i' ,
0 si autrement

On appelle sous-réseau de Y , un sous-ensemble Y ' du réseau Y . Dans un réseau non

orienté, sa matrice associée Y est symétrique, et peut être représentée par un vecteur y à
( n2) composantes. Pour les illustrer, considérons le graphe de la Figure 1, dont la matrice
d'adjacence est :

0 1 1 0 0 0 0
1 0 1 1 0 0 0
1 1 0 0 1 0 0
Y= 0 1 0 0 1 1 1
0 0 1 1 0 1 0
0 0 0 1 1 0 1
0 0 0 1 0 1 0

où y=(1,1, 0, 0,0, 0, 1,1, 0, 0, 0,0, 1, 0, 0,1, 1,1, 1, 0,1)’ est la représentation vectorielle du
réseau, ce ce qui permet de représenter les données de manière optimisée.
De la même manière, le degré d’un nœud i , d i , est la le nombre de voisins (nœuds liés
avec une arête). Cela s’écrit de la manière suivante :

d i=|N i|

La séquence de degré d’un graphe est un vecteur ( D0, . .. , DM ) où D k est la le nombre de

sommets dans le réseau de degré k , et M est la degré maximum observé dans la réseau.
La distribution des degrés est donnée par (D 0 /n , .. . , D M /n) , où n est la le nombre de
nœuds du réseau.

4
Nous appellerons degré étendu du sommet i , e i , la valeur suivante :

e i= ∑ |N i /{i}|
i ' : i∼i '

En prenant en compte le réseau de la Figure 1, les degrés des sommets sont :

d 1=2, d 2=3, d 3=3, d 4=4, d 5=3, d 6=3 et d 7=2 . Ici, la séquence de degrés est (0,2,4,1). Et
par exemple, le degré étendu du nœud 3 est e 3= ∑ d i ' −d 3=4 .
i ' ∈N 3

La longueur de la trajectoire v entre le sommet i et le sommet j est une suite d’indices

{i 0, i 1, ... , i v+1 } avec i 0=i et i v+1= j , telle que :

∏ yi , i t t+1
=1
t=0

On appelle la géodésique la trajectoire ayant la distance minimale entre le sommet i et i’ ,

gi ,i ' . S'il n'y a pas de chemin, alors gi ,i ' =∞ .

La séquence géodésique c'est (G 0, . .. , G M ) , où GK est la le nombre de nœuds pairs qui ont

une distance géodésique minimale k , et M est la distance géodésique la plus grande.
Aussi, on appelle triangle un cycle de trois longueurs dans réseau. Trois nœuds i , i’ , et k
forment un triangle si i∼ i’ , i’ ∼ k , et k ∼ i .
La densité d’un réseau non dirigé est le rapport entre le nombre d’arêtes existantes et le
nombre d’arêtes possibles. Par exemple, dans un réseau non orienté G , sans auto-boucles
et sans arêtes multiples, la densité d'un sous-réseau H=(V H , E H ) est :

|E H|
den(H )=
|V H|(|V H|−1)/2

Si la valeur den( H ) tend vers zéro, le réseau est dit creux, sinon si elle tend vers un, le
réseau est dit dense.
La valeur cl T (G) est appelée la transitivité d'un réseau, elle est définie par :

3 τ Δ (G)
cl T (G)=
τ 3 (G)

où τ Δ (G) est le nombre de triangle dans le réseau G , et τ 3 (G) , le nombre de triplets

connectés (c’est-à-dire un sous-réseau de trois sommets pour deux arêtes). La transitivité
est une mesure de regroupement global, qui résume la fréquence relative avec laquelle les
triplets proches se connectent pour former des triangles.
Un facteur important est la tendance à se connecter à des acteurs aux caractéristiques
similaires, appelée assortativité, définie comme :

5
 ∑ f ii−∑ f i + f +i
r a= i i

1−∑ f i + f +i
i

où f ii ’ est la fraction des arêtes dans G qui unissent un sommet dans la i-ème catégorie
avec un sommet dans la i-ième catégorie, tel que f i + et f i + désignent la i-ème ligne et
colonne marginales, respectivement de la matrice résultante f .
La valeur r a est comprise entre -1 et 1. Elle est égale à zéro lorsque le mélange dans le
réseau n'est pas différent de celui obtenu par une affectation aléatoire des arêtes qui
préservent la distribution des degrés marginaux.

6
 2. Quelques exemples de motivation

Les individus dans un environnement social peuvent être liés de différentes manières,
générant ainsi un système de J réseaux sociaux sur même ensemble de I acteurs. Ci-
dessous quelques exemples des réseaux binaires multiples non dirigés afin de montrer des
scénarios où ce concept a sa place.

2.1. Salle de câblage

Roethlisberger et Dickson (2003)1 ont recueilli des données auprès de I =14 employés de
la salle de câblage de la compagnie Western Electric : deux inspecteurs, trois soudeurs et
neuf opérateurs. Les auteurs ont recueilli J =4 types de relations, à savoir la participation
à des jeux (Jeux), la participation à des dialogues à travers des fenêtres ouvertes
(Dialogues), l'amitié (Amitié) et son comportement antagoniste (Hostilité). La Figure 3 et le
Tableau 1 présentent une description des réseaux.

Jeux Dialogues

Amitié Hostilité

Figure 3 : Graphes pour les jeux de données de la salle de câblage, affichés selon l’algorithme
Kamada–Kawai.
Source: Capture d’écran du logiciel socnetv

1 La base de données est disponible sur: [Link]

[Link]/pub/networks/data/ucinet/[Link]

7
 2.2. Microfinance

Banerjee et al. (2013)2 ont rassemblé des données démographiques de plusieurs villes au
Karnataka, au sud de l'Inde, afin d'étudier la micro-finance. Dans ce projet, un recensement
des ménages et de leurs membres a été effectué, auquel un questionnaire détaillé a été
établi sur les relations qu’ils avaient dans le village. Ces données ont été enregistrées pour
I =77 maisons d'un village particulier, en termes de J =3 types de relations: échanges
d'argent et d'équipement (échanges), de recommandations personnelles et médicales
(conseils) et d'interactions sociales (sociabilité). La Figure 4 et le Tableau 1 montrent une
description des réseaux.

Échanges Conseils Sociabilité

Figure 4 : Graphes pour l'ensemble de données sur la microfinance.

Source: Élaboration personnelle

2.3. Réseaux sociaux en ligne

Huawei est une entreprise chinoise d'une grande importance au niveau mondial, et dans
l'un de ses processus de recherche en technologie, elle a recueilli des informations sur les
connexions sur un millier d'utilisateurs (anonymisés) qui utilisaient fréquemment J =3
réseaux sociaux, à savoir Facebook, Twitter et Instagram, dans afin d'orienter efficacement
leurs processus marketing. L'ensemble de données est disponible sur
[Link] Dans ce cas, une
représentation a été réalisée avec un échantillon aléatoire de I =100 acteurs. La Figure 5 et
le Tableau 1 présentent une description des réseaux.

2 La base de données est issue de [Link]

persistentId=hdl:1902.1/21538

8
 Facebook Twitter Instagram

Figure 5 : Graphes pour l'ensemble de données sur les réseaux sociaux en ligne.
Source: Élaboration personnelle

2.4. Équipe de dirigeants

Krackhardt(1987)3 a recueilli des données auprès de la direction d'une entreprise de

fabrication de machines de haute technologie pour évaluer les effets d'une intervention
effectuée dans leur direction. I =21 employés ont été interrogés sur leurs amitiés perçues
et leurs relations avec les autres, ce qui a donné J =21 réseaux, chacun associé à la
perception de chaque employé. Un tel ensemble de données est appelé Cognitive Social
Structure (CSS). Le Tableau 1 présente une description des réseaux.

Données Abréviation I J Densité Transitivité Assortativité

Salle de câblage CÂBLAGE 14 4 0,217 0,591 -0,187
Ménages du sud de l'Inde MAISONS 74 3 0,064 0,186 -0,215
Réseaux sociaux en ligne SOCIAL 100 3 0,206 0,204 -0,560
équipe de dirigeants GESTION 21 21 0,124 0,337 -0,195
Tableau 1: Statistiques descriptives pour les exemples de motivation. Les valeurs de la densité, la
transitivité et l’assortativité correspondent à la valeur moyenne de tous les réseaux.
Source: Élaboration personnelle

3 La base de données est issue de [Link]

9
 3. Modèle de distance d'espace latent pour un réseau

L'utilisation d'effets aléatoires dans le contexte de modèles linéaires généralisés est une
alternative populaire pour modéliser des réseaux. Plus précisément, considérons un modèle
dans lequel les y i ,i ' sont conditionnellement indépendants avec les probabilités
d’interaction :
Pr [ y i , i' =1| β , γ i ,i ' , x i ,i ' ]=g−1 (x Ti ,i ' β + γ i ,i ' ), i< i' , (1)

P
où β=( β 1,. .. , β P ) est un vecteur (inconnu) d'effets fixes, x i, i ' β=∑ p=1 β p x i ,i ' , p est un
T

prédicteur linéaire qui représente les modèles dans les données associées aux covariables
observées chez les acteurs x i, i ' =(x i ,i ' ,1 ,... , xi , i ', P ) , γ i ,i ' est un effet aléatoire spécifique non
observé (latent), qui représente tout modèle supplémentaire dans les données sans rapport
avec ceux des prédicteurs, et g(·) est une fonction de lien (connue).
Suivant les résultats de Aldous (1985) et Hoover (1982) (voir aussi Hoff, 2008, pour plus de
détails), on peut montrer que si la matrice des effets aléatoires Γ=[γ i ,i ' ] est conjointement
interchangeable (voir Section 4.2), alors il existe une fonction symétrique α (·, ·) tels que
γ i ,i ' =α (ui ,ui ' ) , où u1,. .. , uI , est une séquence de vecteurs aléatoires indépendants non
observés. L'impact de telles variables latentes dans (1) est largement dicté par la forme de la
fonction α (·, ·) . C'est donc principalement par α (·, ·) qu'il est possible de saisir d'autres
caractéristiques pertinentes des données relationnelles. Une série de formules potentielles
pour α (·, ·) ont a été exploré dans la littérature.
En particulier, le modèle de distance de Hoff et al. (2002) suppose que chaque acteur i a
une position ui=(ui ,1 ,... , ui , K ) dans un espace social (espace des caractéristiques latentes),
et que la probabilité d'un lien entre deux acteurs diminue à mesure que les acteurs
« s'éloignent » de l'espace social. Pour cela, les effets latents sont spécifiés par
α (ui ,ui ' )=−‖ui −ui '‖ , où ‖·‖ désigne la norme euclidienne. Les structures latentes basées
sur la distance induisent naturellement la transitivité, qui est une caractéristique principale
de nombreux réseaux sociaux réels. De plus, on observe que la modélisation des positions
comme appartenant à un espace euclidien de faible dimension offre une alternative efficace
pour représenter graphiquement des données relationnelles.
Étant donné un réseau binaire non orienté Y =[ y i , i ' ] , la vraisemblance (sans covariables)
sous un modèle de distance est donnée par :

p(Y |ζ , {ui })= ∏ Ber ( y i , i' |expit (ζ −‖ui −ui '‖)) ,

i ,i ' <i '

−x
Où expit (x )=1/(1+ e ) est l'inverse de la fonction logit, ζ ∈ ℝ est un effet fixe qui
représente la propension moyenne à observer un lien entre deux acteurs donnés, et
u1, . .. , uI représentent les positions sociales non observées dans ℝ K des acteurs qui
composent le système. On observe que le vraisemblance ne contient que I ( I −1)/2 termes
puisque Y correspond à la matrice d'adjacence d'un réseau non orienté.
Pour procéder à une analyse entièrement bayésienne et faire des inférences sur les
paramètres du modèle, les distributions à priori pour ζ et chaque ui doivent être
spécifiées. Une option qui semble bien fonctionner en pratique est

10
 iid iid
ζ |τ 2 ∼ N (0, τ 2)et u i|σ 2 ∼ N (0, σ 2 I ) , où I désigne la matrice identité ; pour en général,
2
compléter la formule de la distribution à priori en faisant τ ∼ IGam (aτ , b τ ) et
σ ∼ IGam (aσ , bσ ) . Ainsi, l’ensemble des paramètres du modèle est Y̆ =(ζ , u1,... , uI , σ 2 , τ 2 ) ,
2

ce qui donne un total de IK +3 inconnues à estimer, associées aux hyper-paramètres

a τ ,b τ , aσ et bσ . La Figure 6 montre la représentation du modèle de distance pour un seul
réseau au moyen d'un Directed Acyclic Graph (DAG).
Une sélection prudente des hyper-paramètres est fondamentale pour garantir la
performance appropriée du modèle. Pour cela, sont posés a τ =2 et b τ =100 , qui place une
distribution à priori diffuse pour ζ . De même, nous imitons une heuristique donnée dans
Krivitsky et Handcock (2008, Sec. 2.4) en faisant aσ et bσ tel qu'à priori σ 2 est
2 2 2/K
vaguement concentré (par exemple, CV (σ )=1 ) autour de E[σ ]=I , c'est-à-dire
1/K
proportionnel au volume bidimensionnel d'une boule euclidienne de rayon I .

Figure 6 : Représentation DAG du modèle de distance pour un seul réseau. Les cercles correspondent
à des quantités aléatoires (paramètres), tandis que les carrés à des quantités fixes (hyper-paramètres).
Source: Élaboration personnelle

11
 4. Modèle de distance spatiale latente pour plusieurs réseaux

Cette section présente la proposition pour modéliser simultanément un ensemble de J ≥2

réseaux sociaux binaires non orientés et non réflexifs Y 1, .. . , Y J , observés sur le même
ensemble de I acteurs, où Y j =[ y i ,i ' , j ] . A noter que dans ce cas y i ,i ' , j ∈{0,1} et
y i ,i ' , j = y i ' , i , j . Puisque chaque réseau contient des informations pertinentes sur le système
social, au lieu de simplement ajuster des modèles de distance indépendants pour chaque
réseau, le but de notre approche est d'extrapoler les informations entre les réseaux, afin
d'obtenir de meilleurs résultats en termes de qualité d'ajustement et de prédiction au sein
de chaque réseau.

4.1. La modélisation

Notre proposition est basée sur une extension hiérarchique en plusieurs étapes du modèle
pour un seul réseau discuté dans la Section 3. À cette fin, on suppose que les connexions
sont conditionnellement indépendantes avec la distribution de Bernoulli, ce qui se traduit
par une vraisemblance donnée par :

p(Y |{ζ j }, {ui , j })=∏ ∏ Ber ( y i ,i ' , j|expit (ζ j −‖ui , j−ui ' , j‖))
j i ,i ' :i <i '

Où ζ j ∈ ℝ est un effet fixe qui représente la propension moyenne à observer une

connexion entre deux acteurs donnés dans le réseau j , et ui , j=(u i , j , 1 , ... ,u i , j , K ) désigne la
position sociale de l'acteur i dans le réseau j , défini dans un espace euclidien de
dimension K . Dans ce contexte, l'interprétation des positions est la même : si les
caractéristiques latentes des individus i et i’ du réseau j sont « plus éloignées » dans
l'espace social, alors la distance ‖ui , j−ui ' , j‖ augmente, et donc la probabilité d'observer un
lien entre les acteurs i et i’ diminue.
Suivant la formule standard des modèles de distance, on assigne aux positions sociales ui , j
des distributions normales conditionnellement indépendantes, mais cette fois avec une
ind
moyenne et une variance sujettes à l’état de chaque individu u |η , σ 2 ∼ N (η , σ 2 ) . La
i, j i j i jI
moyenne ηi=(ηi ,1 , .. . , ηi , K ) peut être interprétée comme la position sociale « globale » de
l'acteur i par rapport à l'ensemble des relations qui définissent le système. Maintenant, en
2
établissant que les moyennes globales ηi et lesiid composantes de la variance
iid
σ j , ont une
2 2 2
distribution commune, respectivement ηi|θ , κ ∼ N (θ ,κ I ) et σ j |α σ , β σ ∼ IGam (α σ , β σ ) ,
alors il est possible de capturer des similitudes entre les acteurs, et ainsi, partager les
informations à travers les réseaux. Pour compléter avec la formule hiérarchique de ces
2
niveaux, on obtient θ∼N (µ0, Σ0 ), κ ∼IGam( aκ , bκ ) , α σ ∼Unif (c σ , d σ ) , et
β σ =Gam(a σ , bσ ) . Enfin, en suivant une idée similaire, on attribue aux effets fixes des
probabilités interaction ζ j une distribution a priori hiérarchique conjuguée,
2 2 2 2
ζ j|µ ζ , τ ζ ∼N ( µζ , τ ζ ) , avec µ ζ ∼N (µ0, σ 0 ) et τ ζ ∼IGam(a ζ , b ζ ) .

12
Ainsi, l’ensemble des positions du modèle est le suivant :

2 2 2 2,
Y =(ζ 1 ,... , ζ j ,u1,1 , ... ,u I , J ,η 1 , ... ηI , σ 1,. .. , σ J , µζ , τ ζ , θ ,κ α σ , β σ )

Il contient un total de IK (J +1)+2 J + K + 5 inconnues à estimer, associées aux hyper-

paramètres µ 0 , Σ 0 , aκ , bκ , µ 0 , σ 20 , a ζ , b ζ , a σ , bσ ,c σ et d σ . La Figure 7 montre la
représentation du modèle de distance pour des réseaux multiples au moyen d'un DAG.
Dans cette représentation, les trois hiérarchies du modèle sont évidentes.

Figure 7: Représentation DAG du modèle de distance pour réseaux multiples. Les cercles
correspondent à des valeurs aléatoires (paramètres), alors que les carrés un les valeurs fixées (hyper-
paramètres).
Source: Élaboration personnelle

4.2. Interchangeabilité

Aldous (1985) étend les notions d'interchangeabilité de De Finetti aux matrices

bidimensionnelles, grâce à l’introduction des concepts d’interchangeabilité séparée (lorsque
la distribution conjointe d'une matrice bidimensionnelle de variables aléatoires est
invariante et indépendante des permutations arbitraires de lignes et de colonnes) et
d'interchangeabilité conjointe (lorsque la distribution conjointe d'une matrice
bidimensionnelle de variables aléatoires n'est invariante que si la même permutation
arbitraire est appliquée aux lignes et aux colonnes). L'interchangeabilité conjointe implique
l'interchangeabilité séparée, mais pas l'inverse. Ces notions peuvent facilement être
étendues à des matrices de dimension supérieure, en considérant par exemple toutes les
paires de dimensions possibles.

13
Dans le contexte de la réseaux multiples, π 1 et π 2 sont deux permutations de {1, . .. , I } , et
π 3 une permutation de {1, . .. , J } . Sous la version du modèle présenté dans la Section 4.1,
la distribution marginale conjointe des observations {y i , i' , j } est la même que la
distribution de {y π (i ),π (i ' ), π ( j) } seulement si π 1=π 2 . En d’autres termes, le modèle définit
1 2 3

une distribution de probabilité interchangeable jointe pour les données issues de réseaux
multiples. L’interchangeabilité jointe (à la place d’une forme plus faible
d'interchangeabilité) est particulièrement attractive dans ce contexte, car tous les indices i
et i’ (et potentiellement j ) renvoient au même ensemble d'acteurs.

4.3. Élicitation des hyper-paramètres

Au préalable, une sélection rigoureuse des hyper-paramètres est fondamentale pour

garantir les performances adéquates du modèle. Ainsi, pour la distribution a priori de θ ,
on pose µ 0=0 et Σ 0=100 I , qui se concentre a priori sur l'origine aux moyennes globales
ηi de manière non informative. Dans l'approche du modèle latent pour un seul réseau
(Section 3) il est indiqué que l'implémentation du modèle se fait avec des hyper-paramètres
qui génèrent une distribution a priori non informative, afin d'éviter la concentration
dégénérée des positions latentes en un point unique de l'espace social. Pour cette raison, il
est recommandé de suivre l'heuristique donnée dans Krivitsky et Handcock (2008, Sec.
2.4), afin de ne pas se concentrer a priori sur la distribution des positions latentes des
sommets, avant d'observer les réseaux. Ce même concept a été mis en œuvre dans le cas de
réseaux multiples.
2
Suivant la même idée pour les effets fixes ζ j , on pose µ 0=0 et σ 0 =100 . Ensuite, pour la
2
composante de variance κ , on établit une loi de distribution a priori de moyenne finie
2/K 2/ K
I , mais de variance infinie, avec aκ =2 et bκ =I ; ceci permet de faire varier les ηi
de manière diffuse selon l'heuristique donnée dans la Section 3. De même, pour la
2
composante de variance τ , on pose aζ =2 et bζ =1 , ce qui permet a priori de faire varier
raisonnablement les ζ j dans une plage de valeurs adéquate. Enfin, on pose aσ =1 ,
− 1/ K
bσ =J , c σ =0 et d σ =10 afin de laisser les caractéristiques latentes de chacun des
réseaux varier de manière diffuse dans un espace raisonnable, en fonction de la quantité de
réseaux.

14
 5. Calcul

Pour une dimension latente K fixée, on peut explorer la distribution postérieure des
paramètres en utilisant des méthodes de Markov Chain Monte Carlo (MCMC; e.g.,
Gamerman and Lopes, 2006), où la distribution postérieure est approximée en utilisant des
échantillons dépendants, mais à peu près identique, Ῠ (1), . .. , Ῠ (B) de la distribution
postérieure p( Y̆ |Y )∝ p (Y | Ῠ ) p( Ῠ ) , où Ῠ est l'ensemble des paramètres du modèle
donné dans la Section 4.1. Les estimations ponctuelles et les intervalles de crédibilité
peuvent être approximés à partir des distributions empiriques fournies par les échantillons.
Dans notre algorithme, lorsque cela est possible, nous prélevons des échantillons à partir
des distributions conditionnelles complètes comme dans un échantillonneur Gibbs
habituel ; sinon, on utilise des versions adaptatives avec des étapes de Metropolis-Hastings
(par exemple, Haario et al., 2001). Des détails sur l'algorithme mis en œuvre ici peuvent
être trouvés dans l'annexe A.

5.1. Identifiabilité

Les modèles de distance sont invariables aux rotations et aux reflets de l'espace social. En
effet, pour toute matrice orthogonale Q de taille K × K , la vraisemblance associée avec le
reparamétrage ~ u i, j=Q ui , j est indépendante de Q , étant donné que ‖~ u i , j−~
u i , j '‖
=‖ui , j−u i, j '‖ . Dans le modèle présent, les paramètres qui ne sont pas identifiables sont les
positions latentes ui , j , parce que les modèles de distance entre les ensembles de points
d'un espace euclidien sont invariants par mouvements rigides, car associés à chaque
tenseur de position latente U=[u i , j ] . Il existe un nombre infini de positions qui produisent
le même vraisemblance qui concerne le modèle proposé. Voir la Section 5.2 pour plus
détails.
Cependant, comme le prédicteur linéaire ηi ,i ' , j=ζ j−‖ui , j −ui ', j‖ est parfaitement
identifiable, et par conséquent, les probabilités d'interaction expit (ηi ,i ', j ) restent
identifiables grâce à l'injectivité de la fonction expit, on conclu que le modèle proposé est
complètement identifiable. Voir (Hoff et al., 2002, p. 1091) pour plus de détails.
Ce problème est résolu en utilisant une approche de transformation de paramètres similaire
à celle décrite dans Hoff et al. (2002, article 3). En particulier, l'inférence est restreinte à
une classe particulière de positions latentes, au moyen d'une transformation des
(b )
échantillons postérieurs ui , j en un système de coordonnées partagé. Ainsi, pour chaque
échantillon Ῠ (b) , une matrice de transformation orthogonale Q(b) est obtenue, minimiser
la distance de Procuste,

~
Q (b)=argmin Q ∈S tr {(W (1)−W (b) Q)T (W (1 )−W (b) Q)},
k

K
où S désigne l'ensemble des matrices orthogonales de taille K × K et W (b) est une
matrice rectangulaire de taille I × K dont les lignes correspondent aux moyennes globales

15
η(b1 ) ,. . . ,η(b)
I . Ce problème d'optimisation peut être facilement résolu à l'aide d'une
décomposition en valeurs singulières (par exemple, Borg et Grönen, 2005,ouiec. 20.2). Une
~(1 ) ~(B)
fois les matrices obtenues Q , . . ., Q , l'inférence postérieure pour les positions latentes
est basée directement sur ~
~(b) ~(b) ~(b) (b)
u (b)
i, j =Q ui , j et η i = Q ηi

5.2. Sélection de la dimension latente K

La valeur K=2 est populaire dans la littérature sur la modélisation de l'espace latent, car
elle simplifie la visualisation et facilite ainsi la description des relations sociales. Cependant,
notre objectif va au-delà d'une simple description des réseaux, de sorte que la valeur de K
joue un rôle critique dans les résultats. Certaines méthodologies pour sélectionner
correctement la dimension de l'espace social sont discutées ci-dessous.
La littérature sur les réseaux s'est largement concentrée sur le critère d'information
bayésien (BIC ; par exemple, Hoff, 2005, Handcock et al., 2007). Cependant, le BIC est
souvent inapproprié pour les modèles hiérarchiques car la structure hiérarchique implique
que le nombre effectif de paramètres soit généralement inférieur au nombre réel de
paramètres dans la vraisemblance. Une alternative au BIC est le Watanabe-Akaike
Information Criterion (WAIC ; Watanabe, 2010, Gelman et al., 2014),

WAIC ( K)=−2 ∑ ∑ log E[ p( y i ,i ' , j| Y̆ )]+ 2 pWAIC

j i , i ' : i<i '

Où

pWAIC=2 ∑ ∑ (logE [ p ( y i ,i ' , j | Y̆ )]−E[log p ( y i ,i ' , j| Y̆ )])

j i ,i ' :i <i '

correspond à la complexité du modèle (le nombre effectif de paramètres), et Ῠ est

l’ensemble de paramètres en supposant que la dimension de l'espace social soit K . Les
valeurs attendues dans ces expressions sont calculées par rapport à la distribution
postérieure p( Ῠ∣Y ) , qui peut être approximée à l'aide des échantillons Ῠ (1), . .. , Ῠ (B) de
l'algorithme basé sur MCMC.

16
 6. Illustrations

6.1. Salle de câblage

On analyse dans cette partie les réseaux multiples de la salle de câblage introduits dans la
Section 2, en utilisant notre proposition. Les résultats présentés ci-dessous sont basés sur
B=20 000 échantillons de la distribution postérieure obtenue après réduction des chaînes
de Markov originales toutes les 25 observations et une période de chauffe (warm-up period)
de 20 000 itérations. La convergence a été surveillée en suivant la variabilité de la
distribution conjointe des données et des paramètres du modèle à l'aide de la procédure à
plusieurs volets donnée dans Gelman et al. (1992). Par exemple, le panneau de droite de la
Figure 8 montre la chaîne de log-vraisemblance associée à la valeur de la dimension latente
qui optimise le critère d'information WAIC, où l'on observe qu'il n'y a aucune preuve
apparente d'absence de convergence.

Dimension de l'espace social

La Figure 8 montre les valeurs WAIC associées à des modèles ajustés avec différentes
dimensions K de l'espace social. Ce critère privilégie un choix de K=4 (WAIC = 201,46),
qui est la valeur utilisée dans toutes les analyses de cet ensemble de données. Ainsi, notre
modèle utilise 297 paramètres avec K=4 .

Critère d’informations Log-vraisemblance

Figure 8: A gauche, les valeurs WAIC pour sélectionner la dimension K de l'espace social pour
l'analyse des données de la salle de câblage, en ajustant le modèle proposé dans la Section 4. A
droite, la chaîne de Markov de la log-vraisemblance associée à la valeur de K qui optimise le critère
d'information WAIC.
Source: Élaboration personnelle

17
 Moyenne postérieure Proportion empirique

Figure 9 : Deux estimations de la probabilité consensus de l’interaction entre deux acteurs. La

panneau la gauche fournit la moyenne postérieure correspondante sous notre modèle, tandis que le
panneau de droite montre la proportion de liens observés à travers les réseaux.
Source: Élaboration personnelle

Réseau consensuel
Notre modèle peut être utilisé pour produire une estimation d’un réseau de "consensus",
qui contient l'information de tous les réseaux dans un seul réseau. En particulier, la
probabilité consensuelle d'observer un lien entre les acteurs i e i’ peut être estimée avec
ϑ i ,i ' =expit (µ ζ −‖ηi−ηi '‖) . La Figure 9 présente la matrice des moyennes postérieures,
B
1
E[ϑ i , i' |Y ]= ∑ expit (µ(bζ )−‖η(b)i −η(bi ' )‖)
B b=1

avec Iune carte thermique de la proportion de liens observés à travers les réseaux,
1
J ∑ j=1 i ,i ' , j
y . Même si l’estimation que fournit notre modèle est moins « dense » que la
proportion empirique, on observe que les estimations sont très similaires. Ceci suggère
aussi que le modèle caractérise correctement le processus de génération des données.

Projections dans l'espace social

Les positions latentes ui , j dans l'espace social sont un outil puissant pour décrire les
interactions sociales. La première ligne de la Figure 10 montre les coordonnées selon les
deux dimensions de plus grande variabilité des positions ui , j pour chacun des quatre
réseaux. On observe que les dynamiques sociales des Jeux et de l'Amitié sont très similaires,
sauf que dans les Jeux les acteurs 1 et 4, ils ont la même position sociale ; de même, dans
ces deux relations, deux groupes d'individus sont nettement différenciés. La relation
Dialogues a également une certaine ressemblance avec Jeux et Amitié, même si la
différenciation des groupes est moins marquée. De plus, les caractéristiques de l'acteur 3 ne
correspondent pas à celles des autres acteurs. D'un autre côté, les acteurs qui ont des

18
positions proches dans Amitié, ont généralement des positions éloignées dans Hostilité, et
vice-versa. Cet effet est particulièrement clair entre les acteurs {1 ; 4 } et {10 ; 14} . La
description des rôles sociaux peut également être effectuée au moyen des positions
moyennes ηi .
Comme précédemment constaté, les positions latentes ui , j permettent aussi de distinguer
des groupes d’acteurs qui remplissent des rôles sociaux similaires. Afin d'identifier ces
groupes, il est possible d'appliquer une technique de clustering non supervisée (e.g.,
clustering hiérarchique, k-means), ou au contraire, d'inclure directement dans le modèle un
ensemble de paramètres qui affectent les acteurs aux groupes. Cette dernière alternative est
préférable car elle permet de quantifier directement l'incertitude liée au regroupement ainsi
que sa relation avec les autres paramètres du modèle (voir la Section 7 pour plus de détails).

Ajustement du modèle
Ici, on évalue le modèle en utilisant des métriques dans l’échantillon. Premièrement, on
compare les matrices d'adjacence observées, Y j =[ y i ,i ’ , j ] , avec les moyennes postérieures
^ j=[ θ^ i ,i ' , j] , où
correspondantes aux probabilités d’interaction Θ

B
1
θ^ i ,i ' , j=E[expit (ζ j −‖ui , j−u i' , j‖)|Y ]= ∑ expit (ζ (b) (b ) (b)
j −‖ui , j−ui ' , j‖)
B b=1

La Figure 10 montre les probabilités d’interaction estimées. En général, on observe que les
probabilités estimées coïncident avec les relations observées dans tous les réseaux, ce qui
constitue une preuve que le modèle s'adapte correctement aux données.
À présent, suivant Gelman et al. (2013, Ch. 6), on explore plus en détail la qualité de
l'ajustement du modèle en générant des répliques de l'ensemble de données à partir des
paramètres de la chaîne de Markov du modèle ajusté, puis en calculant un ensemble de
statistiques récapitulatives pour chaque échantillon, dont les distributions sont ensuite
comparées aux valeurs observées dans l'échantillon d'origine. La Figure 11 montre des
résumés de la distribution empirique des statistiques de test sélectionnées (densité,
transitivité, assortativité) pour chaque réseau (voir Kolaczyk et Csárdi, 2014 pour plus de
détails sur les statistiques de test). Le modèle saisit adéquatement les caractéristiques
structurelles des données étant donné que toutes les valeurs observées appartiennent aux
intervalles de crédibilité. Les résultats avec le nombre de triangles, la distance moyenne, la
eigen-centralité moyenne, le degré moyen et l'écart type du degré (non représenté ici) sont
équivalents.

6.2. Prédiction et qualité d’ajustement

Afin d'évaluer la capacité du modèle proposé (ENSEMBLE en abrégé) à prédire les liens
perdus, cette Section évalue son pouvoir prédictif hors échantillon par le biais d'une
expérience de validation croisée, en utilisant les quatre systèmes multi-réseaux présentés
dans la Section 2 (voir le Tableau 1 pour plus de détails). De plus, comme point de
référence, le modèle de distance pour un seul réseau discuté dans la Section 3, ajusté

19
indépendamment sur chacun des réseaux (INDÉPENDANT en abrégé), est également
considéré.

Jeux Dialogues Amitié Hostilité

Figure 10 : En haut, les positions des variables latentes ui , j selon les deux dimensions avec une
meilleure variabilité ; au milieu, les matrices d’adjacence Y j ; et en bas, les matrices de probabilité
d'interaction estimées, Θ ^ j . Le tout pour l'ensemble de données de la salle de câblage.
Source: Élaboration personnelle

Densité Transitivité Assortativité

20
Figure 11: Intervalles de crédibilité à 95 % (trait épais) et 99 % (trait fin), moyenne postérieure (carré noir),
et valeur observée (cercle rouge) de la distribution empirique de la densité, la transitivité, et de
l’assortativité de 20 000 répliques de l’ensemble des données.
Source: Élaboration personnelle

Pour autant, pour chaque combinaison de modèle (ENSEMBLE, INDÉPENDANT),

d’ensemble des données (CÂBLAGE, MAISONS, SOCIAL, GESTION), et de dimension
latente (valeur de K ∈⟦1; 6⟧ qui minimise le WAIC), se réalise une expérience de
validation croisée de la manière suivante. D’abord, on divise les données aléatoirement
dans cinq ensembles de même taille environ. Puis, pour chaque ensemble S , on ajuste le
∗
modèle conditionnel en D={ y i ,i ' , j :(i , i' , j)∉S} , et pour chaque y dans S , on calcule
∗ ∗
E[ y ∣D] , la moyenne prédictive postérieure de y en utilisant toutes les données qui ne
sont pas dans S . Ensuite, en utilisant de telles prédictions, on construit un classificateur
binaire pour obtenir la courbe Receiver Operating Characteristic (ROC) correspondante.
Enfin, on quantifie la capacité prédictive de chaque courbe ROC à grâce à l’Area Under the
Curve (AUC). Dans ce contexte, l’AUC est une mesure de la capacité d’un modèle à prédire
les liens perdus. Plus l’AUC est élevée, meilleur est le modèle pour prédire les 0 comme des
0 et les 1 comme des 1. Dans tous les cas, les inférences sont basées sur des échantillons de
20 000 échantillons de la distribution postérieure obtenues après les réductions des
chaînes de Markov originales chaque 25 observations et une période de chauffe de 20 000
itérations.

Mesure AUC WAIC BIC

Données ENS. INDE. ENS. INDE. ENS. INDE.
CÂBLAGE 0,8827 0,8886 199.20 216,48 2 433,00 1 062,82
MAISONS 0,8866 0,7765 2 513,41 3 442,38 19 032,71 22 191,42
SOCIAL 0,8322 0,8340 10 577,20 10 855,31 29 934,11 17 187,44
GESTION 0,9036 0,7974 1 505,73 2 267,71 25 299,21 15 116,49

Tableau 2 : Valeurs de l’AUC, du WAIC et du BIC pour évaluer, respectivement le pouvoir prédictif et
la qualité d'ajustement d’ENSEMBLE et INDÉPENDANT, en utilisant les réseaux multiples du
Tableau 1. L'AUC correspond à la valeur moyenne des cinq expériences de validation croisée. Alors
que pour le WAIC et le BIC, il correspond à la plus petite valeur de K comprise entre 1 et 6 qui
minimise le WAIC.
Source: Élaboration personnelle

Les résultats de la validation croisée sont présentés dans le Tableau 2. Ces résultats
suggèrent qu'en termes prédictifs, ENSEMBLE est égal ou plus compétitif
qu'INDEPENDENT, ce qui est particulièrement évident dans MAISON et GESTION où la
capacité à prédire les liens perdus d’ENSEMBLE est nettement supérieure.
Finalement, pour évaluer la qualité de l'ajustement de chaque modèle, le WAIC est calculé
(voir la Section 4 pour plus de détails) pour tous les ensembles de données. Le Tableau 2
présente les résultats pour la plus petite valeur pour K ∈⟦1;6⟧ qui minimise le critère
d'information. Dans ce cas, ENSEMBLE présente une meilleure qualité d'ajustement dans
tous les cas, et constitue donc une meilleure option pour caractériser le processus aléatoire
qui donne lieu aux ensembles de données.

21
 7. Discussion

Ce travail présente une nouvelle approche pour modéliser un système de réseaux multiples
sur le même ensemble d'acteurs avec une méthode qui encourage le flux d'informations
entre les réseaux, contrairement à une caractérisation indépendante de chacun d'eux. Notre
proposition est basée sur une extension hiérarchique naturelle d'un modèle de distance
d'espace latent et permet d'étudier simultanément les positions sociales des acteurs à
l'intérieur et entre les réseaux. De plus, nos expériences fournissent des preuves empiriques
suffisantes pour établir que la modélisation conjointe proposée est une alternative très
compétitive dans la prédiction et la qualité d'ajustement.

Le modèle proposé est sensible aux modifications. Par exemple, le modèle peut être
facilement adapté pour inclure les effets fixes associés à un ensemble de covariables
T
{x i ,i ' , j , p } , P par moyen du prédicteur linéaire x i, i ', j β j−‖ui , j−ui ' , j‖ , où
x i, i ' , j β j=∑ p=1 x i ,i ' , j, p β j , p représente les modèles des données associées aux covariables.
T

De plus, au lieu de considérer un modèle de distance, il est également possible de faire une
formule basée sur d'autres effets latents, tels qu'un modèle factoriel (Hoff, 2009). Aussi, le
modèle proposé peut être étendu pour gérer les réseaux non dirigés au moyen d'une
différenciation des positions latentes en fonction des caractéristiques latentes de la
« sortie », ui , j et des caractéristiques latentes de « l'arrivée », v i , j , de sorte que les effets
latents peuvent être exprimés comme −‖ui , j−v i ', j‖ . Enfin, dans le même esprit que Green
et Hastie (2009), il est également possible de faire une spécification trans-dimensionnelle
du modèle où on affecte une distribution a priori à la dimension latente K .

Comme observé dans l'analyse des réseaux de la salle de câblage dans la Section 6, les
positions sociales sont susceptibles d’afficher des modèles de regroupement, qui peuvent
être modélisés directement en incluant des paramètres d'attribution aux groupes ξ 1 , . .. , ξ I
dans la distribution a priori. Plus précisément, on peut supposer que les acteurs du système
sont regroupés en H groupes, chacun occupant une position θh dans l'espace social. Ainsi,
chacun des acteurs se voit attribuer une position globale ηi correspondant à un écart
normal de ind la position du groupe auquel elle appartient, de sorte que
ηi|θ h , κ ξi ∼ N (θ ξi , κ 2 I ) , où ξ i=h signifie que l'acteur i fait partie du groupe h.
2,

Une grande partie de la littérature sur les critères d'information s'est concentrée sur les
critères d'information bayésien (BIC). Cependant, il a été démontré que le BIC est
inapproprié pour les modèles hiérarchiques, car la structure hiérarchique implique que le
nombre effectif de paramètres est statistiquement inférieur au nombre réel de paramètres.
D'un autre côté, dans le contexte de ce travail, le BIC n'est pas jugé utile car il diffère
notoirement des critères d'information de Watanabe-Akaike (WAIC). Dans le WAIC, les
critères d’information ne sont pas motivés par une estimation de l'ajustement prédictif mais
par l'objectif d'approcher la densité de probabilité marginale des données. Pour cette
raison, il est tout à fait possible que le modèle ait une bonne prédiction et un WAIC faible,
mais, en raison de la fonction de pénalité excessive du BIC (voir Tableau 2), il peut avoir un
BIC relativement élevé, c'est-à-dire pauvre.

22
Enfin, il est recommandé de faire des implémentations du modèle qui permettent d'étudier
les "grands" réseaux. Il s'agit actuellement d'un domaine de recherche actif (par exemple,
Ma et Ma, 2017, Spencer et al., 2020, Liverti et Russo, 2020).

23
 Références
Albert, J. H., & Chib, S. (1993). Bayesian Analysis of Binary and Polychotomous Response
Data. In Journal of the American Statistical Association (Vol. 88, Issue 422, pp. 669–679).
Informa UK [Link]://[Link]/10.1080/01621459.1993.10476321

Aldous, D. J. (1985). Exchangeability and related topics. In Lecture Notes in Mathematics

(pp. 1–198). Springer Berlin Heidelberg. [Link]

Aliverti, E., & Russo, M. (2021). Stratified Stochastic Variational Inference for High-
Dimensional Network Factor Model. In Journal of Computational and Graphical Statistics
(Vol. 31, Issue 2, pp. 502–511). Informa UK Limited.
[Link]

Banerjee, A., Chandrasekhar, A. G., Duflo, E., & Jackson, M. O. (2013). The Diffusion of
Microfinance. In Science (Vol. 341, Issue 6144). American Association for the Advancement
of Science (AAAS). [Link]

Borg, I. & Groenen, P. J. (2005). In Springer Series in Statistics. Springer New York.
[Link]

D'Angelo, S., Alfò, M., & Fop, M. (2020). Model-based Clustering for Multivariate Networks.
arXiv: Methodology.

D'Angelo, Silvia & Alfo, Marco & Murphy, Thomas. (2018). Node-specific effects in latent
space modelling of multidimensional networks.

Durante, D., & Dunson, D. B. (2014). Nonparametric Bayes dynamic modelling of relational data. In
Biometrika (Vol. 101, Issue 4, pp. 883–898). Oxford University Press (OUP).
[Link]

Durante, D., & Dunson, D. B. (2014). Bayesian Inference and Testing of Group Differences in
Brain Networks. ArXiv. [Link]

D'Angelo, S., Murphy, T.B., & Alfò, M. (2019). Latent space modelling of multidimensional
networks with application to the exchange of votes in Eurovision song contest. The Annals of
Applied Statistics.

Gamerman, D., & Lopes, H. F. (2006). Markov chain Monte Carlo: Stochastic simulation for
bayesian inference. Chapman & Hall/CRC.

Gao, L. L., Witten, D., & Bien, J. (2019). Testing for Association in Multi-View Network Data
(Version 3). arXiv. [Link]

Gelman, A., Carlin, J. B., Stern, H. S., Dunson, D. B., Vehtari, A., & Rubin, D. B. (2013).
Bayesian Data Analysis. Chapman and Hall/CRC.

Gelman, A., Hwang, J., & Vehtari, A. (2013). Understanding predictive information criteria
for Bayesian models. In Statistics and Computing (Vol. 24, Issue 6, pp. 997–1016). Springer
Science and Business Media LLC. [Link]

24
Gelman, A., & Rubin, D. B. (1992). Inference from Iterative Simulation Using Multiple Sequences.
In Statistical Science (Vol. 7, Issue 4). Institute of Mathematical Statistics.
[Link]

Gollini, I., & Murphy, T. B. (2016). Joint Modeling of Multiple Network Views. In Journal of
Computational and Graphical Statistics (Vol. 25, Issue 1, pp. 246–265). Informa UK Limited.
[Link]

Green, P. J. and Hastie, D. I. (2009). Reversible jump [Link], 155(3):1391–1403.

Gupta, S., Sharma, G., & Dukkipati, A. (2018). Evolving Latent Space Model for Dynamic
Networks. ArXiv, abs/1802.03725.

Haario, H., Saksman, E., & Tamminen, J. (2001). An Adaptive Metropolis Algorithm. In
Bernoulli (Vol. 7, Issue 2, p. 223). JSTOR. [Link]

Han, Q., Xu, K. S., & Airoldi, E. M. (2014). Consistent estimation of dynamic and multi-layer
block models. ArXiv. [Link]

Handcock, M. S., Raftery, A. E., & Tantrum, J. M. (2007). Model-based clustering for social
networks. In Journal of the Royal Statistical Society: Series A (Statistics in Society) (Vol. 170,
Issue 2, pp. 301–354). Wiley. [Link]

Hoff, P.D. (2007). Modeling homophily and stochastic equivalence in symmetric relational
data. NIPS, pages 657–664.

Hoff, P. D. (2005). Bilinear Mixed-Effects Models for Dyadic Data. In Journal of the
American Statistical Association (Vol. 100, Issue 469, pp. 286–295). Informa UK Limited.
[Link]

Hoff, P. D. (2009). A First Course in Bayesian Statistical Methods. In Springer Texts in Statistics.
Springer New York. [Link]

Hoff, P. D. (2014). Multilinear tensor regression for longitudinal relational data. ArXiv.
[Link]

Hoff, P. D., Raftery, A. E., & Handcock, M. S. (2002). Latent Space Approaches to Social
Network Analysis. In Journal of the American Statistical Association (Vol. 97, Issue 460, pp.
1090–1098). Informa UK Limited. [Link]

Hoover, D. N. (1982). Row-column exchangeability and a generalized model for

[Link] in probability and statistics (Rome, 1981), pages 281–291.

Kim, B., Lee, K. H., Xue, L., & Niu, X. (2018). A review of dynamic network models with
latent variables. In Statistics Surveys (Vol. 12, Issue none). Institute of Mathematical
Statistics. [Link]

Kolaczyk, E. D., & Csárdi, G. (2014). Statistical Analysis of Network Data with R. In Use R!
Springer New York, volume 65. [Link]

25
Krackhardt, D. (1987). Cognitive social structures. In Social Networks (Vol. 9, Issue 2, pp.
109–134). Elsevier BV. [Link]

Krivitsky, P. N., & Handcock, M. S. (2008). Fitting Position Latent Cluster Models for Social
Networks withlatentnet. In Journal of Statistical Software (Vol. 24, Issue 5). Foundation for
Open Access Statistic. [Link]

Krivitsky, P. N., Handcock, M. S., Raftery, A. E., & Hoff, P. D. (2009). Representing degree
distributions, clustering, and homophily in social networks with latent cluster random effects
models. In Social Networks (Vol. 31, Issue 3, pp. 204–213). Elsevier BV.
[Link]

Li, W.J., Yeung, D.Y., & Zhihua, Z. (2011). Generalized latent factor models for social
network analysis. In Proceedings of the Twenty-Second international joint conference on
Artificial Intelligence - Volume Volume Two (IJCAI'11). AAAI Press, 1705–1710.

Linkletter, C. D. (2007). Spatial process models for social network analysis (Doctoral dissertation,
Simon Fraser University).

Ma, Z., & Ma, Z. (2017). Exploration of Large Networks with Covariates via Fast and
Universal Latent Space Model Fitting (Version 2). arXiv.
[Link]

Minhas, S., Hoff, P.D., & Ward, M.D. (2018). Inferential Approaches for Network Analysis:
AMEN for Latent Factor Models. Political Analysis, 27, 208 - 222.

Nowicki, K., & Snijders, T. A. B. (2001). Estimation and Prediction for Stochastic Blockstructures.
In Journal of the American Statistical Association (Vol. 96, Issue 455, pp. 1077–1087). Informa
UK Limited. [Link]

Amini, A. A., Paez, M. S., & Lin, L. (2019). Hierarchical Stochastic Block Model for
Community Detection in Multiplex Networks (Version 2). arXiv.
[Link]

Paul, S., & Chen, Y. (2016). Consistent community detection in multi-relational data through
restricted multi-layer stochastic blockmodel. Electronic Journal of Statistics, 10, 3807-3870.

Paul, S., & Chen, Y. (2020). Spectral and matrix factorization methods for consistent
community detection in multi-layer networks. Annals of Statistics, 48(1), 230-250.
[Link]

Polson, N. G., Scott, J. G., & Windle, J. (2013). Bayesian Inference for Logistic Models Using
Pólya–Gamma Latent Variables. In Journal of the American Statistical Association (Vol. 108,
Issue 504, pp. 1339–1349). Informa UK Limited.
[Link]

Raftery, A. E., Niu, X., Hoff, P. D., & Yeung, K. Y. (2012). Fast Inference for the Latent Space
Network Model Using a Case-Control Approximate Likelihood. In Journal of Computational
and Graphical Statistics (Vol. 21, Issue 4, pp. 901–919). Informa UK Limited.
[Link]

26
Reyes, P., & Rodriguez, A. (2016). Stochastic blockmodels for exchangeable collections of
networks (Version 1). arXiv. [Link]

Dickson, W. J., & Roethlisberger, F. J. (2004). Management and the Worker. Routledge.
[Link]

Salter-Townshend, M., & McCormick, T. H. (2017). LATENT SPACE MODELS FOR

MULTIVIEW NETWORK DATA. The Annals of Applied Statistics, 11(3), 1217–1244.
[Link]

Schweinberger, M., & Snijders, T. A. B. (2003). 10. Settings in Social Networks: A

Measurement Model. In Sociological Methodology (Vol. 33, Issue 1, pp. 307–341). SAGE
Publications. [Link]

Sewell, D. K., & Chen, Y. (2015). Latent Space Models for Dynamic Networks. In Journal of
the American Statistical Association (Vol. 110, Issue 512, pp. 1646–1657). Informa UK
Limited. [Link]

Sewell, D. K., & Chen, Y. (2016). Latent space models for dynamic networks with weighted edges.
In Social Networks (Vol. 44, pp. 105–116). Elsevier BV.
[Link]

Sewell, D. K., & Chen, Y. (2017). Latent Space Approaches to Community Detection in
Dynamic Networks. ArXiv. [Link]

Sewell, D. K., & Chen, Y. (2020). Latent Space Models for Dynamic Networks. ArXiv.
[Link]

Sosa, J. (2017). A Latent Space Approach for Cognitive Social Structures Modeling and
Graphical Record Linkage. UC Santa Cruz. ProQuest ID: Sosa_ucsc_0036E_11428. Merritt
ID: ark:/13030/m55x75wm.

Spencer, N. A., Junker, B., & Sweet, T. M. (2020). Faster MCMC for Gaussian Latent
Position Network Models (Version 2). arXiv. [Link]

Swartz, T. B., Gill, P. S., & Muthukumarana, S. (2015). A Bayesian approach for the analysis
of triadic data in cognitive social structures. In Journal of the Royal Statistical Society: Series
C (Applied Statistics) (Vol. 64, Issue 4, pp. 593–610). Wiley.
[Link]

Turnbull, K. (2020).Advancements in latent space network modelling. PhD thesis, Lancaster

University.

Wang, L., Zhang, Z., & Dunson, D. (2017). Common and Individual Structure of Brain Networks
(Version 2). arXiv. [Link]

Watanabe, S. (2010). Asymptotic Equivalence of Bayes Cross Validation and Widely

Applicable Information Criterion in Singular Learning Theory. ArXiv, abs/1004.2316.

Sosa, J., & Betancourt, B. (2021). A Latent Space Model for Multilayer Network Data
(Version 1). arXiv. [Link]

27
 A. Algorithme de MCMC pour le modèle de réseaux multiples

L’algorithme de MCMC itère sur les paramètres du modèle Ῠ donnés dans la Section 4.1.
Dans la mesure du possible, les distributions conditionnelles complètes sont
échantillonnées comme dans un échantillonneur de Gibbs habituel. Sinon, des versions
adaptatives avec des étapes de Metropolis-Hastings sont utilisées (par exemple, Haario et
al., 2001). Alternativement, dans le même esprit qu'Albert et Chib (1993), des variables
aléatoires suivant une distribution Polya-Gamma peuvent être introduites pour faciliter le
calcul (Polson et al., 2013).

Dans ce cas, la distribution postérieure conjointe est donnée par :

p( Ῠ |Y )= ∏ Ber ( y i ,i ' , j |θ i ,i ' , j )∗∏ N (ui , j|ηi , σ j I )∗∏ N (ζ j| µζ , τ ζ )∗∏ IGam(σ j |α σ , β σ )
2 2 2

j ,i<i ' i,j j j

∗∏ N (ηi|θ , κ )∗N (θ|µ0, Σ 0 )∗IGam( κ |α κ , β κ )∗N ( µζ | µ0 , σ )∗IGam( τ 2ζ |a ζ ,b ζ )

2I 2 2
0
i

∗Unif (α σ |c σ , d σ )∗Gam(β σ |aσ ,b σ )

où θi ,i ' =expit (ζ j−‖u i, j−u i ' , j‖) indique la probabilité d’une interaction entrez les acteurs i
2
et i’ . Pour un ensemble d’hyper-paramètres donné, µ 0 , Σ 0 , aκ , bκ , µ 0 , σ 0 , a ζ , b ζ , a σ , bσ ,c σ et
(b +1) (b )
d σ , l’algorithme génère un nouvel état Ῠ à partir de l’état actuel Ῠ , b=1, .. . , B , de
la façon suivante:

1. Montrer u(bi , +1)

j ,i=1,. . ., I , j=1,. . . , J , en suivant algorithme de Métropolis-Hastings,
en considérant la distribution conditionnelle complète:

p(ui , j|rest )∝ ∏ Ber( y i ,i ', j |expit (ζ j−‖ui , j −ui , j '‖))

i ' : i<i '
∗ ∏ Ber ( y i' , i, j |expit (ζ j−‖ui , j−ui , j '‖))∗N (u i , j |ηi ,σ 2j I ) .
i ' : i>i '

2. Montrer ζ (b+1)
j =1,... , J , en suivant un algorithme de Metropolis-Hastings, en
considérant la distribution conditionnelle complète :

p(ζ j|rest) ∝ ∏
i ,i ' : i<i '
Ber (expit (ζ j −‖ui , j−ui ' , j‖))∗N (ζ j|µ ζ , τ 2ζ )

3. Montrer (σ 2j )(b +1) , j=1, .. . , J , d’une distribution inverse-gamma

IK 1
, β σ + ∑ (ui , j−ηi ) (ui , j−ηi ))
2 T
(σ j )|rest∼IGam(α σ +
2 2 i

4. Montrer η(bi +1) , i=1,. . . , I , d’une distribution normale multivariée

−1 −1
1 1 1 1 1 1
ηi|rest∼N ([ 2 + ∑ 2 ] [ 2 θ +∑ 2 ui , j ],[ 2 + ∑ 2 ] I )
κ j σj κ j σj κ j σj

28
 5. Montrer θ d’une distribution normale multivariée
−1 −1
I 1 I
θ|rest∼N ([Σ −1 0 µ0 + 2 ∑ ηi ],[Σ 0 + 2 I ] )
I ] [ Σ−1 −1
0 + 2
κ κ i κ

2
6. Montrer κ d’une distribution inverse-gamma

IK 1
κ 2h|rest∼IGam( α κ + , β κ + ∑ (ηi−θ)T ( ηi−θ))
2 2 i

7. Montrer µ ζ d’une distribution normale

1 J −1 µ0 j
∑ ζ j 1 J −1
µ ζ |rest∼N ([ 2 + 2 ] [ 2 + 2 ] ,[ 2 + 2 ] )
σ0 τζ σ0 τζ σ 0 τζ

2
8. Montrer τ ζ d’une distribution inverse-gamma

J 1
τ 2ζ |rest∼IGam (a ζ + ,b ζ + ∑ (ζ j−µζ )2)
2 2 j

9. Montrer α σ en suivant l’algorithme de Metropolis-Hastings, en considérant la

distribution conditionnelle complète

log p (α σ |rest)∝ J [α σ log β σ −log Γ (α σ )]−α σ ∑ log σ j

2

10. Montrer β σ d’une distribution Gamma

1
β σ |rest∼Gam (aσ +Jα σ ,b σ )+∑ 2
j σj

29
 B. Notation

La valeur∞ absolue d'un nombre réel x est notée |x| , et la fonction Gamma avec
Γ ( x )=∫0 u(x−1) e−u du . Les matrices et les vecteurs sont écrits en gras. Par exemple,
x=( x 1, ... , x n ) désigne un vecteur colonne de taille n ×1 . De plus, 0 et 1 sont utilisés pour
désigner les vecteurs colonnes dont les entrées sont toutes égales à 0 et 1, respectivement, et
I pour désigner la matrice d'identité. La transposée d'un vecteur x est notée x T ; de même
pour les matrices. Aussi, si X est une matrice carrée, on utilise tr( X) pour désigner sa trace
pour faire référence à son inverse. La norme d'un vecteur x , donnée par √ (x x) ,
−1 T
et X
est notée ‖x‖ . D'autre part, p(·|·) est utilisé pour désigner une fonction de densité de
probabilité conditionnelle ; de même avec p(·) , qui indique une distribution de probabilité
marginale. La même notation est utilisée pour les fonctions de densité continues et les
fonctions de masse de probabilité discrètes. Bien qu'il s'agisse d'un abus de notation, la
distribution conditionnelle complète d'un paramètre θ compte tenu du reste des paramètres
et des données est notée p(θ|rest ) .

30