Aprendizado de Máquina

INF01017/CMP263 - 2018/2

Prof. Bruno Castro da Silva

Profa. Mariana R. Mendoza

Aula 01

Apresentação da disciplina
Conceitos básicos
O que é inteligência artificial?

2
3
4
Algumas aplicações
modernas de IA

5
 (Siri, Okay Google, Alexa, etc)

Compreensão de sentenças em linguagem natural

6
“IBM detects skin cancer more quickly with visual machine learning”

Diagnóstico médico
7
Análise de Sentimentos
8
Descrição Automática de Cenas
9
Aprendizado de preferências e interesses
10
Detecção de Fraude
11
Carros autônomos
12
Aplicações financeiras
13
 Contextualização

Três abordagens em Aprendizado de Máquina:

• Aprendizado Supervisionado
• Aprendizado Não-Supervisionado
• Aprendizado por Reforço

14
 Aprendizado Supervisionado

• Supervisor indica a resposta desejada para cada padrão de treinamento

15
 Aprendizado Supervisionado

• Supervisor indica a resposta desejada para cada padrão de treinamento

Dados de Treinamento

{email_1, SPAM}
{email_2, NOT_SPAM}
{email_3, NOT_SPAM}
….
{email_i, SPAM}
….
{email_N, NOT_SPAM}

16
 Aprendizado Supervisionado

• Supervisor indica a resposta desejada para cada padrão de treinamento

Dados de Treinamento

{email_1, SPAM}
{email_2, NOT_SPAM}
{email_3, NOT_SPAM} Algoritmo de
…. Aprendizado
{email_i, SPAM} Supervisionado
….
{email_N, NOT_SPAM}

17
 Aprendizado Supervisionado

• Supervisor indica a resposta desejada para cada padrão de treinamento

Dados de Treinamento {new_email, ?}

{email_1, SPAM}
{email_2, NOT_SPAM}
{email_3, NOT_SPAM} Algoritmo de
…. Aprendizado
{email_i, SPAM} Supervisionado
….
{email_N, NOT_SPAM}

18
 Aprendizado Supervisionado

• Supervisor indica a resposta desejada para cada padrão de treinamento

Dados de Treinamento {new_email, ?}

{email_1, SPAM}
{email_2, NOT_SPAM}
{email_3, NOT_SPAM} Algoritmo de
…. Aprendizado
{email_i, SPAM} Supervisionado
….
{email_N, NOT_SPAM}

19
 Aprendizado Supervisionado

• Supervisor indica a resposta desejada para cada padrão de treinamento

Dados de Treinamento {new_email, ?}

{email_1, SPAM}
{email_2, NOT_SPAM}
{email_3, NOT_SPAM} Algoritmo de
…. Aprendizado
{email_i, SPAM} Supervisionado
….
{email_N, NOT_SPAM}

{new_email, SPAM}
20
 Aprendizado Não-Supervisionado
• Não existe supervisor indicando a resposta desejada
 Aprendizado Não-Supervisionado
• Não existe supervisor indicando a resposta desejada

Dados de Treinamento

{fuelEconomy=1, lowPrice=3, comfort=5, acceleration=1}

{fuelEconomy=3, lowPrice=5, comfort=3, acceleration=3}
{fuelEconomy=5, lowPrice=5, comfort=2, acceleration=4}
{fuelEconomy=2, lowPrice=2, comfort=1, acceleration=4}
{fuelEconomy=1, lowPrice=3, comfort=2, acceleration=2}

(preferências indicadas por compradores de carros)

 Aprendizado Não-Supervisionado
• Não existe supervisor indicando a resposta desejada

Dados de Treinamento Algoritmo de

Aprendizado Não-
{fuelEconomy=1, lowPrice=3, comfort=5, acceleration=1}
Supervisionado
{fuelEconomy=3, lowPrice=5, comfort=3, acceleration=3}
{fuelEconomy=5, lowPrice=5, comfort=2, acceleration=4}
{fuelEconomy=2, lowPrice=2, comfort=1, acceleration=4}
{fuelEconomy=1, lowPrice=3, comfort=2, acceleration=2}

(preferências indicadas por compradores de carros)

 Aprendizado Não-Supervisionado
• Não existe supervisor indicando a resposta desejada

Dados de Treinamento Algoritmo de

Aprendizado Não-
{fuelEconomy=1, lowPrice=3, comfort=5, acceleration=1}
Supervisionado
{fuelEconomy=3, lowPrice=5, comfort=3, acceleration=3}
{fuelEconomy=5, lowPrice=5, comfort=2, acceleration=4}
{fuelEconomy=2, lowPrice=2, comfort=1, acceleration=4}
{fuelEconomy=1, lowPrice=3, comfort=2, acceleration=2}

(preferências indicadas por compradores de carros)

lowPrice

acceleration
 Aprendizado Não-Supervisionado
• Não existe supervisor indicando a resposta desejada

Dados de Treinamento Algoritmo de

Aprendizado Não-
{fuelEconomy=1, lowPrice=3, comfort=5, acceleration=1}
Supervisionado
{fuelEconomy=3, lowPrice=5, comfort=3, acceleration=3}
{fuelEconomy=5, lowPrice=5, comfort=2, acceleration=4}
{fuelEconomy=2, lowPrice=2, comfort=1, acceleration=4}
{fuelEconomy=1, lowPrice=3, comfort=2, acceleration=2}

(preferências indicadas por compradores de carros)

lowPrice
"compradores de carros de luxo"
"compradores preocupados com performance"
"compradores que buscam economia e conforto"
acceleration
 Aprendizado de Máquina

• Aprendizado Supervisionado → existe supervisor informando respostas

• Aprendizado Não-Supervisionado → não existe supervisor
• Aprendizado por Reforço → ?

26
 Aprendizado de Máquina

• Aprendizado Supervisionado → existe supervisor informando respostas

• Aprendizado Não-Supervisionado → não existe supervisor

da ?
• Aprendizado por Reforço Ângulo→ mão
deveria
ter sido 13 graus!

27
 Aprendizado de Máquina

• Aprendizado Supervisionado → existe supervisor informando respostas

• Aprendizado Não-Supervisionado → não existe supervisor
• Aprendizado por Reforço → nem sempre existe supervisão
explícita durante o treinamento

28
 Aprendizado
Supervisionado

29
 Aprendizagem de Máquina
• Prever número de Likes em um meme no Facebook

• Com base em
• número de amigos online
• o quão engraçado o usuário acha que o meme é (0-10)

30
 Aprendizagem de Máquina
• Prever número de Likes em um meme no Facebook

• Com base em
• número de amigos online
• o quão engraçado o usuário acha que o meme é (0-10)

nível
#amigos Likes
Engraçado
Post1 40 8 28
Post2 36 10 28
Post3 20 6 16
Post4 56 4 31
Post5 58 0 29
Post6 46 10 33
([Link] 31
 Aprendizagem de Máquina
nível
#amigos Likes
Engraçado
Post1 40 8 28
Post2 36 10 28
Post3 20 6 16
Parece haver um padrão
Post4 56 4 31 nestes números
Post5 58 0 29
Post6 46 10 33

32
 Aprendizagem de Máquina
nível
#amigos Likes
Engraçado
Post1 40 8 28
Post2 36 10 28
Post3 20 6 16
Parece haver um padrão
Post4 56 4 31 nestes números
Post5 58 0 29
Post6 46 10 33

Likes = (0.5 * #amigos) + (1 * nívelEngraçado)

33
 Aprendizagem de Máquina
nível
#amigos Likes
Engraçado
Post1 40 8 28 28
Post2 36 10 28 28
Post3 20 6 16 16
Parece haver um padrão
Post4 56 4 31 32 nestes números
Post5 58 0 29 29
Post6 46 10 33 33

Likes = (0.5 * #amigos) + (1 * nívelEngraçado)

34
 Aprendizagem de Máquina
nível
#amigos Likes
Engraçado
Post1 40 8 28 28
Post2 36 10 28 28
Post3 20 6 16 16
Parece haver um padrão
Post4 56 4 31 32 nestes números
Post5 58 0 29 29
Post6 46 10 33 33

Likes = (0.5 * #amigos) + (1 * nívelEngraçado)

Regressão Linear
35
 Aprendizagem de Máquina
nível
#amigos Likes
Engraçado
Post1 40 8 28 28
Post2 36 10 28 28
Post3 20 6 16 16
Parece haver um padrão
Post4 56 4 31 32 nestes números
Post5 58 0 29 29
Post6 46 10 33 33

Likes = funçãoComplicada(#amigos, nívelEngraçado)

36
 Aprendizagem de Máquina
nível
#amigos Likes
Engraçado
Post1 40 8 28 28
Post2 36 10 28 28
Post3 20 6 16 16
Parece haver um padrão
Post4 56 4 31 32 nestes números
Post5 58 0 29 29
Post6 46 10 33 33

Likes = funçãoComplicada(#amigos, nívelEngraçado)

Redes Neurais
37
 Aprendizagem de Máquina
nível
#amigos Likes
Engraçado
Post1 40 8 28
Post2 36 10 28
Post3 20 6 16
Post4 56 4 31 if #amigos >= 50
if nívelEngraçado > 3
Post5 58 0 29
Likes >= 30
Post6 46 10 33
else
Likes < 30
else
if nívelEngraçado > 9
Likes >= 30
else
Likes < 30
38
 Aprendizagem de Máquina
nível
#amigos Likes
Engraçado
Post1 40 8 28
Post2 36 10 28
Post3 20 6 16
Post4 56 4 31 if #amigos >= 50
if nívelEngraçado > 3
Post5 58 0 29
Likes >= 30
Post6 46 10 33
else
Likes < 30
else
Árvores de Decisão if nívelEngraçado > 9
Likes >= 30
else
Likes < 30
39
Aprendendo o Jogo das 20 Perguntas

[Link]

40
41
42
43
44
45
46
47
48
49
Aprendendo o Jogo das 20 Perguntas

[Link]

{homem=True, americano=True, Político=False, Cantor=True, Morto=True} → Elvis

{homem=False, americano=Falso, Político=True, Cantor=False, Morto=False} → Dilma
{homem=True, americano=True, Político=True, Cantor=False, Morto=False} → Obama
{homem=True, americano=False, Político=True, Cantor=True, Morto=False} → Tiririca
…

50
Aprendendo o Jogo das 20 Perguntas

[Link]

{homem=True, americano=True, Político=False, Cantor=True, Morto=True} → Elvis

{homem=False, americano=Falso, Político=True, Cantor=False, Morto=False} → Dilma
{homem=True, americano=True, Político=True, Cantor=False, Morto=False} → Obama
{homem=True, americano=False, Político=True, Cantor=True, Morto=False} → Tiririca
…

Exemplos de treinamento

51
Árvores de Decisão

52
 Árvores de Decisão
• Quais perguntas fazer antes para tentar adivinhar quem é a pessoa?

53
 Árvores de Decisão
• Quais perguntas fazer antes para tentar adivinhar quem é a pessoa?

• É homem ou mulher?
• Comeu arroz em algum momento no mês passado?

54
 Árvores de Decisão
• Quais perguntas fazer antes para tentar adivinhar quem é a pessoa?

• É homem ou mulher?
• Comeu arroz em algum momento no mês passado?

Ganho de Informação

55
 Árvores de Decisão
• Quais perguntas fazer antes para tentar adivinhar quem é a pessoa?

• É homem ou mulher?
• Comeu arroz em algum momento no mês passado?

Ganho de Informação

• G(“Sexo") = 0.9
• G(“Mora_Brasil”) = 0.73
• G(“É_Político”) = 0.36
• …
56
 Árvores de Decisão
• Quais perguntas fazer antes para tentar adivinhar quem é a pessoa?

• É homem ou mulher?
• Comeu arroz em algum momento no mês passado?

Ganho de Informação

• G(“Sexo") = 0.9
• G(“Mora_Brasil”) = 0.73 Entropia de Conjuntos
• G(“É_Político”) = 0.36
• …
57
 Árvores de Decisão
• Quais perguntas fazer antes para tentar adivinhar quem é a pessoa?

• É homem ou mulher?
• Comeu arroz em algum momento no mês passado?

Ganho de Informação

• G(“Sexo") = 0.9
• G(“Mora_Brasil”) = 0.73 Entropia de Conjuntos
• G(“É_Político”) = 0.36
• …
58
Árvores de Decisão

59
 Florestas Aleatórias
Exemplos disponíveis

{x1, f(x1), …, x20, f(x20)}

Cj. de treinamento da Cj. de treinamento da Cj. de treinamento da

árvore #1 árvore #2 árvore #3

{x2, f(x2), {x1, f(x1), {x6, f(x1),

x9, f(x9), x3, f(x3), x7, f(x7),
x11, f(x11), x6, f(x6), x17, f(x17),
x19, f(x19)} x13 f(x13)} x18 f(x18)}

60
 Florestas Aleatórias
Exemplos disponíveis

{x1, f(x1), …, x20, f(x20)}

Cj. de treinamento da Cj. de treinamento da Cj. de treinamento da

árvore #1 árvore #2 árvore #3

{x2, f(x2), {x1, f(x1), {x6, f(x1),

x9, f(x9), x3, f(x3), x7, f(x7),
x11, f(x11), x6, f(x6), x17, f(x17),
x19, f(x19)} x13 f(x13)} x18 f(x18)}

Árvore #1

61
 Florestas Aleatórias
Exemplos disponíveis

{x1, f(x1), …, x20, f(x20)}

Cj. de treinamento da Cj. de treinamento da Cj. de treinamento da

árvore #1 árvore #2 árvore #3

{x2, f(x2), {x1, f(x1), {x6, f(x1),

x9, f(x9), x3, f(x3), x7, f(x7),
x11, f(x11), x6, f(x6), x17, f(x17),
x19, f(x19)} x13 f(x13)} x18 f(x18)}

Árvore #1 Árvore #2

62
 Florestas Aleatórias
Exemplos disponíveis

{x1, f(x1), …, x20, f(x20)}

Cj. de treinamento da Cj. de treinamento da Cj. de treinamento da

árvore #1 árvore #2 árvore #3

{x2, f(x2), {x1, f(x1), {x6, f(x1),

x9, f(x9), x3, f(x3), x7, f(x7),
x11, f(x11), x6, f(x6), x17, f(x17),
x19, f(x19)} x13 f(x13)} x18 f(x18)}

Árvore #1 Árvore #2 Árvore #3

63
 Florestas Aleatórias
Exemplos disponíveis

{x1, f(x1), …, x20, f(x20)}

Cj. de treinamento da Cj. de treinamento da Cj. de treinamento da

árvore #1 árvore #2 árvore #3

{x2, f(x2), {x1, f(x1), {x6, f(x1),

x9, f(x9), x3, f(x3), x7, f(x7),
x11, f(x11), x6, f(x6), x17, f(x17),
x19, f(x19)} x13 f(x13)} x18 f(x18)}

Árvore #1 Árvore #2 Árvore #3

r e sta
Flo tória
a
Ale

64
 Florestas Aleatórias
Exemplos disponíveis

{x1, f(x1), …, x20, f(x20)}

Cj. de treinamento da Cj. de treinamento da Cj. de treinamento da

árvore #1 árvore #2 árvore #3

{x2, f(x2), {x1, f(x1), {x6, f(x1),

x9, f(x9), x3, f(x3), x7, f(x7),
x11, f(x11), x6, f(x6), x17, f(x17),
x19, f(x19)} x13 f(x13)} x18 f(x18)}

Árvore #1 Árvore #2 Árvore #3

nova entrada
x

65
 Florestas Aleatórias
Exemplos disponíveis

{x1, f(x1), …, x20, f(x20)}

Cj. de treinamento da Cj. de treinamento da Cj. de treinamento da

árvore #1 árvore #2 árvore #3

{x2, f(x2), {x1, f(x1), {x6, f(x1),

x9, f(x9), x3, f(x3), x7, f(x7),
x11, f(x11), x6, f(x6), x17, f(x17),
x19, f(x19)} x13 f(x13)} x18 f(x18)}

Árvore #1 Árvore #2 Árvore #3

nova entrada
x

Obama Miley Cyrus Obama

66
 Florestas Aleatórias
Exemplos disponíveis

{x1, f(x1), …, x20, f(x20)}

Cj. de treinamento da Cj. de treinamento da Cj. de treinamento da

árvore #1 árvore #2 árvore #3

{x2, f(x2), {x1, f(x1), {x6, f(x1),

x9, f(x9), x3, f(x3), x7, f(x7),
x11, f(x11), x6, f(x6), x17, f(x17),
x19, f(x19)} x13 f(x13)} x18 f(x18)}

Árvore #1 Árvore #2 Árvore #3

nova entrada
x

Obama Miley Cyrus Obama

Obama (por votação)

67
Regressão Linear

68
 Regressão Linear

#amigosOnline Likes

1.00 1.00

2.00 2.00

3.00 1.30

4.00 3.75

5.00 2.25

69
 Regressão Linear

#amigosOnline Likes

1.00 1.00

2.00 2.00

3.00 1.30

Likes
4.00 3.75

5.00 2.25

#amigosOnline 70
 Regressão Linear

#amigosOnline Likes

1.00 1.00

2.00 2.00

3.00 1.30

Likes
4.00 3.75

5.00 2.25

Likes = a + b * #amigosOnline

#amigosOnline 71
 Regressão Linear

#amigosOnline Likes

1.00 1.00

2.00 2.00

3.00 1.30

Likes
4.00 3.75

5.00 2.25

Likes = a + b * #amigosOnline

Suponha a = 0.785
b = 0.425

#amigosOnline 72
 Regressão Linear

#amigosOnline Likes

1.00 1.00

2.00 2.00

3.00 1.30

Likes
4.00 3.75

5.00 2.25

Likes = a + b * #amigosOnline

Suponha a = 0.785
b = 0.425

#amigosOnline 73
 Regressão Linear

#amigosOnline Likes

1.00 1.00

2.00 2.00

3.00 1.30

Likes
4.00 3.75

5.00 2.25

Likes = a + b * #amigosOnline

Suponha a = 0.785
b = 0.425

#amigosOnline 74
 Regressão Linear

#amigosOnline Likes

1.00 1.00

2.00 2.00

3.00 1.30

Likes
4.00 3.75

5.00 2.25

Likes = a + b * #amigosOnline

Suponha a = 0.785
b = 0.425

Existe algum a e b com melhor ajuste? #amigosOnline 75

Redes Neurais

76
 Redes Neurais

• Reconhecimento de padrões

• processamento de imagens / visão robótica

• reconhecimento de voz
• controle de sistemas dinâmicos
• categorização de textos
• mineração de dados

77
 Redes Neurais
Tesla Auto-Pilot saves the day

[Link]
78
Neurônio com Saída Linear

79
 Neurônio com Saída Linear
das
tra
en

80
Neurônio com Saída Linear
sos s
pe tico
ináp
s

81
Neurônio com Saída Linear

íd a
sa

82
 Neurônio com Saída Linear

#amigos
Online

nível
Engraçado Likes

popularidade
Assunto

83
 Neurônio com Saída Linear

#amigos
Online 3.5

nível
Engraçado -2.1 Likes

popularidade
Assunto 0.7

84
 Neurônio com Saída Linear

#amigos
Online 3.5 =0.7

=0.34
nível
Engraçado -2.1
=0.1

popularidade
Assunto 0.7

85
 Neurônio com Saída Linear

#amigos
Online 3.5 =0.7

=0.34
nível
Engraçado -2.1
=0.1

popularidade
Assunto 0.7

3.5*0.7 -2.1*0.34 + 0.7*0.1 = 1.8

86
 Neurônio com Saída Linear

#amigos
Online 3.5 =0.7

=0.34
nível
Engraçado -2.1 1.8
=0.1 Likes

popularidade
Assunto 0.7

3.5*0.7 -2.1*0.34 + 0.7*0.1 = 1.8

87
 Neurônio com Saída Linear

#amigos
Online 3.5 =0.7

=0.34
nível
Engraçado -2.1 1.8
=0.1 Likes

popularidade
Assunto 0.7

De onde vêm os pesos?

88
 Neurônio com Saída Linear

#amigos
Online 3.5 =0.7

=0.34
nível
Engraçado -2.1 1.8
=0.1 Likes

popularidade
Assunto 0.7

De onde vêm os pesos?

Exemplos de treinamento
89
 Neurônio com Saída Linear

#amigos
Online 3.5 =0.7

=0.34
nível
Engraçado -2.1 1.8
=0.1 Likes

popularidade
Assunto 0.7
#amigos nível popularidade
Likes
Online Engraçado Assunto

1.0 2.4 0.8 25

45.2 9.1 2.4 126
De onde vêm os pesos?
3.5 -2.1 0.7 2.95
Exemplos de treinamento
0 113 45 25.6
90
 Neurônio com Saída Linear

#amigos
Online 3.5 =0.7

=0.34
nível
Engraçado -2.1 1.8
=0.1 Likes

popularidade
Assunto 0.7
#amigos nível popularidade
Likes
Online Engraçado Assunto

1.0 2.4 0.8 25

45.2 9.1 2.4 126
De onde vêm os pesos?
3.5 -2.1 0.7 2.95
Exemplos de treinamento
0 113 45 25.6
91
 Neurônio com Saída Linear
Rede errou!

Saída 1.8
#amigos Deveria ser 2.95
Online 3.5 =0.7
Ajuste dos pesos

=0.34
nível
Engraçado -2.1 1.8
=0.1 Likes

popularidade
Assunto 0.7
#amigos nível popularidade
Likes
Online Engraçado Assunto

1.0 2.4 0.8 25

45.2 9.1 2.4 126
De onde vêm os pesos?
3.5 -2.1 0.7 2.95
Exemplos de treinamento
0 113 45 25.6
92
 Neurônio com Saída Linear
Rede errou!

Saída 1.8
#amigos Deveria ser 2.95
Online 3.5 =0.7
Ajuste dos pesos

=0.34
nível
Engraçado -2.1 1.8
=0.1 Likes

popularidade
Assunto 0.7
#amigos nível popularidade
Likes
Online Engraçado Assunto

1.0 2.4 0.8 25

45.2 9.1 2.4 126
De onde vêm os pesos?
3.5 -2.1 0.7 2.95
Exemplos de treinamento
0 113 45 25.6
93
 Neurônio com Saída Linear
Rede errou!

Saída 1.8
#amigos Deveria ser 2.95
Online 3.5 =0.7
Ajuste dos pesos

=0.34
nível
Engraçado -2.1 1.8
=0.1 Likes

popularidade
Assunto 0.7
#amigos nível popularidade
Likes
Online Engraçado Assunto

1.0 2.4 0.8 25

45.2 9.1 2.4 126
De onde vêm os pesos?
3.5 -2.1 0.7 2.95
Exemplos de treinamento
0 113 45 25.6
94
 Neurônio com Saída Linear
Rede errou!

Saída 1.8
#amigos Deveria ser 2.95
Online 3.5 =0.7
Ajuste dos pesos

=0.34
nível
Engraçado -2.1
=0.1

popularidade
Assunto 0.7
#amigos nível popularidade
Likes
Online Engraçado Assunto

1.0 2.4 0.8 25

45.2 9.1 2.4 126
De onde vêm os pesos?
3.5 -2.1 0.7 2.95
Exemplos de treinamento
0 113 45 25.6
95
 Neurônio com Saída Linear
Rede errou!

Saída 1.8
#amigos Deveria ser 2.95
Online 3.5 =0.7
Ajuste dos pesos

=0.34
nível
Engraçado -2.1 1.8
=0.1 Likes

popularidade
Assunto 0.7
#amigos nível popularidade
Likes
Online Engraçado Assunto

1.0 2.4 0.8 25

45.2 9.1 2.4 126
De onde vêm os pesos?
3.5 -2.1 0.7 2.95
Exemplos de treinamento
0 113 45 25.6
96
 Neurônio com Saída Linear
Rede errou!

Saída 1.8
#amigos Deveria ser 2.95
Online 3.5 =0.7 0.85
Ajuste dos pesos

=0.34
nível
Engraçado -2.1 1.8
=0.1 Likes

popularidade
Assunto 0.7
#amigos nível popularidade
Likes
Online Engraçado Assunto

1.0 2.4 0.8 25

45.2 9.1 2.4 126
De onde vêm os pesos?
3.5 -2.1 0.7 2.95
Exemplos de treinamento
0 113 45 25.6
97
 Neurônio com Saída Linear
Rede errou!

Saída 1.8
#amigos Deveria ser 2.95
Online 3.5 =0.7 0.85
Ajuste dos pesos

=0.34 0.15
nível
Engraçado -2.1 1.8
=0.1 Likes

popularidade
Assunto 0.7
#amigos nível popularidade
Likes
Online Engraçado Assunto

1.0 2.4 0.8 25

45.2 9.1 2.4 126
De onde vêm os pesos?
3.5 -2.1 0.7 2.95
Exemplos de treinamento
0 113 45 25.6
98
 Neurônio com Saída Linear
Rede errou!

Saída 1.8
#amigos Deveria ser 2.95
Online 3.5 =0.7 0.85
Ajuste dos pesos

=0.34 0.15
nível
Engraçado -2.1 1.8
=0.1 0.4 Likes

popularidade
Assunto 0.7
#amigos nível popularidade
Likes
Online Engraçado Assunto

1.0 2.4 0.8 25

45.2 9.1 2.4 126
De onde vêm os pesos?
3.5 -2.1 0.7 2.95
Exemplos de treinamento
0 113 45 25.6
99
 Neurônio com Saída Linear
Rede errou!

Saída 1.8
#amigos Deveria ser 2.95
Online 3.5 =0.7 0.85
Ajuste dos pesos

=0.34 0.15
nível
Engraçado -2.1 2.94
=0.1 0.4 Likes

popularidade
Assunto 0.7
#amigos nível popularidade
Likes
Online Engraçado Assunto

1.0 2.4 0.8 25

45.2 9.1 2.4 126
De onde vêm os pesos?
3.5 -2.1 0.7 2.95
Exemplos de treinamento
0 113 45 25.6
100
 Neurônio com Saída Linear
Rede errou!

ro1.8r
Saída
r
E sero 2.95
Deveria
#amigos
3.5 =0.7 0.85 e n
Online m
Ajuste dos pesos

=0.34 0.15
nível
Engraçado -2.1 2.94
=0.1 0.4 Likes

popularidade
Assunto 0.7
#amigos nível popularidade
Likes
Online Engraçado Assunto

1.0 2.4 0.8 25

45.2 9.1 2.4 126
De onde vêm os pesos?
3.5 -2.1 0.7 2.95
Exemplos de treinamento
0 113 45 25.6
101
 Neurônio com Saída Linear

#amigos
Online 3.5 =0.7

=0.34
nível
Engraçado -2.1 1.8
=0.1

popularidade
Assunto 0.7
#amigos nível popularidade Likes
Assunto Likes
Online Engraçado Previstos

1.0 2.4 0.8 25

Processo
de 45.2 9.1 2.4 126
Aprendizado 3.5 -2.1 0.7 2.95
(ajuste dos pesos)
0 113 45 25.6
102
 Neurônio com Saída Linear

#amigos
Online 3.5 =0.7

=0.34
nível
Engraçado -2.1 1.8
=0.1 Likes

popularidade
Assunto 0.7
#amigos nível popularidade Likes
Assunto Likes
Online Engraçado Previstos

Testa exemplo 1.0 2.4 0.8 25

#1
45.2 9.1 2.4 126
3.5 -2.1 0.7 2.95
0 113 45 25.6
103
 Neurônio com Saída Linear

#amigos
Online 3.5 =0.7

=0.34
nível
Engraçado -2.1 1.8
=0.1

popularidade
Assunto 0.7
#amigos nível popularidade Likes
Assunto Likes
Online Engraçado Previstos

Testa exemplo 1.0 2.4 0.8 25 21

#1
45.2 9.1 2.4 126
3.5 -2.1 0.7 2.95
0 113 45 25.6
104
 Neurônio com Saída Linear

#amigos
Online 3.5 =0.7

=0.34
nível
Engraçado -2.1 1.8
=0.1

popularidade
Assunto 0.7
#amigos nível popularidade Likes
Assunto Likes
Online Engraçado Previstos

Testa exemplo 1.0 2.4 0.8 25 21

#1
45.2 9.1 2.4 126
Ajusta pesos 3.5 -2.1 0.7 2.95
com base no erro
(25-21) 0 113 45 25.6
105
 Neurônio com Saída Linear

#amigos
Online 3.5 =0.7

=0.34
nível
Engraçado -2.1 1.8
=0.1

popularidade
Assunto 0.7
#amigos nível popularidade Likes
Assunto Likes
Online Engraçado Previstos

Testa exemplo 1.0 2.4 0.8 25 26.5

#1
45.2 9.1 2.4 126
Ajusta pesos 3.5 -2.1 0.7 2.95
com base no erro
(25-21) 0 113 45 25.6
106
 Neurônio com Saída Linear

#amigos
Online 3.5 =0.7

=0.34
nível
Engraçado -2.1 1.8
=0.1

popularidade
Assunto 0.7
#amigos nível popularidade Likes
Assunto Likes
Online Engraçado Previstos

1.0 2.4 0.8 25 26.5

Testa exemplo 45.2 9.1 2.4 126
#2
3.5 -2.1 0.7 2.95
0 113 45 25.6
107
 Neurônio com Saída Linear

#amigos
Online 3.5 =0.7

=0.34
nível
Engraçado -2.1 1.8
=0.1

popularidade
Assunto 0.7
#amigos nível popularidade Likes
Assunto Likes
Online Engraçado Previstos

1.0 2.4 0.8 25 26.5

Testa exemplo 45.2 9.1 2.4 126 179
#2
3.5 -2.1 0.7 2.95
0 113 45 25.6
108
 Neurônio com Saída Linear

#amigos
Online 3.5 =0.7

=0.34
nível
Engraçado -2.1 1.8
=0.1

popularidade
Assunto 0.7
#amigos nível popularidade Likes
Assunto Likes
Online Engraçado Previstos

1.0 2.4 0.8 25 26.5

Testa exemplo 45.2 9.1 2.4 126 179
#2
3.5 -2.1 0.7 2.95
Ajusta pesos
com base no erro 0 113 45 25.6
(126-179) 109
 Neurônio com Saída Linear

#amigos
Online 3.5 =0.7

=0.34
nível
Engraçado -2.1 1.8
=0.1

popularidade
Assunto 0.7
#amigos nível popularidade Likes
Assunto Likes
Online Engraçado Previstos

1.0 2.4 0.8 25 26.5

Testa exemplo 45.2 9.1 2.4 126 119
#2
3.5 -2.1 0.7 2.95
Ajusta pesos
com base no erro 0 113 45 25.6
(126-179) 110
 Neurônio com Saída Linear

#amigos
Online 3.5 =0.7

=0.34
nível
Engraçado -2.1 1.8
=0.1

popularidade
Assunto 0.7
#amigos nível popularidade Likes
Assunto Likes
Online Engraçado Previstos

1.0 2.4 0.8 25 26.5

45.2 9.1 2.4 126 119
Testa exemplo 3.5 -2.1 0.7 2.95
#3
0 113 45 25.6
111
 Neurônio com Saída Linear

#amigos
Online 3.5 =0.7

=0.34
nível
Engraçado -2.1 1.8
=0.1

popularidade
Assunto 0.7
#amigos nível popularidade Likes
Assunto Likes
Online Engraçado Previstos

1.0 2.4 0.8 25 26.5

45.2 9.1 2.4 126 119
Testa exemplo 3.5 -2.1 0.7 2.95 1.03
#3
0 113 45 25.6
112
 Neurônio com Saída Linear

#amigos
Online 3.5 =0.7

=0.34
nível
Engraçado -2.1 1.8
=0.1

popularidade
Assunto 0.7
#amigos nível popularidade Likes
Assunto Likes
Online Engraçado Previstos

1.0 2.4 0.8 25 26.5

45.2 9.1 2.4 126 119
Ajusta pesos Testa exemplo
com base no erro 3.5 -2.1 0.7 2.95 1.03
#3
(2.95-1.03) 0 113 45 25.6
113
 Neurônio com Saída Não-Linear

3.5 =0.7

=0.34
-2.1 1.8
=0.1

0.7

3.5*0.7 -2.1*0.34 + 0.7*0.1 = 1.8

114
 Neurônio com Saída Não-Linear

3.5 =0.7

=0.34
-2.1
=0.1

0.7
Função de ativação não-linear

115
 Neurônio com Saída Não-Linear

3.5 =0.7

=0.34
-2.1
=0.1

0.7

3.5*0.7 -2.1*0.34 + 0.7*0.1 = 1.8

116
 Neurônio com Saída Não-Linear

3.5 =0.7

=0.34
-2.1
=0.1

0.7

3.5*0.7 -2.1*0.34 + 0.7*0.1 = 1.8

h
tan
f(1.8)=0.946
117
 Neurônio com Saída Não-Linear

3.5 =0.7

=0.34
-2.1
=0.1

0.7

3.5*0.7 -2.1*0.34 + 0.7*0.1 = 1.8

h
tan
f(1.8)=0.946
118
 Neurônio com Saída Não-Linear

3.5 =0.7

=0.34
-2.1 0.946
=0.1

0.7

3.5*0.7 -2.1*0.34 + 0.7*0.1 = 1.8

h
tan
f(1.8)=0.946
119
 Neurônio com Saída Não-Linear

3.5 =0.7

=0.34
-2.1 0.946
=0.1

0.7

Permite combinar vários

neurônios em uma rede
120
Redes Multi-Camadas

121
Redes Multi-Camadas

122
 Redes Multi-Camadas

3.5

-2.1

0.7

123
 Redes Multi-Camadas

3.5

-2.1

0.7

124
 Redes Multi-Camadas

3.5

-2.1

0.7

125
 Redes Multi-Camadas

3.5

-2.1

0.7

126
 Redes Multi-Camadas

3.5

-2.1 0.7

0.7

127
Redes Multi-Camadas

128
Redes Multi-Camadas

129
Reconhecimento de escrita

130
Reconhecimento de escrita

(pixels)

131
Reconhecimento de escrita

(pixels)

Prob(1) = 0.1

Prob(2) = 0.0

Prob(3) = 0.0

Prob(7) = 0.9

132
Classificação de Objetos em Tempo Real

[Link]
133
Sistemas de Recomendação

Aprendizado de preferências e interesses

134
 Sistemas de Recomendação

(pixels)

135
 Sistemas de Recomendação

(pixels)

Comedy (0/1)

Predicted
Strong Female Lead (0/1) #stars

Year

136
Autoencoders

137
Autoencoders
(pixels)

138
Autoencoders
(pixels) (pixels)

139
Autoencoders
(pixels) (pixels)

140
Autoencoders
(pixels) (pixels)

1.4

-1.3

7.2

141
Autoencoders
(pixels) (pixels)

-9.2

3.9

2.1

142
Autoencoders
(pixels)

-9.2

3.9

2.1

143
 Autoencoders
(pixels)

-9.2

O que acontece 3.9

se levemente 2.1
mudarmos um
destes valores?

144
 Autoencoders
(pixels)

-9.2

O que acontece 3.9

se levemente 2.5
mudarmos um
destes valores?

145
Autoencoders
(pixels)

-9.2

3.9

2.5

146
Autoencoders

Gatos
“alucinados"
pelo
autoencoder

147
Autoencoders

148
Autoencoders

149
Autoencoders

150
Autoencoders

151
Autoencoders

152
Aprendizado Supervisionado - Naive Bayes

153
Aprendizado Supervisionado - Naive Bayes

154
Aprendizado Supervisionado - Naive Bayes

Spam ou Não Spam? 155

Classificador Naive Bayes

• Probabilidade de email ser spam e não-spam

• dado que tem as palavras viagra e compre

156
Classificador Naive Bayes

• Probabilidade de email ser spam e não-spam

• dado que tem as palavras viagra e compre

Teorema de Bayes!

157
Classificador Naive Bayes

• Probabilidade de email ser spam e não-spam

• dado que tem as palavras viagra e compre

158
Classificador Naive Bayes

• Probabilidade de email ser spam e não-spam

• dado que tem as palavras viagra e compre

159
Classificador Naive Bayes

• Probabilidade de email ser spam e não-spam

• dado que tem as palavras viagra e compre

160
Classificador Naive Bayes

• Probabilidade de email ser spam e não-spam

• dado que tem as palavras viagra e compre

161
Classificador Naive Bayes

• Probabilidade de email ser spam e não-spam

• dado que tem as palavras viagra e compre

na prática 162
 Classificador Naive Bayes
• Basicamente conta freqüência relativa de palavras para cada tipo de rótulo

Prever voto (Sim/Não) baseado nas palavras usadas no discurso

163
 Classificador Naive Bayes
• Basicamente conta freqüência relativa de palavras para cada tipo de rótulo

Votos SIM: povo, casa, Estado, Deus, família

164
 Classificador Naive Bayes
• Basicamente conta freqüência relativa de palavras para cada tipo de rótulo

Votos NÃO: defesa, País, povo, democracia, golpe

165
 Aprendizado
Não-Supervisionado

166
Métodos de Agrupamento

comfort

fuelEconomy

"compradores de carros de luxo"

"compradores preocupados com performance"
"compradores que buscam economia e conforto"

167
 Métodos de Agrupamento

[Link]
168
 Métodos de Agrupamento

(…)

[Link]
169
 Métodos de Agrupamento

[Link]
170
 Métodos de Agrupamento

• Agrupamento de clientes de um supermercado

• com base em quais produtos eles compram

171
 Métodos de Agrupamento

• Agrupamento de clientes de um supermercado

• com base em quais produtos eles compram

• Clientes que compram produtos semelhantes

• são agrupados em um mesmo cluster

172
 Métodos de Agrupamento

• Agrupamento de clientes de um supermercado

• com base em quais produtos eles compram

• Clientes que compram produtos semelhantes

• são agrupados em um mesmo cluster

• Análise dos clusters revela que

• clientes que compram fraldas têm maior
probabilidade de comprar cerveja
• supermercado move estante de cervejas
mais próxima da de fraldas
→ aumento nas vendas!
173
 Métodos de Agrupamento

• Agrupamento de clientes de um supermercado

• com base em quais produtos eles compram

• Clientes que compram produtos semelhantes

• são agrupados em um mesmo cluster

• Análise dos clusters revela que

• clientes que compram fraldas têm maior
probabilidade de comprar cerveja
• supermercado move estante de cervejas
mais próxima da de fraldas
→ aumento nas vendas!
174
Aprendizado por Reforço
(e robótica)

175
Aprendizado por Reforço

176
 Aprendizado por Reforço
• Aprender como agir
• sem um professor
• sem conhecimento prévio do ambiente
• somente com base em recompensas (e punições)

177
 Aprendizado por Reforço
• Aprender como agir
• sem um professor
• sem conhecimento prévio do ambiente
• somente com base em recompensas (e punições)

• Reforços positivos
fortalecem probabilidade de comportamento
• Reforços negativos
enfraquecem tal probabilidade

178
 Aprendizado por Reforço

• Online advertising
• quais os estados? quais as ações? quais as recompensas?

179
 Aprendizado por Reforço

• Online advertising
• quais os estados? quais as ações? quais as recompensas?

180
Problemas de Controle

Futebol de Robôs
 Problemas de Controle
Tentativa 1: s1=[0, -45, +30]

182
0 graus
Controle
Tentativa 1: s1=[0, -45, +30]

183
0 graus
 Controle
Tentativa 1: s1=[0, -45, +30]

-45 graus

184
Controle
Tentativa 1: s1=[0, -45, +30]

185
Controle
Tentativa 1: s1=[0, -45, +30]

+30 graus
186
Controle
Tentativa 1: s1=[0, -45, +30]

V(s1) = 5 metros

+30 graus
187
 s1=[0, -45, +30]
Controle V(s1) = 5 metros

Tentativa 1: s1=[0, -45, +30]

V(s1) = 5 metros

+30 graus
188
 s1=[0, -45, +30]
Controle V(s1) = 5 metros

Variações
s1=[0, -45, +30]
do chute?
V(s1) = 5 metros

+30 graus
189
 s1=[0, -45, +30]
Controle s2=[0, -20, +20]
V(s1) = 5 metros

Variações
s1=[0, -45, +30]
do chute?
V(s1) = 5 metros
s3=[0, -45, +60]

+30 graus
190
 s1=[0, -45, +30]
Controle V(s1) = 5 metros

Tentativa 2: s2=[0, -20, +20]

191
0 graus
 s1=[0, -45, +30]
Controle V(s1) = 5 metros

Tentativa 2: s2=[0, -20, +20]

-20 graus 192

 s1=[0, -45, +30]
Controle V(s1) = 5 metros

Tentativa 2: s2=[0, -20, +20]

193
+20 graus
 s1=[0, -45, +30]
Controle V(s1) = 5 metros

Tentativa 2: s2=[0, -20, +20]

V(s2) = 0 metros

194
+20 graus
 s1=[0, -45, +30]
Controle V(s1) = 5 metros
s2=[0, -20, +20]
V(s2) = 0 metros
Tentativa 2: s2=[0, -20, +20]

V(s2) = 0 metros

195
+20 graus
 s1=[0, -45, +30]
Controle V(s1) = 5 metros
s2=[0, -20, +20]
V(s2) = 0 metros
Tentativa 3: s3=[0, -45, +60]

196
0 graus
 s1=[0, -45, +30]
Controle V(s1) = 5 metros
s2=[0, -20, +20]
V(s2) = 0 metros
Tentativa 3: s3=[0, -45, +60]

-45 graus

197
 s1=[0, -45, +30]
Controle V(s1) = 5 metros
s2=[0, -20, +20]
V(s2) = 0 metros
Tentativa 3: s3=[0, -45, +60]

198
 s1=[0, -45, +30]
Controle V(s1) = 5 metros
s2=[0, -20, +20]
V(s2) = 0 metros
Tentativa 3: s3=[0, -45, +60]

+60 graus

199
 s1=[0, -45, +30]
Controle V(s1) = 5 metros
s2=[0, -20, +20]
V(s2) = 0 metros
Tentativa 3: s3=[0, -45, +60]

V(s3) = 12 metros

+60 graus

200
 s1=[0, -45, +30]
Controle V(s1) = 5 metros
s2=[0, -20, +20]
V(s2) = 0 metros
Tentativa 3: s3=[0, -45, +60]
s3=[0, -45, +60]
V(s3) = 12 metros
V(s3) = 12 metros

+60 graus

201
Controle s2=[0, -20, +20] V(s2) = 0 metros

Variações
s1=[0, -45, +30]
do chute
V(s1) = 5 metros
s3=[0, -45, +60] V(s3) = 12 metros

+60 graus

202
 Controle
Otimização de Chutes

s1=[0, -45, +30]

s6=[5, -27, +20]

s11=[12, -15, 18]

203
 Controle
Otimização de Chutes
s2=[0, -43, +32] V= -5
s3=[1, -46, +33] V= +2
s1=[0, -45, +30]
s4=[3, -40, +32] V= +7

s5=[2, -38, +28] V= +4

s6=[5, -27, +20]

s11=[12, -15, 18]

204
 Controle
Otimização de Chutes
s2=[0, -43, +32] V= -5
s3=[1, -46, +33] V= +2
s1=[0, -45, +30]
s4=[3, -40, +32] V= +7

s5=[2, -38, +28] V= +4

s7=[5, -28, +22] V= +10

s8=[4, -26, +20] V= +3
s6=[5, -27, +20]
s9=[8, -31, +25] V= +14

s10=[2, -29, -18] V= +9

s11=[12, -15, 18]

205
 Controle
Otimização de Chutes
s2=[0, -43, +32] V= -5
s3=[1, -46, +33] V= +2
s1=[0, -45, +30]
s4=[3, -40, +32] V= +7

s5=[2, -38, +28] V= +4

s7=[5, -28, +22] V= +10

s8=[4, -26, +20] V= +3
s6=[5, -27, +20]
s9=[8, -31, +25] V= +14

s10=[2, -29, -18] V= +9

s12=[10, -17, +18] V= +15

s13=[9, -13, +20] V= +7
s11=[12, -15, 18]
s14=[15, -16, +15] V= -6

s15=[12, -14, +19] V=-4

206
 Controle
Otimização de Chutes
s2=[0, -43, +32] V= -5
s3=[1, -46, +33] V= +2
s1=[0, -45, +30]
s4=[3, -40, +32] V= +7

s5=[2, -38, +28] V= +4

s7=[5, -28, +22] V= +10

s8=[4, -26, +20] V= +3
s6=[5, -27, +20]
s9=[8, -31, +25] V= +14

s10=[2, -29, -18] V= +9

s12=[10, -17, +18] V= +15

s13=[9, -13, +20] V= +7
s11=[12, -15, 18]
s14=[15, -16, +15] V= -6

s15=[12, -14, +19] V=-4

207
 Controle
Otimização de Chutes
s2=[0, -43, +32] V= -5
s3=[1, -46, +33] V= +2
s1=[0, -45, +30] s1=[5, -28, +22]
s4=[3, -40, +32] V= +7

s5=[2, -38, +28] V= +4

s7=[5, -28, +22] V= +10

s8=[4, -26, +20] V= +3
s6=[5, -27, +20] s2=[8, -31, +25]
s9=[8, -31, +25] V= +14

s10=[2, -29, -18] V= +9

s12=[10, -17, +18] V= +15

s13=[9, -13, +20] V= +7
s11=[12, -15, 18] s3=[10, -17, +18]
s14=[15, -16, +15] V= -6

s15=[12, -14, +19] V=-4

208
 Controle
Otimização de Chutes
s2=[0, -43, +32] V= -5
s3=[1, -46, +33] V= +2
s1=[0, -45, +30] s1=[5, -28, +22] …
s4=[3, -40, +32] V= +7

s5=[2, -38, +28] V= +4

s7=[5, -28, +22] V= +10

s8=[4, -26, +20] V= +3 …
s6=[5, -27, +20] s2=[8, -31, +25]
s9=[8, -31, +25] V= +14

s10=[2, -29, -18] V= +9

s12=[10, -17, +18] V= +15

s13=[9, -13, +20] V= +7
s11=[12, -15, 18] s3=[10, -17, +18] …
s14=[15, -16, +15] V= -6

s15=[12, -14, +19] V=-4

209
Controle: Aprendizado Motor Fino

[Link]

210
Controle: Algoritmo Genético
Otimização de caminhada bípede
- Genes no cromossomo: determinam quais músculos se conectam
- Função de aptidão: mede a capacidade de caminhar de maneira robusta

Flexible Muscle-Based Locomotion for Bipedal Creatures* (Geijtenbeek et al)

[Link]
211
Controle: Aprendizado por Reforço
Otimização de caminhada bípede

212
Futuro/Desafios

213
214
Objetivos científicos da IA

215
 Objetivos científicos da IA
• Como tornar a interação com IAs mais natural? Emoção

216
 Objetivos científicos da IA
• Como tornar a interação com IAs mais natural? Emoção

(por que esse robô é bizarro?)

217
 Objetivos científicos da IA
• Como tornar a interação com IAs mais natural? Emoção

(por que esse robô é bizarro?)

218
 Objetivos científicos da IA
• Como tornar a interação com IAs mais natural? Emoção

(por que esse robô é bizarro?)

219
 Objetivos científicos da IA
• Como tornar a interação com IAs mais natural? Emoção

(por que esse robô é bizarro?)

220
Impactos na sociedade

221
 Impactos na sociedade

“Self-Driving Cars Could Transform Jobs Held by 1 in 9 U.S. Workers”

222
Impactos na sociedade

Organização física das cidades

223
Impactos na sociedade

Organização física das cidades 224

Impactos na sociedade

Automação fora de ambientes industriais

225
Programa da Disciplina

226
 Moodle

[Link]
chave: ap_20182

(acionem notificação por email para postagens no fórum!)

227
 Avaliação

• Duas provas (P1 e P2)

• Trabalhos extra-classe (T1 e T2)

Composição da nota:
Nota Final = (P1 * 0,2) + (P2 *0,2) + (T1*0,3) + (T2*0,3)

228
 Avaliação

• Duas provas (P1 e P2)

• Trabalhos extra-classe (T1 e T2)

Composição da nota:
Nota Final = (P1 * 0,2) + (P2 *0,2) + (T1*0,3) + (T2*0,3)

• Aprovado se (Nota Final ≥ 6) e (Média de Trabalhos ≥ 4)

• Se (Média de Trabalhos < 4), recuperação independente de Nota Final
• Recuperação substitui apenas a média das provas

229
 Avaliação
• Política de Plágio ?

230
 Avaliação
• Política de Plágio ?

231
 Avaliação
• Política de Presenças ?

232
 Avaliação
• Política de Presenças ?

233
 Bibliografia
• FACELI, K.
Inteligência Artificial: Uma Abordagem de Aprendizado de Máquina.
Editora LTC, 2011

• RUSSEL S., NORVIG, P.

Inteligência Artificial.
Editora Campus, 2004

• SUTTON, R., BARTO, A.

Reinforcement Learning: An Introduction.
MIT Press, 1998

• LUGER, G.F.
Inteligência Artificial: Estruturas e Estratégias para a Solução de Problemas Complexos.
Editora Bookman, 2004

234
Bastante trabalho pela frente…

235
Aprendizado de Máquina
INF01017/CMP263 - 2018/2

Prof. Bruno Castro da Silva

Profa. Mariana R. Mendoza

Aula 01

Apresentação da disciplina
Conceitos básicos