Pular para o conteúdo principal

As regras de segurança que Google e Microsoft criaram para a inteligência artificial



Um efeito colateral de falar tanto sobre o risco de robôs assassinos é que todo mundo está correndo para nos garantir exatamente como impedir isso.

Na semana passada, engenheiros do Google publicaram um documento sobre “problemas concretos em segurança de inteligência artificial”. E hoje, Satya Nadella, CEO da Microsoft, também deu sua opinião sobre o assunto.

Em termos de elegância, esses conjuntos de regras nem se comparam às Três Leis da Robótica de Isaac Asimov – mas elas fazem parte de um livro de ficção científica que não precisa obedecer às leis da física.

Por algum motivo, os pesquisadores do Google ilustram suas regras de segurança usando como exemplo um robô de limpeza, em vez de uma superinteligência consciente que quer nos escravizar.

Eis os cinco problemas nos quais o Google se concentrou:

1. Evitar efeitos colaterais negativos, ou “como garantir que um robô de limpeza não derrube um vaso para limpar mais rápido?”

2. Evitar hacking de recompensa, ou “como garantir que o robô de limpeza não esconda a sujeira, em vez de realmente limpar?”

3. Supervisão escalável, ou “como garantir que o robô de limpeza aprenda rapidamente e não pergunte frequentemente onde o esfregão está?”

4. Exploração segura, ou “como garantir que o robô explore estratégias de limpeza, mas não coloque um esfregão em uma tomada elétrica e queime a casa inteira?”

5. Robustez para mudança distributiva, ou “como ensinar o robô a reconhecer quando suas habilidades não são úteis em um ambiente diferente?”



Enquanto isso, Satya Nadella delineia seis regras mais genéricas no Slate:

1. “A inteligência artificial deve ser projetada para ajudar a humanidade”. Isso mesmo, ela não deve nos atrapalhar nem nos destruir.

2. “A inteligência artificial deve ser transparente”. Os humanos precisam ter clareza que como ela funciona, e quais são suas regras. Nadella explica isso bem: “queremos não apenas máquinas inteligentes, como também máquinas inteligíveis”.

3. “A inteligência artificial deve maximizar eficiências sem destruir a dignidade das pessoas.” Basicamente, ela deve levar em conta a natureza humana, nossa cultura, e promover diversidade. Além disso, “a indústria de tecnologia não deve ditar os valores e virtudes deste futuro”, diz Nadella.

4. “A inteligência artificial deve ser concebida para a privacidade inteligente”. O que torna inteligente a nossa privacidade? Nadella diz que ela deve “oferecer proteção sofisticada… de formas que conquistem sua confiança”.

5. “A inteligência artificial deve ter responsabilidade por seus algoritmos, para que os humanos possam desfazer danos não-intencionais”: isso parece ser algo semelhante ao botão de desligar na AI que o Google propõe para não criar acidentalmente uma Skynet.

6. “A inteligência artificial deve se proteger contra o viés, garantindo pesquisa adequada e representativa, de modo que heurísticas erradas não sejam usadas ​​para discriminação.” Basicamente, a AI não deve ser preconceituosa, mesmo que por acidente – vimos isso quando o Google Fotos estava identificando pessoas negras como gorilas, por exemplo.

Basicamente, todo esse jargão se resume a “tente não prejudicar as pessoas” – uma boa diretriz para a inteligência artificial seguir.

[Google via CNET; Slate via The Verge]

Imagem do filme O Homem Bicentenário; foto por Eric Risberg/AP

FONTE: GIZMODO BRASIL

Comentários

Postagens mais visitadas deste blog

Uma Nova Etapa!

Passados dez anos, Ufos Wilson trocou de nome e plataforma! Agora nos chamamos Banco de Dados Ufológicos e Científicos (BDUC). Nosso conteúdo segue o mesmo, levando informações sérias com foco principal na Ufologia Científica, porém divulgando e abrangendo todas as disciplinas científicas! A seguir o link do site, compartilhem e divulguem: https://bancodedadosufologicosecientificos.wordpress.com/

Arquivo Ovni: Caso Jardinópolis

Jardinópolis esta distante 335 km da capital paulista, localizada na região de Ribeirão Preto foi palco de um acontecimento insólito na noite de 27 de dezembro de 2008, onde um grupo de adolescentes na época teriam presenciado a descida de luzes vermelhas e azuis num terreno baldio próximo de onde estavam, um dos garotos tomou uma imagem com seu celular, porém de baixa resolução. A seguir trecho extraído do blog feito por membros dos familiares dos jovens, contendo relatos e frame do vídeo feito. Relato dos envolvidos: "Por Luciene [AVISTAMENTO DE MEU FILHO] Sábado 27/12/2008, meu filho de 15 anos chega assustado em casa aproximadamente umas 23:45. Meu filho faz parte de um grupo de jovens da igreja católica, e acabando a missa, ele e seus amigos foram para uma pracinha. Essa pracinha fica em um bairro novo. E próximo daquele lugar tem uns terrenos baldios cheios de mato. Eles estavam conversando quando avistaram de longe luzes vermelhas e azuis no céu e logo essa luz

O caso Roswell nordestino: Queda de UFO na Bahia, em Janeiro de 1995

Por Ufo Bahia: Nessa data, as 09:00 horas, uma in­formante do G-PAZ, "M" da TV BAHIA me ligou contando uma mirabolante his­tória de queda de um UFO em Feira deSantana(BA) a 112 Km de Salvador. Umfazendeiro de apelido Beto, tinha ligadopara TV SUBAÉ daquela cidade oferecen­do – em troca de dinheiro – um furo dereportagem; um disco voador tinha caído na sua fazenda e ele tinha provas e ima­gens do fato! Apenas depois do meio dia, conse­gui – por fim – falar com Beto, que apóssua proposta de negócio, ante minha (apa­rente) frieza, me contou com bastante de­talhes o acontecido. Soube que tambémtentara vender suas provas a TV BAHIA,onde procurou o repórter José Raimundo: "Ontem pela madrugada caiu algu­ma coisa na minha fazenda, dentro de umalagoa. Era do tamanho de um fusca; aqui­lo ficou boiando parcialmente submerso,perto da beirada. Tentei puxar como pude,trazendo para perto de mim, com uma vara.Aquilo parecia um parto... (quando seabriu uma porta) começou primeiro a s