Os Princípios de Inteligência Artificial de Asilomar foram estabelecidos durante a conferência batizada de Beneficial AI 2017 (Inteligência Artificial Benéfica 2017), organizada em Asilomar, na Califórnia, entre os dias 5 e 8 de janeiro deste ano. Organizada pelo Instituto Futuro da Vida, nos EUA, foi a segunda conferência sobre o tema — a primeira aconteceu em 2015, em Porto Rico.

A partir de agora, os cientistas envolvidos com o desenvolvimento de inteligência artificial, seja em universidades, empresas ou institutos militares, têm princípios claros para guiá-los eticamente. Eles não têm força de lei, claro, mas receberam apoio consensual de um grande número de pesquisadores, após terem sido objeto de muitos debates e reformulações.

“Após discussões tão detalhadas, espinhosas e algumas vezes contenciosas e uma ampla variedade de feedbacks, ficamos francamente surpresos com o alto nível de consenso que emergiu em torno de muitas das propostas durante a pesquisa final”, escreveram os organizadores. “Esse consenso nos permitiu estabelecer um patamar alto para a inclusão na lista final: só retivemos princípios que tiveram apoio de pelo menos 90% dos presentes.”

O documento foi assinado por um número expressivo de pesquisadores de robótica e inteligência artificial — até o momento 575 –, dentre eles Peter Norvig e Ray Kurzweil, do Google, e Francesca Rossi e Guru Banavar, da IBM. Entre outros de seus signatários ilustres estão os físicos Stephen Hawking e Max Tegmark, o inventor Elon Musk e o ator Joseph Gordon-Levitt.

Confira abaixo os 23 princípios estabelecidos para garantir que o futuro da pesquisa em IA seja em favor da humanidade, e não de sua extinção.

A inteligência artificial já forneceu ferramentas benéficas que são usadas todos os dias por pessoas no mundo todo. Seu contínuo desenvolvimento, guiado pelos princípios a seguir, ofererá oportunidades incríveis para ajudar e empoderar pessoas por décadas e séculos vindouros.

Questões de pesquisa

1) Meta de pesquisa: A meta da pesquisa em IA deve ser criar não inteligência não direcionada, mas inteligência benéfica.

2) Financiamento de pesquisa: Investimentos em IA devem ser acompanhados por financiamento para pesquisas que garantam seu uso benéfico, incluindo questões espinhosas em ciência da computação, economia, direito, ética e estudos sociais, como:

– Como podemos fazer sistemas futuros de IA altamente robustos, de forma que eles façam o que queremos sem defeitos ou serem hackeados?

– Como podemos aumentar nossa properidade através da automação enquanto mantemos os recursos e o propósito das pessoas?

– Como podemos atualizar nossos sistemas de leis para serem mais justos e eficientes, acompanharem o avanço da IA, e gerenciem os riscos associados com a IA?

– Com que conjunto de valores a IA deveria estar alinhada, e que status ético e legal ela deveria ter?

3) Elo ciência-política: Deve haver intercâmbio construtivo e saudável entre pesquisadores de IA e formuladores de políticas.

4) Cultura de pesquisa: Uma cultura de cooperação, confiança e transparência deve ser cultivada entre os pesquisadores e desenvolvedores de IA.

5) Prevenção de corridas: Equipes desenvolvendo sistemas de IA devem cooperar ativamente para evitar aparar arestas em padrões de segurança.

Ética e valores

6) Segurança: Sistemas de IA devem ser seguros e preservados durante todo o seu tempo de vida operacional, e de forma verificável quando aplicável e praticável.

7) Transparência de falhas: Se um sistema de IA causar mal, deve ser possível determinar por quê.

8) Transparência de julgamento: Qualquer envolvimento por um sistema autônomo no juízo da tomada de decisões deve fornecer uma explicação satisfatória auditável por uma autoridade humana competente.

9) Responsabilidade: Projetistas e construtores de sistemas de IA avançados são partícipes nas implicações morais de seu uso, mal uso e ações, com uma responsabilidade e oportunidade de moldar essas implicações.

10) Alinhamento de valores: Sistemas de IA altamente autônomos devem ser projetados de forma que suas metas e seus comportamentos possam asseguradamente se alinhar com valores humanos durante todo o tempo de sua operação.

11) Valores humanos: Sistemas de IA devem ser desenhados e operados de modo a ser compatíveis com os ideais de dignidade humana, direitos, liberdades e diversidade cultural.

12) Privacidade pessoal: As pessoas devem ter o direito ao acesso, gerenciamento e controle dos dados que elas geram, dado o poder que os sistemas de IA têm de analisar e utilizar esses dados.

13) Liberdade e privacidade: A aplicação de IA a dados pessoais não pode de forma irrazoável restringir a liberdade real ou percebida de uma pessoa.

14) Benefício compartilhado: Tecnologias de IA devem beneficiar e empoderar o maior número de pessoas possível.

15) Prosperidade compartilhada: A prosperidade econômica criada por IA deve ser partilhada de forma ampla, para beneficiar toda a humanidade.

16) Controle humano: Os humanos devem escolher como e se irão delegar decisões a sistemas de IA, para realizar objetivos escolhidos por humanos.

17) Não subversão: O poder conferido pelo controle de sistemas de IA altamente avançados deve respeitar e aprimorar, em vez de subverter, os processos sociais e cívicos de que a saúde da sociedade depende.

18) Corrida armamentista de IA: Uma corrida armamentista de sistemas autônomos letais deve ser evitada.

Questões de mais longo prazo

19) Cautela quanto à capacidade: Como não há consenso, devemos evitar pressupostos fortes sobre os limites superiores das capacidades de IA futuras.

20) Importância: IA avançada pode representar uma mudança profunda na história da vida na Terra e deve ser planejada e gerenciada com cuidado e recursos proporcionais.

21) Riscos: Os riscos impostos por sistemas de IA, especialmente os riscos catastróficos ou existenciais, precisam ser submetidos a esforços de planejamento e mitigação proporcionais a seu impacto esperado.

22) Automelhoria recursiva: Sistemas de IA desenhados para se automelhorar ou autoreplicar recursivamente de modo que possam levar a uma quantidade ou qualidade rapidamente crescente precisam estar sujetios a medidas estritas de segurança e controle.

23) Bem comum: A superinteligência só deve ser desenvolvida a serviço de ideais éticos largamente compartilhados, e em benefício de toda a humanidade, em vez de um estado ou organização.

E aí, você acha que eles bastam para nos reassegurar de que uma megatragédia não vai ocorrer? Você também pode manifestar seu apoio aos princípios clicando aqui e preenchendo um formulário com seu nome completo, seu cargo, seu e-mail e sua afiliação.

Os 23 itens certamente abrangem uma série de questões que preocupam no desenvolvimento da inteligência artificial, como a falta de controle que poderíamos ter sobre ela ou o potencial disruptivo que ela pode ter na sociedade, acelerando brutalmente a mecanização nos próximos anos. Questões de ordem militar também são abordadas.

Há tanto que discutir sobre IA que é difícil cobrir tudo. Para quem quiser mais uma leitura interessante a respeito do tema, sugiro uma entrevista que fiz para esta Folha com Ray Kurzweil, um dos pesquisadores mais respeitados nesse campo, em 2012. (Nossa, já faz quase cinco anos! Tempo voa!)

De toda forma, o grande problema desses princípios aí é que, de boas intenções, o inferno já está cheio. Ou seja, vamos precisar de mais que isso para garantir que essas diretrizes serão seguidas no futuro. Estou falando de discussões públicas amplas, tratados internacionais, leis, fiscalização e punição severa a quem for pego infringindo as regras.

De outro modo, quem decidirá se vamos terminar com o simpático e inofensivo C-3PO ou com o psicopata HAL 9000?

A discussão começa agora.

Acompanhe o Mensageiro Sideral no Facebook, no Twitter e no YouTube

Este é o Google Lunar X Prize, que acaba de ganhar um documentário produzido pelo mais novo queridinho de Hollywood, J.J. Abrams (responsável por outras sagas espaciais do cinema como o reboot de “Star Trek” e a última continuação de “Star Wars”), com direção de Orlando von Einsiedel.

Dividido em 9 curtas, com duração total de 50 minutos, “Moon Shot” será exibido no Google Play no dia 15 e no YouTube no dia 17. O trailer foi divulgado nesta quinta-feira (3), exatamente às 11h, e você pode ver (e se arrepiar) aqui.

O GLXP (sigla inglesa para Prêmio X Lunar Google) é uma competição cujo objetivo é lançar um pequeno veículo não-tripulado capaz de pousar em nosso satélite natural, obter imagens em alta resolução de sua superfície e avançar pelo menos 500 metros pelo solo com seu robô.

O prazo para vencer a competição expira no fim do ano que vem, e duas equipes já têm contratos para lançamento de seus veículos, a israelense SpaceIL e a americana Moon Express. São, portanto, as favoritas à conquista, dentre as 16 equipes inscritas (havia inclusive um time brasileiro, o pessoal da SpaceMETA, que até já tinha um acordo assinado para voar no primeiro foguete ucraniano Cyclone-4 que decolasse de Alcântara, huohuohuhoh).

Confira os 16 times na disputa:

SpaceIL (Israel)
Astrobotic (EUA)
Team Italia (Itália)
Moon Express (EUA)
Stellar (internacional)
Independence-X (Malásia)
Omega Envoy (EUA)
Synergy Moon (internacional)
EuroLuna (internacional)
Hakuto (Japão)
Part-Time Scientists (Alemanha, a da foto acima)
Team Puli (Hungria)
SpaceMETA (Brasil)
Plan B (Canadá)
Angelicvm (Chile)
Team Indus (Índia)

Dessas equipes todas, cinco venceram prêmios de ínterim por demonstrar marcos tecnológicos significativos, como o teste de tecnologias de pouso, mobilidade e imageamento. O Google já distribuiu US$ 6 milhões, entre os grupos Astrobotic, Team Indus, Moon Express, Hakuto e Part-Time Scientists.

Criada pela Fundação Prêmio X e bancada pelo Google, a disputa segue os moldes do primeiro Prêmio X, que tinha por objetivo alavancar o turismo espacial em voos suborbitais e foi vencido em 2004 pela equipe da empresa Scaled Composites, liderada pelo engenheiro Burt Rutan. Na ocasião, a premiação era de US$ 10 milhões, bancados pela milionária iraniana Anousheh Ansari. A tecnologia desenvolvida para vencer o prêmio é a mesma que levou ao desenvolvimento das naves privadas da companhia Virgin Galactic, que pretende iniciar voos comerciais em 2017.

Acompanhe o Mensageiro Sideral no Facebook, no Twitter e no YouTube

O pequenino tem uma missão que seria simples demais para um humano, mas é bem complicada para um robô. Sua única tarefa é conversar. Ele irá ao espaço para fazer companhia ao astronauta japonês Koichi Wakata, que tem sua viagem para a estação marcada para novembro.

Com essa função, ele se assemelha muito ao dróide C-3PO, da cinessérie “Star Wars”. O robô dourado interpretado nas telonas pelo ator Anthony Daniels era um dróide de protocolo, ou seja, hábil primordialmente na arte de conversar.

Kirobo é mais modesto que sua contraparte fictícia. Em vez de falar milhões de idiomas diferentes, ele domina apenas o japonês. Por isso, embora tenha sido lançado ao espaço no último sábado a bordo da nave de carga japonesa HTV-4, ele esperará até a chegada de Wakata para iniciar de fato sua missão.

UMA NOVA ESPERANÇA

O nome, Kirobo, é a junção de Kibo (nome do módulo-laboratório nipônico na estação, que significa “esperança”) com robô. Ele tem um irmão, chamado Mirata, que fica em terra. Ambos têm 34 centímetros de altura e foram construídos por cientistas e engenheiros da Universidade de Tóquio.

Os dois são equipados com tecnologia de reconhecimento de voz e de face, que os permite reconhecer quem está falando com eles. Dotados de câmeras em lugar de olhos e um software sofisticado, eles são capazes de identificar emoções e processar a linguagem natural usada por humanos em bate-papos casuais.

A aposta dos japoneses é que robôs possam ser companheiros naturais para astronautas em longas viagens espaciais. Afinal, a solidão e a sensação de isolamento são dois dos grandes desafios a serem enfrentados pelos exploradores nessas jornadas.

A ideia não é novidade para quem curte ficção científica. Basta lembrar o clássico filme “2001: Uma Odisseia no Espaço”, em que apenas dois dos astronautas ficavam acordado durante a viagem até Júpiter, enquanto os demais eram mantidos em animação suspensa. A única companhia que David Bowman e Frank Poole tinham, enquanto realizavam separadamente seus afazeres na espaçonave, era a do computador HAL 9000. (Infelizmente para eles a inteligência artificial fica maluca no meio da viagem e tenta matá-los, risco que os astronautas da Estação Espacial Internacional não devem correr com o Kirobo.)

FUTURO ROBÓTICO

A viagem do robô japonês será o primeiro teste real dessa estratégia para dar apoio psicológico à tripulação. E pode muito bem dar certo. Em junho, o Kirobo já demonstrou suas habilidades durante uma entrevista coletiva. Quando perguntado sobre seu sonho, ele respondeu: “Quero ajudar a criar um mundo em que humanos e robôs podem viver juntos”.

Talvez o futuro retratado rotineiramente pelo escritor Isaac Asimov esteja mais próximo do que imaginamos. Para o astronauta japonês Koichi Wakata, ele decerto já chegou.

É possível acompanhar os desdobramentos da missão, em twitter.com/Kibo_robo.