Google DeepMind integra filósofos políticos para definir valores e a segurança da inteligência artificial geral

A integração de filósofos políticos no desenvolvimento de sistemas de inteligência artificial, como ocorre com Iason Gabriel no Google DeepMind, reflete a transição da IA de uma ferramenta puramente técnica para uma tecnologia com impacto social e moral. Desde sua chegada à empresa em 2017, após a vitória do AlphaGo sobre Lee Sedol em 2016, Gabriel tem focado na transição para a inteligência artificial geral (AGI), argumentando que a arquitetura computacional e a estatística não são suficientes para definir os limites comportamentais dessas máquinas.

O ponto central dessa abordagem é o problema do alinhamento, que consiste em garantir que a máquina execute exatamente o que criadores e usuários esperam. Para Gabriel, esse desafio precede a programação, pois exige a definição prévia de quais valores serão implementados e quem possui a legitimidade para estabelecê-los. Essa perspectiva busca unificar a segurança da IA, voltada aos riscos de sistemas autônomos, e a ética da IA, que combate problemas imediatos como a discriminação, a falta de transparência e o viés algorítmico.

A urgência desse debate cresceu com a popularização dos grandes modelos de linguagem (LLM). Devido à fluidez nas respostas e à sensação de proximidade gerada, existe o risco de usuários atribuírem intenções humanas a esses sistemas ou depositarem neles uma confiança desmedida ao utilizá-los como conselheiros e assistentes.

O cenário torna-se ainda mais complexo com a implementação de agentes de IA, que não apenas respondem a comandos, mas planejam e executam ações em nome do usuário. Diante dessa capacidade de tomada de decisão, a proposta de Gabriel e sua equipe é que o alinhamento seja tratado como uma relação quadripartite, envolvendo a IA, o usuário, os desenvolvedores e a sociedade, preenchendo lacunas em espaços anteriormente ocupados apenas por instituições, interlocutores e ferramentas.