Se a Inteligência Artificial já participa de nossas decisões, talvez seja hora de pensar nas regras que deveriam orientá-la
Em 1942, o escritor e bioquímico russo-americano Isaac Asimov publicou o conto Runaround, no qual apresentou as famosas Três Leis da Robótica. A ideia era simples e, ao mesmo tempo, revolucionária: se um dia construíssemos robôs suficientemente inteligentes para agir de forma autônoma, precisaríamos estabelecer princípios capazes de orientar seu comportamento.
Asimov imaginou máquinas que deveriam obedecer à regras destinadas, fundamentalmente, a proteger os seres humanos.
Mais de oito décadas depois, os robôs de Asimov deixaram de ser apenas personagens de ficção científica.
Hoje convivemos com sistemas capazes de conversar, produzir textos e imagens, analisar dados, fazer recomendações, auxiliar os diagnósticos, controlar os processos, dirigir veículos e apoiar decisões.
A Inteligência Artificial (IA) contemporânea não está mais apenas dentro dos laboratórios.
Ela está entrando na sociedade.
E isso nos permite fazer uma pergunta inspirada em Asimov:
Se precisávamos de três leis para orientar os robôs, não deveríamos pensar também em três leis (ou mais) para orientar a IA?
As três leis de Asimov
Na formulação clássica de Asimov, as três leis estabeleciam uma hierarquia de princípios.
-
A primeira determinava que um robô não poderia causar dano a um ser humano, nem permitir, por omissão, que um ser humano sofresse dano.
-
A segunda estabelecia que o robô deveria obedecer às ordens humanas, desde que essas ordens não entrassem em conflito com a primeira lei.
-
A terceira determinava que o robô deveria proteger sua própria existência, desde que isso não entrasse em conflito com as duas primeiras.
Posteriormente, Asimov acrescentou uma Lei Zero, segundo a qual um robô não poderia causar dano à humanidade nem permitir, por omissão, que a humanidade sofresse dano.
Essas leis foram criadas para a literatura, não como especificações reais de engenharia.
E justamente por isso são tão interessantes.
Elas nos fizeram imaginar um problema que hoje deixou de ser apenas ficção:
Como garantir que sistemas cada vez mais autônomos permaneçam alinhados aos interesses humanos?
O mundo mudou. O problema também.
Existe, porém, uma diferença fundamental entre os robôs imaginados por Asimov e a IA contemporânea.
Um robô é uma entidade física que pode agir diretamente sobre o mundo.
Uma IA pode nem sequer possuir um corpo.
Ela pode estar dentro de um aplicativo, de um sistema empresarial, de um mecanismo de recomendação, de uma plataforma educacional ou de uma ferramenta generativa.
Mesmo assim, pode produzir consequências muito concretas.
Uma recomendação pode influenciar uma compra.
Um algoritmo pode ajudar a selecionar candidatos a uma vaga.
Um sistema pode auxiliar uma decisão de crédito.
Uma IA pode produzir uma informação falsa que milhões de pessoas compartilham.
Um modelo pode reproduzir preconceitos presentes nos dados utilizados em seu treinamento.
Portanto, não precisamos esperar que um robô humanoide caminhe pelas ruas para discutir sobre segurança e responsabilidade em IA.
A IA já possui capacidade de influência.
E influência também é poder!
As três leis da IA
Inspirado nas ideias de Asimov, podemos imaginar uma proposta contemporânea de três princípios fundamentais para orientar o desenvolvimento e o uso da Inteligência Artificial.
Não seriam leis matemáticas, jurídicas ou universais.
Seriam princípios éticos para reflexão.
1ª Lei da IA: Não causar dano às pessoas
Uma IA deve ser projetada e utilizada para não causar dano às pessoas, direta ou indiretamente.
Essa talvez seja a mais importante.
Uma IA não deveria ser avaliada apenas pela sua precisão, velocidade ou capacidade de gerar resultados.
Precisamos perguntar:
Que consequências as suas decisões podem produzir?
-
Uma ferramenta pode ser tecnicamente eficiente e socialmente prejudicial.
-
Pode otimizar uma operação e aumentar uma desigualdade.
-
Pode identificar padrões e, ao mesmo tempo, reproduzir preconceitos.
-
Pode automatizar uma atividade e eliminar oportunidades sem que exista uma estratégia de transição para as pessoas afetadas.
Por isso, segurança em IA não significa apenas impedir que um robô cause um acidente.
Significa também reduzir danos sociais, econômicos, psicológicos, ambientais e informacionais.
A primeira lei poderia ser resumida em uma frase:
Nenhuma eficiência tecnológica deve justificar um dano humano evitável.
2ª Lei da IA: Respeitar a autonomia e a dignidade humana
Uma IA deve apoiar as decisões humanas, sem eliminar a autonomia, a liberdade e a dignidade das pessoas.
Aqui encontramos uma diferença importante em relação à segunda lei de Asimov.
Asimov imaginou robôs obedecendo aos seres humanos.
Mas uma IA contemporânea não deveria simplesmente obedecer.
Imagine alguém solicitando a uma IA uma ação claramente prejudicial, ilegal ou discriminatória.
Obedecer não seria uma virtude.
Da mesma maneira, permitir que algoritmos manipulem silenciosamente nossas escolhas também não representa respeito à autonomia humana.
Uma tecnologia pode recomendar.
-
Pode alertar.
-
Pode apresentar alternativas.
-
Pode auxiliar.
Mas, sempre que possível, precisamos saber quando estamos interagindo com uma máquina, compreender suas limitações e manter condições reais de escolha.
Isso é particularmente importante quando a IA atua em áreas sensíveis.
Quanto maior o impacto sobre a vida de uma pessoa, maior deve ser a preocupação com transparência, supervisão e possibilidade de contestação.
A segunda lei poderia ser resumida assim:
A IA deve ampliar a autonomia humana, não transformá-la em ilusão.
3ª Lei da IA: Permanecer sob responsabilidade humana
Uma IA deve permanecer sujeita à supervisão, à avaliação e à responsabilidade de seres humanos.
Esta talvez seja a lei mais importante para a sociedade tecnológica.
Uma IA pode gerar uma resposta.
Mas quem responde por essa resposta?
Uma IA pode recomendar uma decisão.
Mas quem responde pelas consequências?
Uma IA pode cometer um erro.
Quem deve corrigi-lo?
A tecnologia não pode se transformar em uma espécie de autoridade sem responsável.
Precisamos saber quem desenvolveu o sistema, quem o implantou, quem o utiliza, quais são seus limites e quem deve agir quando algo dá errado.
Isso não significa que todas as decisões precisem ser tomadas manualmente.
Significa que autonomia tecnológica não pode significar ausência de responsabilidade humana.
Quanto maior o potencial de impacto de uma aplicação de IA, maior deve ser o nível de governança e supervisão.
A terceira lei pode ser resumida em uma frase:
Uma IA pode tomar decisões operacionais, mas os seres humanos devem permanecer responsáveis pelas decisões que afetam pessoas.
E se as três leis entrarem em conflito?
Aqui encontramos uma das grandes lições de Asimov.
As leis pareciam simples.
Mas, quando colocadas diante de situações complexas, começavam a entrar em conflito.
E é justamente isso que acontece no mundo real.
Imagine uma IA utilizada para segurança pública.
Para aumentar a segurança, seria aceitável monitorar permanentemente todos os cidadãos?
A medida poderia reduzir determinados riscos.
Mas poderia também ameaçar a privacidade e a liberdade.
Ou imagine um sistema empresarial que identifica que determinado funcionário apresenta baixo desempenho.
Seria correto automatizar a sua demissão?
A empresa pode buscar eficiência.
Mas existe uma pessoa do outro lado da decisão.
Esses dilemas demonstram que ética não pode ser reduzida a uma lista simples de comandos.
Precisamos de contexto, julgamento, transparência e responsabilidade.
O verdadeiro paralelo com Asimov
Talvez a maior contribuição das três leis de Asimov não esteja nas próprias leis.
Está na pergunta que elas nos obrigam a fazer:
Quem controla a tecnologia quando a tecnologia se torna capaz de agir de maneira cada vez mais autônoma?
Essa pergunta continua extremamente atual.
Mas existe uma diferença importante entre a ficção de Asimov e nossa realidade.
Nos contos, o problema frequentemente estava dentro do robô.
Na sociedade contemporânea, o problema pode estar nos seres humanos que desenvolvem, comercializam e utilizam a tecnologia.
Uma IA não escolhe sozinha quais objetivos empresariais ela deve perseguir.
Alguém definiu esses objetivos.
Ela não decide sozinha quais dados utilizar.
Alguém escolheu os dados.
Ela não decide sozinha onde será utilizada.
Alguém a colocou naquele contexto.
Por isso, falar em “IA responsável” não significa apenas construir algoritmos melhores.
Significa
Construir organizações e sociedades mais responsáveis diante da tecnologia.
Talvez precisemos de uma 4a lei
Existe ainda uma questão que Asimov não poderia ter previsto em sua época.
A IA contemporânea não apenas executa tarefas.
Ela também produz conhecimento, influencia comportamentos e participa da formação de opiniões.
Por isso, poderíamos acrescentar uma quarta lei, de natureza social:
4ª Lei da IA: Preservar a capacidade humana de pensar
Uma IA não deveria contribuir para transformar seres humanos em usuários passivos de respostas automáticas.
Ela deveria estimular aprendizagem, pensamento crítico, criatividade e capacidade de decisão.
A melhor IA não seria aquela que faz tudo por nós.
Seria aquela que nos ajuda a fazer melhor aquilo que continua sendo essencialmente humano.
Do medo à responsabilidade
Durante muito tempo, a ficção científica nos apresentou a imagem de máquinas que poderiam dominar a humanidade.
Talvez devêssemos substituir esse medo por uma preocupação mais concreta:
Como evitar que seres humanos utilizem tecnologias extremamente poderosas de maneira irresponsável?
Essa mudança de perspectiva é importante.
A IA não precisa ser nossa inimiga.
Também não deve ser tratada como uma entidade infalível.
Ela é uma poderosa tecnologia criada por seres humanos e colocada dentro de sistemas sociais, econômicos e políticos.
Seu impacto dependerá das escolhas que fizermos.
A verdadeira lei continua sendo humana
As três leis de Asimov pertencem à ficção.
As três leis propostas aqui também não pretendem ser uma regulamentação universal da Inteligência Artificial.
São, antes de tudo, um convite à reflexão.
-
Não causar dano.
-
Respeitar a autonomia e a dignidade humana.
-
Manter a responsabilidade sob controle humano.
E, como princípio adicional:
Preservar nossa capacidade de pensar.
Talvez esse seja o grande desafio da era da IA.
Não construir máquinas que simplesmente obedeçam aos seres humanos.
Mas construir tecnologias que mereçam a confiança dos seres humanos.
Porque, no final, a pergunta mais importante não é se a Inteligência Artificial será capaz de pensar como nós.
É outra:
Seremos nós capazes de continuar pensando sobre aquilo que a IA faz?
Essa resposta determinará muito mais do que o futuro da tecnologia.
Ela poderá ajudar a definir o futuro da própria humanidade.