Durante décadas, imaginamos o futuro como um lugar distante, povoado por carros que dirigem sozinhos, robôs realizando tarefas humanas e sistemas capazes de tomar decisões sem que alguém precisasse dizer exatamente o que fazer. Esse futuro serviu de inspiração para filmes, livros e previsões sobre como seria a sociedade algumas décadas adiante.
O problema é que continuamos falando sobre ele como se ainda estivesse por chegar.
Não está!
O futuro autônomo já começou e, talvez, um dos maiores desafios dos próximos anos não seja desenvolver tecnologias capazes de operar sem intervenção humana. Será preparar seres humanos, empresas, governos e instituições para conviver com máquinas que terão níveis cada vez maiores de autonomia.
A Tesla começou a colocar Cybercabs em circulação em Austin, veículos projetados para operar sem volante, sem pedais e sem motorista. Independentemente das discussões sobre maturidade, escala ou estágio dessa tecnologia, existe algo muito maior acontecendo diante de nós: estamos começando a transferir para sistemas computacionais decisões que, durante mais de um século, pertenceram exclusivamente às pessoas.
E isso muda completamente nossa relação com a tecnologia. A tecnologia pode aprender a dirigir. A confiança, não.
Um vídeo envolvendo um veículo autônomo chamou atenção justamente por representar esse conflito. Um homem entra deliberadamente na frente do veículo para testar sua capacidade de reação. Mais interessante do que discutir apenas se o carro reagiu corretamente é observar o comportamento humano por trás da experiência.
Estamos testando as máquinas de uma maneira diferente daquela como testamos seres humanos.
Todos os dias acontecem acidentes provocados por motoristas distraídos, cansados, alcoolizados, imprudentes ou simplesmente sujeitos a erros de julgamento. Quando isso acontece, normalmente atribuímos responsabilidade àquela pessoa. Ninguém conclui que a existência do automóvel deve ser colocada em discussão porque determinado motorista avançou um sinal vermelho.
Com uma tecnologia autônoma, nossa reação tende a ser diferente.
Quando um motorista humano erra, culpamos o motorista. Quando um sistema autônomo erra, colocamos toda a tecnologia em julgamento.
Essa assimetria será um dos grandes obstáculos para a próxima geração tecnológica. Um veículo autônomo poderá demonstrar, estatisticamente, índices de segurança superiores aos dos motoristas humanos e, ainda assim, enfrentar resistência social significativa.
Porque eficiência técnica e confiança são coisas completamente diferentes. Estamos entrando na era da autonomia
Essa discussão não ficará restrita aos automóveis. O mesmo fenômeno tende a acontecer com robôs, sistemas de Inteligência Artificial e, principalmente, agentes autônomos capazes de executar atividades, tomar decisões, interagir com outros sistemas e realizar processos inteiros com participação humana cada vez menor.
A IA que conhecemos inicialmente respondia perguntas. Depois passou a produzir textos, imagens, vídeos, códigos e análises. Agora caminhamos rapidamente para uma geração de sistemas que não apenas responderá ao que pedimos, mas também executará atividades para alcançar determinados objetivos.
Essa diferença parece pequena, mas representa uma transformação enorme.
Quando uma tecnologia deixa de apenas recomendar e passa a executar, surgem questões muito mais complexas sobre responsabilidade, segurança, ética, controle e confiança. Se um agente de IA realizar uma operação financeira incorretamente, quem será responsável? Se um sistema automatizado tomar uma decisão que prejudique um cliente, como explicar os critérios utilizados? Se um robô provocar um acidente, quem responderá pelo evento?
Não teremos décadas para começar a pensar nessas perguntas. Elas já estão chegando. Talvez o ser humano precise mudar mais do que a tecnologia
Existe uma tendência natural de discutirmos Inteligência Artificial perguntando até onde a tecnologia conseguirá chegar. Considero que existe outra pergunta tão importante quanto essa: até onde nós conseguiremos nos adaptar?
Provavelmente, a capacidade tecnológica avançará mais rapidamente do que nossa capacidade cultural, regulatória e institucional de absorvê-la. Podemos desenvolver um sistema tecnicamente capaz de executar determinada atividade em poucos anos, mas levar muito mais tempo para construir legislação, responsabilidades, modelos de auditoria, processos de investigação e, principalmente, aceitação social.
Isso já aconteceu em outras revoluções tecnológicas. A diferença é que agora a velocidade é muito maior.
Também precisaremos abandonar a expectativa de risco zero. Nenhuma tecnologia utilizada por seres humanos possui risco zero porque o próprio mundo em que ela opera não possui risco zero. A pergunta racional não deveria ser apenas se uma máquina pode errar, mas com que frequência ela erra quando comparada ao modelo que pretende substituir ou complementar.
Esse será um debate desconfortável.
Talvez tenhamos de aceitar que uma máquina que eventualmente comete erros ainda possa ser mais segura do que milhões de seres humanos cometendo erros diariamente.
Tecnologia + confiança = adoção
Empresas que estão construindo soluções baseadas em Inteligência Artificial, robótica e sistemas autônomos precisarão compreender que não estão desenvolvendo apenas tecnologia.
Precisarão construir duas arquiteturas simultaneamente.
A primeira é a arquitetura tecnológica. Ela envolve engenharia, dados, modelos, infraestrutura, segurança, sensores, algoritmos, disponibilidade, precisão e capacidade de processamento.
A segunda talvez seja ainda mais difícil: a arquitetura da confiança.
Ela envolve transparência, responsabilidade, governança, regulação, segurança, auditoria, comunicação e capacidade de explicar como decisões são tomadas. Também exige processos claros para investigar incidentes, corrigir falhas e determinar responsabilidades quando algo não funciona como esperado.
Sem a primeira arquitetura, a tecnologia não funciona.
Sem a segunda, provavelmente ninguém desejará utilizá-la.
É justamente na combinação dessas duas dimensões que nasce a adoção. E existe um terceiro elemento nessa transformação: o trabalho
Sempre que discutimos autonomia, inevitavelmente chegamos ao impacto sobre empregos e profissões. Motoristas, operadores, atendentes, analistas, desenvolvedores e diversas outras funções serão impactadas em diferentes níveis pela automação.
Negar essa transformação seria tão equivocado quanto afirmar que todas essas profissões simplesmente desaparecerão.
O mais provável é que muitas atividades sejam redesenhadas. Algumas funções deixarão de existir, outras serão reduzidas, novas surgirão e inúmeras profissões passarão a trabalhar em conjunto com sistemas autônomos.
A questão central será compreender qual parte de determinada atividade realmente exige capacidade humana.
Talvez o profissional do futuro seja cada vez menos aquele que executa tarefas repetitivas e cada vez mais aquele capaz de supervisionar sistemas, interpretar exceções, investigar comportamentos inesperados, tomar decisões complexas, estabelecer controles e assumir responsabilidades.
Isso também exigirá preparação.
Não somente dos trabalhadores, mas das empresas, universidades e governos.
O futuro autônomo não pedirá nossa autorização
Existe uma característica das grandes transformações tecnológicas que muitas vezes esquecemos: elas não esperam que toda a sociedade esteja confortável para avançar.
A internet não esperou que empresas estivessem preparadas. O smartphone não aguardou que todos compreendessem como mudaria nossas relações pessoais e profissionais. As redes sociais foram incorporadas à sociedade muito antes de entendermos completamente seus impactos políticos, psicológicos e culturais.
Com a Inteligência Artificial provavelmente acontecerá algo semelhante, talvez em uma velocidade ainda maior.
Por isso, considero que precisamos superar rapidamente a discussão simplista sobre gostar ou não gostar de IA. A questão deixou de ser essa.
Precisamos compreender como conviveremos com ela.
Precisamos discutir responsabilidade, transparência, segurança, emprego, educação, ética, regulação e governança antes que essas discussões sejam impostas por incidentes ou crises.
Porque o avanço técnico pode acontecer em poucos anos.
A adaptação institucional e cultural pode levar décadas.
E talvez esse seja o verdadeiro desafio da era da Inteligência Artificial: não construir máquinas capazes de agir com autonomia, mas preparar uma sociedade capaz de confiar nelas sem abrir mão da responsabilidade, do senso crítico e da supervisão humana.
A tecnologia está aprendendo rapidamente a dirigir, analisar, decidir e executar.
Agora precisamos descobrir se nós conseguiremos aprender, na mesma velocidade, a viver em um mundo no qual o ser humano não estará mais sozinho no comando.
- SOBRE O AUTOR
- ARTIGOS RECENTES DO AUTOR
