in , , ,

Ética e Inteligência Artificial

Google Duplex e o ponto de singularidade
Google Duplex e o ponto de singularidade

Google Duplex e o ponto de singularidade

Essa semana o Google apresentou ao mundo seu novo (e impressionante) projeto ligado a inteligência artificial chamado Google Duplex. Caso você não tenha visto recomendo ver com seus próprios olhos o que ele pode fazer:

Google Duplex Demo

https://www.youtube.com/watch?v=bd1mEm2Fy08

As reações ao redor do mundo foram diferentes, mas podem ser resumidas em duas palavras: “incrível” ou “assustador?” Será que ambos?

Após assistir a demonstração do produto, a primeira questão que veio a minha mente foi: será que chegamos ao Ponto de Singularidade da inteligência artificial?

Singularidade: o momento em que os seres humanos não são mais os seres mais inteligentes da Terra

Esse produto é indiscutivelmente um grande avanço tecnológico, porém, por desfocar a linha que separa um diálogo “humano” de um diálogo “artificial” ele também traz consigo uma série de profundas questões e problemas éticos, filosóficos e morais como por exemplo:

Questões filosóficas complexas

– Robôs deveriam soar como Humanos?

– Como saberemos se estamos falando com um robô ou uma pessoa real e quais as implicações disso em nossa vida cotidiana?

– O que nos diferencia de um super-computador?

– O que diferencia nossa inteligência humana de uma artificial?

– Chegamos ao ponto de singularidade entre a inteligência humana?

– Como um robô pode julgar se sua ação é correta ou inapropriada para cada momento se nem nós sabemos como fazer isso?

– Existe uma conduta ética dentro da personalidade de uma máquina? Ou melhor, ela tem personalidade?

– Será que em breve as máquinas também poderão sentir emoções ou ter inteligência emocional?


Essas são questões filosóficas complexas, algumas delas debatidas há muitos anos e que agora ganham mais espaço do que nunca, de forma alguma eu conseguiria (nem pretendo) responder elas aqui, este artigo é mais sobre questões, provocações, do que sobre respostas, esse artigo é sobre o Futuro, que sempre chegará em forma de Agora.

Experiências mais humanas?

Um grande diferencial no trabalho dos UX designers foi transformar a linguagem e o tom das interfaces que antes (desde o começo da internet) eram frias e robóticas para uma linguagem mais humana e natural — sabemos que isso cria impacto direto na experiência do usuário. Se você é UX provavelmente você já estudou um pouco dessa questão e tentou transformar a linguagem do produto em que você está desenhando em algo mais humano.


Pois, será que agora exageramos? Será que agora a experiência ficou Humana demais? Vamos começar a deixar nossas interfaces mais robóticas para que fique evidente que aquilo é um robô e não uma pessoa?

Uma das grandes implicações éticas do Google Duplex é que, de certa forma, a partir de agora não sabemos mais quando um diálogo ou conversa telefônica é real ou fake. Uma das questões mais debatidas na atualidade são as Fake News, mas o que vamos falar sobre o recém lançado Fake Human?

Pain-points

Será que “falar ao telefone com outro humano” é realmente um pain-pointpara nós usuários? Será que isso não nos afasta e isola ainda mais das interações sociais com outras pessoas?

[highlight color=#707070 ]Pensando aqui agora, seria ótimo que o meu Google Home ficasse ao telefone com a Vivo ou com a Net para cancelar o meu plano, porém será que o problema é esse mesmo? Ao meu ver, neste exemplo, as empresas citadas que deveriam ter um serviço digno, transparente e rápido de cancelamento, e não eu ter que usar um robô para deixar de ter essa experiência frustrante por conta da incompetência deles.[/highlight]

Óbvio que em outros contextos a coisa pode ser diferente, mas podemos ter controle e prever todos esses cenários e contextos de uso desse produto? Entendo que não.

Será que eu quero que meu assistente converse com um funcionário e faça toda o processo para mim, ou apenas que ele me conecte com a pessoa, e quando ela puder falar ele me avise e me coloque na linha? Será mesmo que ele me representaria da mesma forma se eu não estivesse lá?

Enfim, é uma questão complexa, delicada, com muitos lados e fica evidente a questão das Polaridades (lado bom e ruim), como tudo na Vida. A mesma coisa pode ter diversas faces e pontos de vista, além disso existe a forma como o usuário utiliza aquela ferramenta (para o bem ou para o mal). Quais seriam as possíveis aplicações maléficas dessa nova tecnologia? Só o tempo dirá…

Em seu artigo “Questões Éticas na Inteligência Artificial Avançada”, o filósofo Nick Bostrom argumenta que a inteligência artificial tem sim a capacidade de provocar a extinção humana. Ele afirma que a super-inteligência seria capaz de ter uma iniciativa independente, e de fazer seus próprios planos se antecipando a nossas possíveis reações.

Em teoria, uma IA super-inteligente seria capaz de produzir praticamente qualquer resultado possível e impedir qualquer tentativa de sabotar o seu plano inicial, podendo surgir assim muitas consequências não-intencionais não-controladas (ou seja, antes de você pensar em desligar ela da tomada, ela vai se antecipar a isso e criar uma defesa para que isso não impacte o funcionamento dela). Ela poderia prever e simular milhões de cenários muito mais rápido que nós, se protegendo assim de uma possível sabotagem humana.

Sabemos que esse assunto não é novo e que inspirou grandes filmes de ficção científica como Matrix, 2001, Her, e muitos outros. Será que o tal futuro dos filmes de ficção chegou?

No entanto, vale ressaltar o lado bom: a super-inteligência também poderia nos ajudar a resolver muitos problemas difíceis, como doenças, pobreza, engenharia, viagem espacial, destruição ambiental, entre muitos outros — podendo também quem sabe nos ajudar a melhorar nós mesmos.

A pergunta que não quer calar é: deveria mesmo a inteligência artificial se passar por um Humano? Isso é “certo”?

O que nos faz Humanos?

Essa também é uma questão muito profunda discutida há milhares de anos, abrange os campos da Filosofia, Antropologia, Biologia, Psicologia, entre outros.

O professor de filosofia Barry C. Smith da Universidade de Londres explica que um dos principais fatores que nos torna humanos é “o fato de que falamos dentro das nossas mentes, além da nossa capacidade de linguagem para fazer tal coisa, isso nos permite conhecer nossas próprias mentes e outras mentes de uma maneira que nenhum outro animal faz”.

Existem uma série de outras teorias e estudos sobre esse assunto, que é um tema sem dúvidas bem complexo. Entre outras coisas que nos fazem Humanos podemos destacar:

Humanos

– Habilidade de sentir Empatia e Compaixão por outros seres

– Nossa Mente e nossa Consciência (que até hoje não sabemos muito bem o que é)

– Nossos sentimentos e emoções (que até hoje não sabemos muito bem o que é)

– Nossa relação com um possível Deus e com o transcendente

– Nossa capacidade de improvisar rapidamente

– Nossa criatividade e intuição

+ uma série de outras coisas…

Será que um dia a IA vai evoluir a tal ponto de conseguir ter essas capacidades, da mesma forma que nós evoluímos e adquirimos essas capacidades? Depois desse lançamento confesso que tenho minhas dúvidas…

Tanto Elon Musk quanto Stephen Hawking já se pronunciaram e nos alertaram sobre os potenciais perigos da IA quando usada para o mal. Não precisa ser um historiador para conseguir olhar para a evolução e história humana e ver que somos sim capazes de usar novas tecnologias também para o mal e para a guerra. Infelizmente nosso individualismo tem falado muito mais alto do que nosso senso de coletivismo e isso é muito preocupante.

Acho importante é ter em mente que não queremos uma relação “Homem vs Máquina”, isso tudo não deveria ser uma competição, mas sim uma relação de colaboração, mas será que conseguimos controlar isso? Só o futuro nos dirá como iremos usar isso para o bem e para o mal, mas uma coisa é certa: nossa geração está presenciando e irá presenciar grandes mudanças na humanidade, e eu acho isso muito empolgante! 🙂

E você? O que acha de tudo isso? O que achou do Google Duplex? Legal ou Assustador?

Pra quem quiser ir mais fundo na questão recomendo:

https://intelligence.org/files/EthicsofAI.pdf

Reportar

Updater

Escrito por Odair Faléco

Designer há mais de 11 anos, andei pelos mercados de Tecnologia, Fintech, Editorial e Agências. Música e Fotografia também são minhas paixões. Estudo filosofia, psicologia, e comportamento humano; procuro sempre integrar estes conhecimentos no processo de UX design. Idealizador / escritor no Coletivo UX (coletivoux.com)

Anos de UoD

2 Comments

Leave a Reply

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Carregando…

0

Gostou do post?

82 points
Upvote Downvote