16 April 2024

Assistentes de voz com IA já estão em desenvolvimento, mas podem ser perigosas

4 min read

Se você perguntar para a Alexa, da Amazon, ou para o Google Assistente qual será a temperatura amanhã, ambas assistentes de voz irão responder prontamente. Agora, já imaginou se esses recursos fossem equipados com IA e, antes mesmo de você fazer a pergunta, as assistentes te avisam para, por exemplo, levar um guarda-chuva ao sair?

A voir aussi : Calcio, in archivio Scicli Summer Camp Scicli

Dispositivos equipados com a tecnologia neste nível ainda não existem, mas a pesquisa para fazer isso acontecer já está em andamento — e, com isso, surgem questionamentos éticos necessários.

Leia mais:

Avez-vous vu cela : Can picking your nose raise the risk of catching COVID-19? The answer may (not) shock you

  • Conheça um assistente de voz para casa conectada feito com o ChatGPT
  • Inteligência artificial generativa: o que é, como funciona e onde usar
  • IA está ajudando médicos a diagnosticarem casos de câncer de mama

Assistentes de voz com IA

Uma das possibilidades das assistentes de voz com IA seria ajudar idosos que passam por um declínio cognitivo, ao exercitar a comunicação, lembrá-los de tarefas cotidianas ou até antecipar necessidades — como, por exemplo, comprar um utensílio de casa ou lavar as roupas.

Uma vez que essa tecnologia já está sendo desenvolvida, pesquisadores do National Sciencie Foundation AI Institute for Collaborative Assistance and Responsive Interaction for Networked Groups (AI-CARING), uma agência independente em prol da ciência e da engenheria nos Estados Unidos, resolveram detalhar algumas questões éticas antecipadamente, na esperança que os designers de IA considerem isso em seus projetos.

Os designers certamente são bem-intencionados, mas todos nós podemos nos beneficiar da troca de ideias entre disciplinas e de conversar com pessoas com perspectivas diferentes sobre esses tipos de tecnologias.

Jason Borenstein, professor de ética e diretor de Programas de Ética em Pesquisa de Pós-Graduação na Escola.de Políticas Públicas na Georgia Tech

Já pensou confiar na Alexa até para tomar medicamentos? Isso pode ser realidade em breve (Imagem: Diego Thomazini / Shutterstock.com)

Riscos

Para Borenstein, se os riscos não forem levados em conta, uma família pode confiar que um parente idoso está seguro aos cuidados da IA, quando na verdade não está.

Os cientistas ainda reforçam que, uma vez que uma pessoa confia na tecnologia, ela se torna mais exposto a ela. Todo esse risco está acentuado com os idosos, um grupo que normalmente está mais vulnerável e pode se tornar ainda mais dependente da IA conforme um declínio cognitivo avança.

Se um sistema comete um erro quando você confia nele para algo benigno – como ajudá-lo a escolher o filme que vai assistir – isso não é grande coisa. Mas se você confiou nele para lembrá-lo de tomar o remédio e não o lembra ou diz para tomar o remédio errado, isso seria um grande problema.

Alex John London, principal autor do artigo e K&L Gates Professor de Ética e Tecnologias Computacionais na Carnegie Mellon University

Para pesquisadores, usuários têm que saber as limitações da IA (Imagem: Login / Shutterstock.com)

Qual seria solução para as assistentes de voz com IA

  • Segundo os pesquisadores, se os projetos de assistentes de voz com IA realmente prezam pelo usuário, levarão em conta aspectos de confiança, segurança, privacidade e até as mudanças nas habilidades cognitivas de uma pessoa.
  • Além disso, eles indicam que o sistema deve ser em prol do usuário, não de uma corporação que queira apenas comercializar o produto.
  • No entanto, apesar de destacarem a privacidade, os cientistas afirmam que, para desenvolver um sistema avançado a esse nível, deve-se levar em conta diferentes fontes de informação, o que pode ser atingido com o compartilhamento de dados. Porém, isso significaria expor o usuário a riscos de privacidade.
  • Para mitigar isso, eles propõem que o usuário esteja ciente e possa controlar as permissões de compartilhamento.

Transparência

Outro ponto levantado pelos pesquisadores, que incluíram suas propostas no artigo Questões éticas em assistentes inteligentes de apoio social em um futuro próximo para adultos mais velhos, publicado na revista IEEE Transactions on Technology and Society, é deixar claro o que a IA pode e não pode fazer.

Segundo eles, a confiança excessiva é um problema e solicitar que a tecnologia faça mais do que ela é capaz pode resultar em resultados inesperados.

Com informações de Tech Xplore

Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!

O post Assistentes de voz com IA já estão em desenvolvimento, mas podem ser perigosas apareceu primeiro em Olhar Digital.