Recentemente, Amazon lançada seu chatbot de IA Amazon Q, despertando o interesse das empresas, mas também preocupações entre os funcionários sobre sérias questões de precisão e privacidade. Q foi denunciado por ter “alucinações de não poco conta”E divulgou dados confidenciais, levantando questões sobre a segurança das informações da empresa. Aqui estão os detalhes divulgados por Platformer.
Alerta de segurança para Amazon Q: entre dados confidenciais e respostas incorretas
Amazon introduzido seu chatbot de IA, chamado Q, há três dias, mas nem tudo parece estar correndo como planejado. Alguns funcionários deram o alarme sobre questões de precisão e privacidade: Amazon Q teria manifestado “alucinações” e revelado informação confidencial, como a localização dos data centers da AWS, programas de descontos internos e recursos ainda não lançados.
Essas informações surgiram de documentos vazados e obtidos por Platformer, destacando um Problema de segurança de nível 2, uma situação grave que exige intervenção urgente dos engenheiros.
Apesar disso, a Amazon minimizou a importância destas discussões internas. Um porta-voz disse que o compartilhamento de feedback por meio de canais internos é uma prática padrão na Amazon e que nenhum problema de segurança foi identificado como resultado desse feedback. A empresa sublinhou a importância do feedback recebido e o desejo de continuar refinar o Amazon Q durante a transição da visualização para a disponibilidade geral.
Amazon Q, atualmente disponível em versão prévia gratuita, foi apresentado como um versão de software empresarial de um chatbot, com funções iniciais voltadas para tirar dúvidas dos desenvolvedores sobre AWS, modificando códigos-fonte e citando fontes. A Amazon enfatizou a segurança e a privacidade do Q, contrastando-o com ferramentas voltadas para o consumidor, como o ChatGPT.
No entanto, um documento interno revelou que Q pode “alucinar” e fornecer respostas prejudiciais ou inadequadas, como informações de segurança desatualizadas o que poderia colocar as contas dos clientes em risco. Estes riscos são típicos de grandes modelos de linguagem, os quais tendem a fornecer respostas incorretas ou inadequadas, pelo menos em algumas ocasiões.
Via | Slashdot
