Especialistas em tecnologia e líderes empresariais alertaram o Metro que ‘sombra IA agentes’ representam uma ameaça crescente à segurança no Reino Unido.
Agentes de IA são sistemas projetados para reservar viagens, agendar reuniões, esboçar gráficos, lidar com reclamações de clientes e até mesmo socializar uns com os outros.
Mas a esses agentes estão sendo oferecidos novos trabalhos – como agentes duplos. Não do jeito 007, no entanto.
Em vez disso, como Microsoft diz Metrô‘Shadow AI’ são bots de beco sem aprovação formal ou supervisão de empregadores ou funcionários.
Uma nova pesquisa de líderes empresariais feita pela Microsoft, compartilhada exclusivamente hoje com Metrômostra que 84% consideram a IA sombra como uma ameaça crescente à segurança.
O que é um ‘agente sombra de IA’?
Agentes de IA precisam de muito acesso e dados para realizar seu trabalho – há até guias hoje em dia sobre como torná-los compatíveis com o GDPR.
Esses agentes, disse Jo Miller, oficial de segurança nacional da Microsoft Metrôsão comuns em situações pessoais e trabalhar telefones e laptops.
‘Podemos optar por baixar algumas ferramentas além do Copilot, por exemplo’, diz ela sobre Modelo de IA da Microsoft.
“Alguns podem ser desenvolvidos por empresas ocidentais, outros noutros lugares que têm uma perspectiva diferente sobre como a IA deve ser usada e os nossos dados protegidos.
«Se eu optar por descarregar mais três, talvez um gerador de imagens ou um agente de investigação, não poderei ter a mesma confiança sobre a origem destas ferramentas – podem estar a recolher os meus dados e a partilhá-los na Internet pública, a vendê-los, a utilizá-los indevidamente e a reproduzi-los como desinformação ou desinformação.
‘Há uma série de riscos em ter ferramentas de IA em seu dispositivo, em sua rede, e você não entende de onde elas vêm e o que estão fazendo.’
O que os agentes de IA sombra podem fazer?
A pesquisa da Microsoft com 1.000 grandes chefes dos setores público e privado, realizada em janeiro, mostra que os chefes estão rapidamente tentando entender as novas tecnologias, como os agentes de IA.
Pelo menos 62% das organizações já estão a implementar agentes autónomos de IA, quase triplicando em relação aos 22% do ano passado.
Por mais que os agentes obscuros de IA estejam em suas mentes, 68% esperam que os agentes estejam totalmente integrados em sua organização dentro de um ano.
Microsoft diz que, à medida que os funcionários correm para adotar os agentes de IA, eles criam pontos cegos de segurança que os chefes estão abordando.
A maioria dos principais agentes de IA, explica Miller, têm um nível de autonomia limitado pelas barreiras de proteção corporativas – em outras palavras, eles não sairão dos trilhos.
Os agentes de IA usados no trabalho às vezes podem ser totalmente integrados – incorporados em serviços de e-mail, software de apresentação de slides e outros aplicativos.
O que as empresas que desejam usar agentes de IA precisam fazer para nos manter seguros?
A Microsoft descobriu que 86% dos líderes empregam agentes de IA para desafios de segurança. Mas 80% preocupam-se com a gestão de agentes em grande escala.
À medida que avança a corrida para abraçar estas máquinas de aparência futurística, 85% acreditam que a implantação está a progredir mais rapidamente do que as abordagens de supervisão foram criadas para apoiar.
No entanto, 87% disseram à Microsoft que estão confiantes de que podem impedir a criação ou utilização de ferramentas de IA evasivas.
Especialistas em segurança disseram à Microsoft que deveriam ter três prioridades:
- Mantenha a visibilidade sobre onde os agentes de IA estão operando (50%)
- Integre agentes com segurança em sistemas e processos existentes (50%)
- Atender aos requisitos de conformidade, risco e auditoria à medida que a atividade autônoma se expande (49%).
“Se eu trouxer outra ferramenta que ficará fora de nossa plataforma, não sei quais portas traseiras poderão existir para exfiltrar dados”, diz Miller.
Ela acrescenta: ‘Nós realmente precisamos ser bem deliberados e claros sobre quais ferramentas estamos baixando e usando.
‘Não sabemos realmente para onde os dados podem ir se não compreendermos os parâmetros de segurança de uma ferramenta específica.’
Isto permite que ferramentas de agente duvidosas sejam usadas ou exploradas por criminosos cibernéticos ou “Estados-nação hostis” para conduzir ataques cibernéticos, ataques de ransomware, roubo de dados e roubo de propriedade intelectual, ações por vezes descritas como “adversárias”.
Por “Estados-nação hostis”, também chamados ameaças do estado-naçãoMiller significa grupos ligados a países sem as melhores intenções.
Pense nos grupos pró-Rússia em meio à guerra de Moscou contra Ucrâniacom Miller dizendo que houve um aumento de ataques cibernéticos nos últimos quatro anos.
O que você deve fazer em relação à IA sombria?
O principal, segundo Miller, é usar apenas ferramentas de IA em que você possa confiar.
“Por exemplo, um vendedor ou fornecedor conhecido”, acrescenta ela, “que esteja bem estabelecido e tenha publicado informações sobre o quão seguros eles são.
“Há um elemento de fé ou confiança que depositamos na IA, mas precisamos lembrar que essas ferramentas são projetadas em torno do cérebro humano.
“Portanto, da mesma forma que um cérebro humano se lembra mal, da mesma forma que o cérebro nem sempre é factualmente correto, estes modelos nem sempre serão corretos.
‘Humanos no circuito acrescenta um nível de responsabilidade e uma garantia de resultados.’
Entre em contato com nossa equipe de notícias enviando um e-mail para webnews@metro.co.uk.
Para mais histórias como esta, confira nossa página de notícias.
MAIS: Caixa de entrada de jogos: as pessoas estão certas em criticar a tecnologia DLSS 5 da Nvidia?
MAIS: Val Kilmer estrelará um filme um ano após sua morte, após ser ‘trazido de volta à vida’
