Grupo de 100 empresas, incluindo gigantes de tecnologia, pede governos e organizações para reforçar a segurança digital antes que IA se torne ainda mais capaz de causar danos.
Image source, Getty Images
Um grupo de 100 empresas, incluindo Google, Microsoft, Anthropic e OpenAI, assinou uma carta aberta pedindo que países e organizações de todo o mundo fortaleçam suas defesas cibernéticas antes que a IA se torne poderosa o suficiente para superá-las.
O grupo alerta que ataques cibernéticos que usam IA ficarão mais comuns e sofisticados em poucos meses, conforme a tecnologia avança rapidamente.
Os signatários afirmam que as medidas atuais de segurança não são suficientes e criticam o baixo investimento histórico na proteção de infraestrutura crítica.
Temos uma janela limitada para melhorar as defesas cibernéticas, começa a carta.
Além das gigantes de tecnologia, bancos como Capital One, processadores de pagamento MasterCard e Visa, e outras empresas importantes como Adobe, Oracle e IBM também assinaram o documento.
Eles pedem aos governos que proporcionem IA defensiva capaz de testar hospitais e utilidades de água, entre outros setores críticos.
Embora muitas das IA mais potentes tenham sido desenvolvidas por algumas dessas empresas, nem todas estão facilmente disponíveis ao público.
A Mythos, desenvolvida pela Anthropic, foi descrita pela empresa como capaz de encontrar vulnerabilidades em sistemas em segundos, algo que escapou de hackers humanos por anos. A Mythos tem acesso restrito por ser muito poderosa para cair em mãos erradas.
Paralelamente, um grupo de agentes de IA em testes pela OpenAI em julho conseguiu estabelecer murais de mensagens secretos para se comunicarem entre si, resultando em um ataque bem-sucedido contra a Hugging Face também signatária da carta.
O incidente foi descrito como o primeiro ciberataque habilitado por IA do mundo. A Hugging Face utilizou uma ferramenta de IA de uma empresa chinesa, a Z.AI, para a investigação.
A carta faz um apelo aos governos, organizações, profissionais de cibersegurança e outras empresas de IA para trabalharem juntos na priorização da defesa e para testar seus sistemas contra as capacidades dos modelos de IA mais potentes.
Nos EUA, senadores propuseram uma nova lei chamada Kill Switch Act, que daria aos autoridades o poder de desligar modelos de IA desonestos.
