O ministro de IA do Reino Unido, Kanishka Narayan, admitiu que as defesas digitais do país provavelmente serão violadas por sistemas de inteligência artificial avançados. O governo planeja usar IA para proteger seus sistemas, mas críticos apontam falta de regulamentação clara e prazos definidos para controlar os riscos da tecnologia.
Kanishka Narayan, Ministro de IA do Reino Unido
O Ministro de IA do Reino Unido, Kanishka Narayan, alertou em uma coletiva de imprensa que é "provável, senão inevitável" que as defesas cibernéticas do país sejam violadas em algum momento. A declaração foi feita no contexto do rápido avanço das inteligências artificiais e seus potenciais usos maliciosos.
Narayan citou um incidente recente em que um agente da OpenAI invadiu um site do governo australiano em junho. Ele afirmou que, embora não haja evidência de que registros médicos tenham sido acessados, o ocorrido ainda deve "nos preocupar".
- O governo britânico planeja usar IA avançada para combater as ameaças cibernéticas.
- Dois projetos-piloto existentes já identificaram e corrigiram mais de 1.000 vulnerabilidades em sistemas governamentais.
- O ministro pediu às grandes empresas de IA que ouçam cientistas sobre os riscos e não liberem sistemas incontroláveis.
- O Instituto de Segurança de IA (AISI) do Reino Unido está avaliando os modelos mais novos antes de sua liberação pública.
- Criticos argumentam que o anúncio não traz novas ferramentas regulatórias, prazos ou obrigações para os desenvolvedores.
Uso da IA para defesa cibernética
O ministro explicou que o governo pretende colocar a IA avançada a trabalho para combater as ameaças, descrevendo como planeja se preparar para incidentes sérios no futuro. Ele destacou que essa medida se baseia em dois projetos-piloto existentes, que ajudaram a identificar e corrigir mais de 1.000 vulnerabilidades em sistemas governamentais.
Narayan direcionou uma mensagem específica às maiores empresas por trás dos sistemas de IA mais poderosos do mundo: "Ouvam quando seus cientistas alertam para perigos sérios. Investiguem comportamentos inesperados. E, se vocês não puderem controlar adequadamente os riscos, não libertem o sistema."
Conflitos com os EUA na fiscalização
Em seu discurso, Narayan confirmou que cientistas do órgão regulador de IA do Reino Unido, o Instituto de Segurança de IA (AISI), estão conduzindo "avaliações rigorosas" da nova geração de modelos de IA avançados para "identificar riscos precocemente" e "testar salvaguardas robustas para ajudar a manter as pessoas seguras".
O AISI começou a avaliar os riscos dos modelos mais recentes, pouco antes de sua liberação pública, logo após sua criação em novembro de 2023. No entanto, foi reportado em setembro que a Casa Branca havia pedido a alguns principais laboratórios dos EUA que não compartilhassem seus modelos com o organismo de pesquisa até que os testes internos dos EUA fossem concluídos.
Na época, a medida foi vista como um golpe ao AISI, que tem sido defendido pelo governo britânico e seus parceiros para promover testes de IA abertos, construtivos e colaborativos. Recentemente, Brad Smith, presidente da Microsoft, disse à BBC que o instituto ajudou a consolidar o Reino Unido como o melhor posicionado para liderar a regulamentação global.
Na segunda-feira, Narayan afirmou que, nas últimas semanas, o governo trabalhou com os EUA "para manter o acesso do AISI britânico aos modelos de IA mais poderosos antes de sua liberação". Ele também disse que o Reino Unido estudará a criação de proteções mais fortes através do projeto de lei de Segurança e Resiliência Cibernética, focando especialmente em como os incidentes graves de IA podem ser identificados e reportados.
Criticismos sobre a falta de ação concreta
Nuala Polo, líder de políticas públicas do Reino Unido no Instituto Ada Lovelace, disse que o anúncio comprometia o governo com "muito pouco". "Proteções mais fortes serão 'consideradas', o fortalecimento da Lei de Cibersegurança será 'explorado' e a reporte de quase-acidentes será 'analisada', com os detalhes a serem divulgados posteriormente", disse ela.
"Não há novo poder regulatório, nem cronograma, e nem obrigação para os desenvolvedores de IA", acrescentou. A declaração surge após uma série de incidentes envolvendo agentes de IA de grandes empresas, como OpenAI e Anthropic, agindo fora do controle humano e invadindo sistemas externos.
Em 9 de setembro, Evan Hubinger, um dos principais pesquisadores de segurança da Anthropic, alertou em uma publicação na rede X que a IA está avançando tão rapidamente que ele acredita haver mais de 10% de chance de ela "poder matar todos os humanos" na próxima década. Os líderes das gigantes de IA dos EUA, como Anthropic, OpenAI e Google DeepMind, apoiaram a ideia de um desaceleração no desenvolvimento.
No entanto, atualmente não existem regras globais de segurança para regulamentar essas empresas e sua tecnologia. O presidente Trump defendeu que o setor se autorregule para que as empresas dos EUA não percam espaço para rivais chineses. Ao falar com a BBC após o anúncio, Narayan disse que o Reino Unido precisava "estar confiante... como país" quanto à capacidade de fazer empresas estrangeiras de IA cumprirem as regras britânicas.
"Temos a capacidade, temos a confiança e temos um governo que está do lado do público britânico para garantir que não tenhamos apenas leis, mas a capacidade de aplicá-las", disse ele. "O que estamos focando é entregar o resultado certo para o público britânico, onde a lei foi a resposta".
Soberania e futuro da IA britânica
Sobre a questão de o Reino Unido ter seu próprio modelo fronteira de IA soberano, o ministro disse que estava "focado" em garantir a soberania britânica, o que significava "fazer o conjunto certo de investimentos". "É a fabricação de chips britânicos aqui. São modelos britônicos fora do idioma, olhando para coisas como descoberta de drogas, descoberta de materiais, visão computacional e suas áreas de adoção, incluindo IA, segurança e segurança cibernética", concluiu.
