BLITCHLEY, Inglaterra – Sob um novo acordo, “governos com ideias semelhantes” poderão testar modelos de inteligência artificial de oito empresas líderes de tecnologia antes de lançá-los, disse o primeiro-ministro britânico, Rishi Sunak, nesta quinta-feira.

Na conclusão da Cimeira de IA de dois dias em Bletchley Park, na quinta-feira, Sunak anunciou o acordo assinado pela Austrália, Canadá, União Europeia, França, Alemanha, Itália, Japão, Coreia, Singapura, Estados Unidos e Reino Unido para testar empresas líderes. “Modelos de inteligência artificial.

“Até agora, as únicas pessoas que testam a segurança dos novos modelos de IA são as empresas que os desenvolvem. Isso tem de mudar”, disse Sunak numa sala cheia de jornalistas.

“Hoje, governos e empresas de IA com ideias semelhantes chegaram a um acordo histórico. Juntos trabalharemos para testar a segurança de novos modelos de IA antes de serem lançados… Isto é possível graças à decisão que tomei com a vice-presidente Kamala Harris do Os governos britânico e norte-americano para criar institutos líderes mundiais em segurança de IA têm as capacidades do sector público para testar os modelos de fronteira mais avançados.

Sunak disse que as oito empresas – Amazon Web Services, Anthropic, Google, Google DeepMind, Inflection AI, Meta, Microsoft, Mistral AI e Open AI – concordaram em “aprofundar” o acesso já concedido à Frontier AI Taskforce, que é o carro-chefe do novo instituto. O acesso é atualmente concedido numa base voluntária, embora, ao abrigo da sua ordem executiva, o governo dos EUA tenha estabelecido requisitos vinculativos para a entrega de determinadas informações de segurança.

Sunak também anunciou mais detalhes sobre o acordo alcançado ontem com os países para estabelecer um comitê consultivo internacional sobre riscos de fronteira da IA.

Seguindo o modelo do Painel Intergovernamental sobre Mudanças Climáticas (IPCC), será composto por representantes dos 28 países participantes da cúpula. O governo britânico disse que lhe forneceria apoio de secretariado.

O comitê também apoiará o acadêmico Yoshua Bengio na produção de um relatório sobre o estado da ciência sobre os riscos e capacidades da IA ​​de fronteira. O relatório não fará recomendações políticas, mas foi concebido para informar a elaboração de políticas internacionais e nacionais. Será publicado antes da próxima cimeira de segurança na Coreia do Sul, no primeiro semestre do próximo ano.