Um grupo de trabalho Frontier AI estabelecido pelo Reino Unificado em junho para se preparar para a Cimeira de Segurança da IA, realizada esta semana, está em vias de se tornar um elemento permanente, à medida que o Reino Unificado se propõe assumir um papel de liderança na política de IA no porvir. O primeiro-ministro do Reino Unificado, Rishi Sunak, anunciou hoje formalmente o lançamento do AI Safety Institute, um “meio global com sede no Reino Unificado e encarregado de testar a segurança de tipos emergentes de IA”.
O instituto foi anunciado informalmente na semana passada, antes da cimeira desta semana. Agora, o governo confirmou que será liderado por Ian Hogarth — um investidor, fundador e engenheiro que também presidiu o grupo de trabalho — e que Yoshuo Bengio, uma das pessoas mais proeminentes no campo da IA, assumirá a liderança. a produção do seu primeiro relatório.
Não está evidente quanto financiamento o governo injetará no AI Safety Institute, ou se se espera que os participantes da indústria paguem segmento da conta. O instituto, que ficará subordinado ao Departamento de Ciência, Inovação e Tecnologia, é descrito porquê “bravo por empresas líderes de IA”, embora isso possa ser mais uma referência ao endosso do que ao pedestal financeiro. Entramos em contato com o DSIT para perguntar e atualizaremos à medida que soubermos mais.
A notícia surge juntamente com o pregão de ontem de um novo contrato, o Declaração de Bletchleyque foi assinado por todos os países que participaram na cimeira e os compromete a realizar testes conjuntos e outros compromissos sobre a avaliação de riscos de tecnologias de “IA de fronteira”, por exemplo, grandes modelos de linguagem.
“Até agora, as únicas pessoas que testam a segurança dos novos modelos de IA têm sido as próprias empresas que os desenvolvem”, disse Sunak numa reunião com jornalistas esta noite. Citando o trabalho que está a ser feito também por outros países, a ONU e o G7 para abordar a IA, agora o projecto será “trabalhar em conjunto no teste da segurança de novos modelos de IA antes de serem lançados”.
Tudo isso, com certeza, ainda está em seus estágios iniciais. Até agora, o Reino Unificado tem resistido a tomar medidas para considerar a forma de regular as tecnologias de IA, tanto ao nível da plataforma porquê a níveis de emprego mais específicos, e alguns acreditam que, sem qualquer força, as ideias de segurança e de quantificação do risco não fazem sentido.
Sunak argumentou que é muito cedo para regulamentar.
“A tecnologia está a desenvolver-se a um ritmo tal que os governos têm de prometer que conseguimos acompanhá-la”, disse Sunak em resposta a uma denunciação de que estava a ser excessivo ligeiro na legislação e ao mesmo tempo a apostar em grandes ideias. “Antes de estrear a exigir e legislar sobre coisas… você precisa saber exatamente sobre o que está legislando.”
Embora a transparência pareça ser um objectivo muito evidente de muitos dos esforços a longo prazo em torno deste magnífico mundo novo da tecnologia, a série de reuniões de hoje em Bletchley, segundo dia da cimeira, esteve muito longe desse espírito.
Além das sessões bilaterais com a presidente da Percentagem Europeia, Ursula von der Leyen, e o secretário-geral das Nações Unidas, António Guterres, a cimeira de hoje centrou-se em duas sessões plenárias. Fechados para jornalistas além de pequenas piscinas observando as pessoas reunidas em salas, os participantes incluíram os CEOs da DeepMind, OpenAI, Antrhopic, InflectionAI, Salesforce e Mistral, muito porquê o presidente da Microsoft e gerente da AWS. Entre os representantes dos governos, a formação incluía Sunak e a vice-presidente dos EUA, Kamala Harris, muito porquê Giorgia Meloni, da Itália, e o ministro das finanças galicismo, Bruno Le Maire.
Notavelmente, embora a China tenha sido um convidado muito elogiado durante o primeiro dia, não compareceu nas plenárias fechadas do segundo dia.
Também ausente nas sessões de hoje, ao que parece, estava Elon Musk, proprietário do X.ai (anteriormente publicado porquê Twitter). Sunak deve ter um bate-papo com ele esta noite na plataforma social de Musk. Curiosamente, não se espera que seja uma transmissão ao vivo.
