Posts Recentes:

Google DeepMind cria nova organização para garantir a segurança da inteligência artificial


A divisão de pesquisa em IA da Google, DeepMind, anunciou a formação de uma nova organização com foco em segurança de inteligência artificial (IA).

A medida vem em resposta às crescentes preocupações sobre o uso indevido e a disseminação de informações enganosas por meio de ferramentas de IA.

A nova equipe, denominada AI Safety and Alignment, trabalhará em conjunto com a equipe de pesquisa existente da DeepMind e se concentrará em garantir a segurança em torno da inteligência artificial geral (AGI), bem como no desenvolvimento de salvaguardas para os modelos de IA atuais e futuros da Google.

A AI Safety and Alignment, liderada por Anca Dragan, ex-cientista de pesquisa da Waymo e professora de ciência da computação da UC Berkeley, terá como objetivo aprimorar a compreensão dos modelos de IA sobre as preferências e valores humanos, bem como garantir a transparência e a responsabilidade na interação entre humanos e IA.

A organização também buscará prevenir a propagação de informações médicas incorretas, garantir a segurança infantil e evitar a amplificação de viés e injustiças.

A criação dessa nova organização reflete o compromisso da Google em abordar os desafios e riscos associados à IA, em meio a preocupações crescentes da sociedade.

Embora seja reconhecido que a segurança perfeita em IA é um desafio complexo, a Google DeepMind está empenhada em investir recursos adicionais nessa área e a desenvolver um framework para avaliar os riscos de segurança dos modelos de IA.

Últimas

Assine

spot_img

Veja Também

spot_img

Paul Graham afirma que Sam Altman não foi demitido da Y Combinator

Em um série de postagens no X na quinta-feira, Paul Graham, cofundador da aceleradora de startups Y Combinator, rejeitou as alegações de que...

A desinformação funciona, e um punhado de “supercompartilhadores” sociais enviou 80% dela em 2020

Dois estudos publicados quinta-feira na revista Science oferecem evidências não apenas de que a desinformação nas redes sociais muda as mentes, mas que...