Posts Recentes:

SoftBank adquire fabricante de chips de IA do Reino Unido Graphcore

Empresa de chips do Reino Unido Gráficooré foi...

Pesquisadores do Google alertam que a IA está destruindo a internet

Um estudo feito por pesquisadores do Google aponta...

Anthropic contrata ex-líder de segurança da OpenAI para liderar nova equipe


Jan Leike, um importante pesquisador de IA que no início deste mês renunciou à OpenAI antes de criticar publicamente a abordagem da empresa em relação à segurança de IA, juntou-se à Anthropic, rival da OpenAI, para liderar uma nova equipe de “superalinhamento”.

Em uma postagem no X, Leike disse que sua equipe na Anthropic se concentrará em vários aspectos da segurança e proteção da IA, especificamente “supervisão escalonável”, “generalização fraca a forte” e pesquisa de alinhamento automatizado.

twitter wp-block-embed-twitter">
twitter-tweet" data-width="500" data-dnt="true">

Estou animado para participar twitter.com/AnthropicAI?ref_src=twsrc%5Etfw" rel="noopener">@AnthropicAI para continuar a missão do superalinhamento!

Minha nova equipe trabalhará em supervisão escalonável, generalização de fraco para forte e pesquisa de alinhamento automatizada.

Caso tenha interesse em participar, minhas dms estão abertas.

-Jan Leike (@janleike) twitter.com/janleike/status/1795497960509448617?ref_src=twsrc%5Etfw" rel="noopener">28 de maio de 2024

Uma fonte familiarizada com o assunto disse ao TechCrunch que Leike se reportará diretamente a Jared Kaplan, diretor científico da Anthropic, e que os pesquisadores da Anthropic atualmente trabalhando na supervisão escalonável – técnicas para controlar o comportamento da IA ​​em grande escala de maneiras previsíveis e desejáveis ​​– passarão a relatar para Leike enquanto a equipe de Leike gira.

twitter wp-block-embed-twitter">
twitter-tweet" data-width="500" data-dnt="true">

✨🪩 Uau! 🪩✨

Jan liderou alguns trabalhos extremamente importantes sobre segurança técnica de IA e estou emocionado por trabalhar com ele! Estaremos liderando equipes gêmeas voltadas para diferentes partes do problema de alinhamento dos sistemas de IA no nível humano e além. https://t.co/aqSFTnOEG0

-Sam Bowman (@sleepinyourhat) twitter.com/sleepinyourhat/status/1795500776741310825?ref_src=twsrc%5Etfw" rel="noopener">28 de maio de 2024

Em muitos aspectos, a equipe de Leike parece semelhante em missão à da OpenAI recentemente dissolvido Equipe de superalinhamento. A equipe do Superalignment, co-liderada por Leike, tinha o objetivo ambicioso de resolver os principais desafios técnicos de controle da IA ​​superinteligente nos próximos quatro anos, mas muitas vezes se viu prejudicada pela liderança da OpenAI.

A Anthropic muitas vezes tentou se posicionar como mais focada na segurança do que a OpenAI.

O CEO da Anthropic, Dario Amodei, já foi vice-presidente de pesquisa da OpenAI e supostamente se separou da OpenAI após um desentendimento sobre a direção da empresa – ou seja, o crescente foco comercial da OpenAI. Amodei trouxe consigo vários ex-funcionários da OpenAI para lançar o Anthropic, incluindo o ex-líder político da OpenAI, Jack Clark.



Últimas

Câmeras Waymo capturam imagens de pessoa acusada de supostos cortes de pneus de robotaxi

Um morador de Castro Valley foi acusado na...

SoftBank adquire fabricante de chips de IA do Reino Unido Graphcore

Empresa de chips do Reino Unido Gráficooré foi...

Pesquisadores do Google alertam que a IA está destruindo a internet

Um estudo feito por pesquisadores do Google aponta...

César Lattes, físico e professor brasileiro, é homenageado no Google

Hoje, o Google celebra com um Doodle animado...

Assine

spot_img

Veja Também

Câmeras Waymo capturam imagens de pessoa acusada de supostos cortes de pneus de robotaxi

Um morador de Castro Valley foi acusado na...

SoftBank adquire fabricante de chips de IA do Reino Unido Graphcore

Empresa de chips do Reino Unido Gráficooré foi...

Pesquisadores do Google alertam que a IA está destruindo a internet

Um estudo feito por pesquisadores do Google aponta...

César Lattes, físico e professor brasileiro, é homenageado no Google

Hoje, o Google celebra com um Doodle animado...

O WhatsApp agora permite que empresas enviem códigos de autenticação para usuários na Índia

O WhatsApp agora permite que empresas enviem códigos...
spot_img

Câmeras Waymo capturam imagens de pessoa acusada de supostos cortes de pneus de robotaxi

Um morador de Castro Valley foi acusado na quinta-feira por supostamente cortar os pneus de 17 robotaxis Waymo em São Francisco entre 24...

SoftBank adquire fabricante de chips de IA do Reino Unido Graphcore

Empresa de chips do Reino Unido Gráficooré foi formalmente adquirida pelo SoftBank do Japão.Rumores do acordo abundam há algum tempomas negociações prolongadas e...

Pesquisadores do Google alertam que a IA está destruindo a internet

Um estudo feito por pesquisadores do Google aponta que a IA generativa, a mesma que a gigante de Mountain View está super incentivando,...