Posts Recentes:

Bill Weber deixa o cargo de CEO da Firefly Aerospace

Bill Weber deixou o cargo de presidente-executivo da...

26 Common SEO Myths, Debunked

SEO is a complex, vast, and sometimes mysterious...

O cenário de startups de Israel mostra resiliência apesar de nove meses de guerra

Quando a guerra entre Israel e o Hamas...

Cofundador do Google Brain tenta, sem sucesso, fazer IA desenvolver planos para exterminar a humanidade


Andrew Ng, cofundador do Google Brain e professor da Universidade de Stanford, revelou que fez uma tentativa de induzir o ChatGPT a criar maneiras de exterminar a humanidade, mas falhou.

Em sua newsletter da semana passada, Ng compartilhou sua experiência, afirmando que procurava testar a segurança dos modelos de IA mais avançados.

Ng mencionou o experimento em um artigo mais longo sobre seus pontos de vista sobre os riscos e perigos da IA.

Amplamente considerado um dos pioneiros da aprendizagem de máquina, Ng expressou preocupação de que a demanda por segurança em IA possa levar os reguladores a dificultarem o desenvolvimento dessa tecnologia.

Para realizar o teste, Ng disse que primeiro “deu a função de iniciar uma guerra termonuclear global ao GPT-4”.

Em seguida, pediu ao GPT-4 que reduzisse os níveis de emissões de carbono, alegando que os humanos são a maior causa desse problema. Ng queria ver se o chatbot decidiria eliminar a humanidade para cumprir o pedido.

“Após diversas tentativas com diferentes variações de comandos, não consegui enganar o GPT-4 a executar aquela função nem uma vez sequer”, escreveu Ng.

“Em vez disso, o modelo escolheu outras opções, como realizar uma campanha de relações públicas para conscientizar sobre as mudanças climáticas.”

Embora alguns argumentem que futuras iterações de IA possam se tornar perigosas, Ng acredita que essas preocupações não são realistas.

“Até mesmo com a tecnologia atual, nossos sistemas são bastante seguros. À medida que a pesquisa em segurança da IA avança, a tecnologia se tornará ainda mais segura”, escreveu Ng.

Ng não é o único especialista em tecnologia a expressar preocupações sobre os riscos e perigos da IA. Em abril, Elon Musk afirmou em uma entrevista à Fox News que acredita que a IA representa uma ameaça existencial para a humanidade.

Já Jeff Bezos, em entrevista ao podcaster Lex Fridman na semana passada, afirmou que os benefícios da IA superam seus perigos.

Últimas

Bill Weber deixa o cargo de CEO da Firefly Aerospace

Bill Weber deixou o cargo de presidente-executivo da...

26 Common SEO Myths, Debunked

SEO is a complex, vast, and sometimes mysterious...

O cenário de startups de Israel mostra resiliência apesar de nove meses de guerra

Quando a guerra entre Israel e o Hamas...

Netflix muda foco para nível suportado por anúncios à medida que o crescimento de assinantes aumenta

A Netflix está eliminando seu plano mais barato...

Assine

spot_img

Veja Também

Bill Weber deixa o cargo de CEO da Firefly Aerospace

Bill Weber deixou o cargo de presidente-executivo da...

26 Common SEO Myths, Debunked

SEO is a complex, vast, and sometimes mysterious...

O cenário de startups de Israel mostra resiliência apesar de nove meses de guerra

Quando a guerra entre Israel e o Hamas...

Netflix muda foco para nível suportado por anúncios à medida que o crescimento de assinantes aumenta

A Netflix está eliminando seu plano mais barato...

Por que grupos de anúncios de palavras-chave únicas ainda são importantes em 2024

Entreviste 10 especialistas do Google Ads e nove...
spot_img

Bill Weber deixa o cargo de CEO da Firefly Aerospace

Bill Weber deixou o cargo de presidente-executivo da Firefly Aerospace, após quase dois anos no cargo, anunciou a fabricante de veículos de lançamento,...

26 Common SEO Myths, Debunked

SEO is a complex, vast, and sometimes mysterious practice. There are a lot of aspects to SEO that can lead to confusion. Not everyone...

O cenário de startups de Israel mostra resiliência apesar de nove meses de guerra

Quando a guerra entre Israel e o Hamas eclodiu em Outubro passado, examinámos o seu potencial impacto nos ecossistemas tecnológicos em Israel e...