Posts Recentes:

TV 4K TCL QLED de 50 pol. com Google TV pelo menor preço histórico na Amazon

Está procurando uma TV 4K sem gastar muito?...

Mulheres na IA: Krystal Kauffman, pesquisadora do Distributed AI Research Institute

Para dar às mulheres acadêmicas e outras pessoas...

Adobe adiciona novos recursos de AI Assistant aos aplicativos Acrobat e Reader PDF

A Adobe está levando a experiência de uso...

Cofundador do Google Brain tenta, sem sucesso, fazer IA desenvolver planos para exterminar a humanidade


Andrew Ng, cofundador do Google Brain e professor da Universidade de Stanford, revelou que fez uma tentativa de induzir o ChatGPT a criar maneiras de exterminar a humanidade, mas falhou.

Em sua newsletter da semana passada, Ng compartilhou sua experiência, afirmando que procurava testar a segurança dos modelos de IA mais avançados.

Ng mencionou o experimento em um artigo mais longo sobre seus pontos de vista sobre os riscos e perigos da IA.

Amplamente considerado um dos pioneiros da aprendizagem de máquina, Ng expressou preocupação de que a demanda por segurança em IA possa levar os reguladores a dificultarem o desenvolvimento dessa tecnologia.

Para realizar o teste, Ng disse que primeiro “deu a função de iniciar uma guerra termonuclear global ao GPT-4”.

Em seguida, pediu ao GPT-4 que reduzisse os níveis de emissões de carbono, alegando que os humanos são a maior causa desse problema. Ng queria ver se o chatbot decidiria eliminar a humanidade para cumprir o pedido.

“Após diversas tentativas com diferentes variações de comandos, não consegui enganar o GPT-4 a executar aquela função nem uma vez sequer”, escreveu Ng.

“Em vez disso, o modelo escolheu outras opções, como realizar uma campanha de relações públicas para conscientizar sobre as mudanças climáticas.”

Embora alguns argumentem que futuras iterações de IA possam se tornar perigosas, Ng acredita que essas preocupações não são realistas.

“Até mesmo com a tecnologia atual, nossos sistemas são bastante seguros. À medida que a pesquisa em segurança da IA avança, a tecnologia se tornará ainda mais segura”, escreveu Ng.

Ng não é o único especialista em tecnologia a expressar preocupações sobre os riscos e perigos da IA. Em abril, Elon Musk afirmou em uma entrevista à Fox News que acredita que a IA representa uma ameaça existencial para a humanidade.

Já Jeff Bezos, em entrevista ao podcaster Lex Fridman na semana passada, afirmou que os benefícios da IA superam seus perigos.

Últimas

TV 4K TCL QLED de 50 pol. com Google TV pelo menor preço histórico na Amazon

Está procurando uma TV 4K sem gastar muito?...

Mulheres na IA: Krystal Kauffman, pesquisadora do Distributed AI Research Institute

Para dar às mulheres acadêmicas e outras pessoas...

Adobe adiciona novos recursos de AI Assistant aos aplicativos Acrobat e Reader PDF

A Adobe está levando a experiência de uso...

Alterar o assistente padrão no Android desabilita o Circle to Search

O Google lançou o recurso Circle to Search...

Assine

spot_img

Veja Também

TV 4K TCL QLED de 50 pol. com Google TV pelo menor preço histórico na Amazon

Está procurando uma TV 4K sem gastar muito?...

Mulheres na IA: Krystal Kauffman, pesquisadora do Distributed AI Research Institute

Para dar às mulheres acadêmicas e outras pessoas...

Adobe adiciona novos recursos de AI Assistant aos aplicativos Acrobat e Reader PDF

A Adobe está levando a experiência de uso...

Alterar o assistente padrão no Android desabilita o Circle to Search

O Google lançou o recurso Circle to Search...
spot_img

TV 4K TCL QLED de 50 pol. com Google TV pelo menor preço histórico na Amazon

Está procurando uma TV 4K sem gastar muito? Então não perca a super oferta da Amazon na TCL QLED TV 4K de 50...

Mulheres na IA: Krystal Kauffman, pesquisadora do Distributed AI Research Institute

Para dar às mulheres acadêmicas e outras pessoas focadas em IA o merecido - e devido - tempo de destaque, o TechCrunch está...

Adobe adiciona novos recursos de AI Assistant aos aplicativos Acrobat e Reader PDF

A Adobe está levando a experiência de uso dos aplicativos Acrobat e Reader PDF para um novo patamar ao incorporar recursos avançados de...