Posts Recentes:

Google anuncia Gemma: IA de código aberto compatível com laptop

O Google lançou um modelo de linguagem grande...

Amazon lançará ‘loja especial’ de moda de valor na Índia

A Amazon está se preparando para fazer outra...

OpenAI anuncia equipe para incorporar ideias de governança 'crowdsourced' em seus modelos


openAI pattern 04

A OpenAI afirma que deseja implementar ideias do público sobre como garantir que seus futuros modelos de IA “alinhados com os valores da humanidade”.

Para esse fim, a startup de IA está formando uma nova equipe de pesquisadores e engenheiros de Alinhamento Coletivo para criar um sistema para coletar e “codificar” informações públicas sobre o comportamento de seus modelos em produtos e serviços OpenAI, a empresa anunciado hoje.

“Continuaremos a trabalhar com consultores externos e equipes de subsídios, incluindo a execução de pilotos para incorporar… protótipos na condução de nossos modelos”, escreve OpenAI.uma postagem no blog. “Eram recrutando… engenheiros de pesquisa de diversas formações técnicas para ajudar a construir este trabalho conosco.”

A equipe de Alinhamento Coletivo é uma consequência do público da OpenAI programa, lançado em maio passado, para conceder subvenções para financiar experiências na criação de um “processo democrático” para decidir quais regras os sistemas de IA devem seguir. O objetivo do programa, disse a OpenAI em sua estreia, era financiar indivíduos, equipes e organizações para desenvolver provas de conceitos que pudessem responder a perguntas sobre proteções e governança para IA.

Em sua postagem no blog de hoje, a OpenAI recapitulou o trabalho dos beneficiários do subsídio, que abrangeu desde interfaces de chat de vídeo até plataformas para auditorias de crowdsourcing de modelos de IA e “abordagens para mapear crenças em dimensões que podem ser usadas para ajustar o comportamento do modelo. ” Todo o código utilizado no trabalho dos bolsistas foi feito público esta manhã, juntamente com breves resumos de cada proposta e conclusões de alto nível.

A OpenAI tentou considerar o programa divorciado de seus interesses comerciais. Mas essa é uma pílula difícil de engolir, dadas as críticas do CEO da OpenAI, Sam Altman, à regulamentação na UE e em outros lugares. Altman, juntamente com o presidente da OpenAI, Greg Brockman, e o cientista-chefe, Ilya Sutskever, argumentaram repetidamente que o ritmo da inovação em IA é tão rápido que não podemos esperar que as autoridades existentes controlem adequadamente a tecnologia – daí a necessidade de crowdsourcing o trabalho.

Alguns rivais da OpenAI, incluindo a Meta, acusaram a OpenAI (entre outros) de tentar garantir a “captura regulatória da indústria de IA” fazendo lobby contra a P&D de IA aberta. A OpenAI, sem surpresa, nega isso – e provavelmente apontaria o programa de subsídios (e a equipe de Alinhamento Coletivo) como um exemplo de sua “abertura”.

De qualquer forma, a OpenAI está sob crescente escrutínio dos legisladores, enfrentando um sonda no Reino Unido sobre o seu relacionamento com o parceiro próximo e investidor Microsoft. A startup procurou recentemente reduzir o seu risco regulatório na UE em torno da privacidade de dados, aproveitando uma subsidiária com sede em Dublin para reduzir a capacidade de certos vigilantes da privacidade no bloco agirem unilateralmente em relação às preocupações.

Ontem – em parte para acalmar os reguladores, sem dúvida – OpenAI anunciado que está a trabalhar com organizações para tentar limitar as formas como a sua tecnologia pode ser usada para influenciar ou influenciar eleições através de meios maliciosos. Os esforços da startup incluem tornar mais óbvio quando as imagens são geradas por IA usando suas ferramentas e desenvolver abordagens para identificar o conteúdo gerado mesmo após as imagens terem sido modificadas.

Últimas

Google anuncia Gemma: IA de código aberto compatível com laptop

O Google lançou um modelo de linguagem grande...

Amazon lançará ‘loja especial’ de moda de valor na Índia

A Amazon está se preparando para fazer outra...

WhatsApp adiciona suporte de formatação para listas, citações em bloco e código embutido

O WhatsApp disse hoje que está lançando uma...

Assine

spot_img

Veja Também

Google anuncia Gemma: IA de código aberto compatível com laptop

O Google lançou um modelo de linguagem grande...

Amazon lançará ‘loja especial’ de moda de valor na Índia

A Amazon está se preparando para fazer outra...

WhatsApp adiciona suporte de formatação para listas, citações em bloco e código embutido

O WhatsApp disse hoje que está lançando uma...

Plataforma de modelos abertos para impulsionar a pesquisa em IA

O Google revelou a Gemma, uma nova linha...
spot_img

Google anuncia Gemma: IA de código aberto compatível com laptop

O Google lançou um modelo de linguagem grande de código aberto baseado na tecnologia usada para criar o Gemini que é poderoso, porém...

Amazon lançará ‘loja especial’ de moda de valor na Índia

A Amazon está se preparando para fazer outra tentativa de entrar no setor de rápido crescimento do comércio eletrônico de moda e estilo...

WhatsApp adiciona suporte de formatação para listas, citações em bloco e código embutido

O WhatsApp disse hoje que está lançando uma série de novas opções de formatação no aplicativo, incluindo listas com marcadores, listas numeradas, citações...