Posts Recentes:

Yann LeCun, da Meta, junta-se a outros 70 no apelo por mais abertura no desenvolvimento de IA


GettyImages 1691368502 e1698861061983

No mesmo dia, o Reino Unificado reuniu alguns dos líderes empresariais e políticos do mundo na mesma sala em Bletchley Park para o AI Safety Summitmais de 70 signatários colocaram o seu nome numa epístola apelando a uma abordagem mais ocasião ao desenvolvimento da IA.

“Estamos em um momento crítico na governança da IA”, diz a epístola. publicado pela Mozilla, notas. “Para mitigar os danos atuais e futuros dos sistemas de IA, precisamos de abraçar a rombo, a transparência e o espaçoso aproximação. Isso precisa ser uma prioridade global.”

Muito parecido com o que aconteceu na esfera mais ampla do software nas últimas décadas, um importante tecido de fundo para a crescente revolução da IA ​​tem sido o simples versus o proprietário – e os prós e contras de cada um. No término de semana, o cientista-chefe de IA do Facebook, Meta, Yann LeCun levou para X para sentenciar os esforços de algumas empresas, incluindo a OpenAI e a DeepMind do Google, para prometer a “tomada regulatória da indústria de IA”, fazendo lobby contra a P&D de IA ocasião.

“Se as suas campanhas de fomento do terror tiverem sucesso, elas resultarão *inevitavelmente* no que você e eu identificaríamos porquê uma catástrofe: um pequeno número de empresas controlará a IA”, escreveu LeCun.

E nascente é um tema que continua a permear os crescentes esforços de governação emergentes do como a ordem executiva do presidente Biden e o AI Safety Summit organizado pelo Reino Unificado esta semana. Por um lado, os chefes de grandes empresas de IA estão alertando sobre as ameaças existenciais que a IA representa, argumentando que a IA de código simples pode ser manipulada por maus atores para produzir mais facilmente armas químicas (por exemplo), enquanto, por outro lado, os contra-argumentos postulam que tal alarmismo serve somente para ajudar a concentrar o controlo nas mãos de algumas empresas proteccionistas.

Controle proprietário

A verdade é provavelmente um pouco mais matizada do que isso, mas é contra esse tecido de fundo que dezenas de pessoas colocaram hoje o seu nome numa epístola ocasião, apelando a mais rombo.

“Sim, os modelos disponíveis claramente apresentam riscos e vulnerabilidades – os modelos de IA podem ser abusados ​​por atores mal-intencionados ou implantados por desenvolvedores mal equipados”, diz a epístola. “No entanto, vimos repetidamente que o mesmo se aplica às tecnologias proprietárias – e que o aumento do aproximação e do escrutínio público torna a tecnologia mais segura, e não mais perigosa. A teoria de que o controlo rígido e proprietário dos modelos fundamentais de IA é o único caminho para nos proteger dos danos à graduação da sociedade é, na melhor das hipóteses, ingénua e, na pior das hipóteses, perigosa.

Estimado pesquisador de IA LeCun – que juntou-se à Meta há 10 anos – anexou seu nome à epístola, junto com vários outros nomes notáveis, incluindo Google Brain e cofundador do Coursera André Ngcofundador e CTO da Hugging Face Julien Chaumond e renomado tecnólogo Brian Behlendorf da Instauração Linux.

Especificamente, a epístola identifica três áreas principais onde a rombo pode ajudar o desenvolvimento seguro da IA, nomeadamente através da habilitação de uma maior investigação e colaboração independentes, do aumento do escrutínio público e da responsabilização e da redução das barreiras à ingresso de novos participantes no espaço da IA.

“A história mostra-nos que precipitar-se rapidamente para o tipo falso de regulamentação pode levar a concentrações de poder de formas que prejudicam a concorrência e a inovação”, observa a epístola. “Os modelos abertos podem informar um debate simples e melhorar a elaboração de políticas. Se os nossos objetivos são segurança, proteção e responsabilização, logo a rombo e a transparência são ingredientes essenciais para chegarmos lá.”



Últimas

Assine

spot_img

Veja Também

spot_img

Paul Graham afirma que Sam Altman não foi demitido da Y Combinator

Em um série de postagens no X na quinta-feira, Paul Graham, cofundador da aceleradora de startups Y Combinator, rejeitou as alegações de que...

A desinformação funciona, e um punhado de “supercompartilhadores” sociais enviou 80% dela em 2020

Dois estudos publicados quinta-feira na revista Science oferecem evidências não apenas de que a desinformação nas redes sociais muda as mentes, mas que...