Posts Recentes:

Threads adiciona um recurso de bookmarking para salvar postagens favoritas

Threads, o aplicativo semelhante ao Twitter do Instagram,...

OpenAI vai avaliar os riscos catastróficos representados pelos modelos de IA mais avançados


A OpenAI tomou uma iniciativa significativa ao lançar um programa de avaliação para lidar com os riscos catastróficos apresentados pelos modelos de IA mais avançados.

Enquanto muitas preocupações e temores têm sido expressos em relação aos possíveis riscos que esses modelos podem trazer, pouco se discutiu sobre como prevenir esses perigos em potencial.

OpenAI vai avaliar os riscos catastroficos representados pelos modelos deOpenAI vai avaliar os riscos catastroficos representados pelos modelos de

A proposta é utilizar uma abordagem matricial que documenta os níveis de risco associados a esses modelos de última geração.

Dentre os riscos considerados estão a possibilidade de uso malicioso dos modelos para criação de malware, ataques de engenharia social ou disseminação de informações prejudiciais relacionadas a armas nucleares ou biológicas.

A OpenAI pontuará cada risco em categorias como baixo, médio, alto ou crítico, antes e depois de implementar medidas de mitigação específicas para cada categoria.

Essa abordagem garantirá que apenas modelos com pontuações “médias” ou inferiores sejam liberados para uso, enquanto o desenvolvimento de modelos será interrompido caso os riscos não possam ser reduzidos abaixo do nível crítico.

Além disso, a OpenAI está comprometida em fortalecer seus sistemas de governança para evitar eventos que possam comprometer a segurança.

A empresa espera que essa abordagem pioneira para avaliar riscos seja adotada por outras empresas de IA, promovendo uma cultura de segurança e mitigação de riscos em toda a indústria.

Últimas

Threads adiciona um recurso de bookmarking para salvar postagens favoritas

Threads, o aplicativo semelhante ao Twitter do Instagram,...

Google espera corrigir o problema histórico de diversidade de imagens de Gemini dentro de semanas

O Google está esperançoso de que em breve...

Índia estimula investimento no setor espacial com limites aumentados ao financiamento estrangeiro

A Índia atualizou as regras oficiais do setor...

Assine

spot_img

Veja Também

Threads adiciona um recurso de bookmarking para salvar postagens favoritas

Threads, o aplicativo semelhante ao Twitter do Instagram,...

Google espera corrigir o problema histórico de diversidade de imagens de Gemini dentro de semanas

O Google está esperançoso de que em breve...

Índia estimula investimento no setor espacial com limites aumentados ao financiamento estrangeiro

A Índia atualizou as regras oficiais do setor...

BLKFAM apoiado por Whoopi Goldberg é lançado com mais de 1.000 horas de programação infantil

BLKFAM é um serviço de streaming familiar gratuito,...
spot_img

Perguntas beta do Google Reviews

Agora, ao deixar...

Threads adiciona um recurso de bookmarking para salvar postagens favoritas

Threads, o aplicativo semelhante ao Twitter do Instagram, está se tornando mais parecido com seu concorrente X com os recentes lançamentos de trending...

Google espera corrigir o problema histórico de diversidade de imagens de Gemini dentro de semanas

O Google está esperançoso de que em breve será capaz de ‘retomar’ a capacidade de sua ferramenta multimodal de IA generativa, Gemini, de...