Posts Recentes:

Segurança desde a concepção | TechCrunch


C
Bem-vindo ao TechCrunch Exchange, um boletim informativo semanal sobre startups e mercados. É inspirado no coluna diária do TechCrunch+ de onde vem seu nome. Quer na sua caixa de entrada todos os sábados? Inscrever-se aqui.

A capacidade da tecnologia de reinventar a roda tem suas desvantagens: pode significar ignorar verdades flagrantes que outros já aprenderam. Mas a boa notícia é que os novos fundadores às vezes descobrem isso por si próprios mais rapidamente do que os seus antecessores. – Ana

IA, confiança e segurança

Este ano é um ano olímpico, um ano bissexto. . . e também o ano eleitoral. Mas antes que você me acuse Inadimplência dos EUAnão estou pensando apenas na sequência Biden vs. Trump: mais de 60 países estão realização de eleições nacionaispara não mencionar o do Parlamento da UE.

De que forma cada uma dessas oscilações de votos poderia ter impacto nas empresas de tecnologia; diferentes partes tendem a ter opiniões diferentes sobre a regulamentação da IA, por exemplo. Mas antes mesmo de as eleições ocorrerem, a tecnologia também terá um papel a desempenhar para garantir a sua integridade.

A integridade eleitoral provavelmente não estava na mente de Mark Zuckerberg quando ele criou o Facebook, e talvez nem mesmo quando comprou o WhatsApp. Mas 20 e 10 anos depois, respectivamente, a confiança e a segurança são agora uma responsabilidade da qual a Meta e outros gigantes da tecnologia não podem escapar, gostem ou não. Isto significa trabalhar para prevenir a desinformação, a fraude, o discurso de ódio, o CSAM (material de abuso sexual infantil), a automutilação e muito mais.

No entanto, a IA provavelmente tornará a tarefa mais difícil, e não apenas por causa deepfakes ou de capacitar um número maior de maus atores. Diz Lotan Levkowitz, sócio geral da Grove Empreendimentos:

Todas essas plataformas de confiança e segurança têm isso banco de dados de compartilhamento de hash, para que eu possa postar lá o que é ruim, compartilhar com todas as minhas comunidades, e todos vão acabar com isso juntos; mas hoje posso treinar o modelo para tentar evitá-lo. Portanto, mesmo o trabalho mais clássico de confiança e segurança, por causa da Geração AI, está ficando cada vez mais difícil porque o algoritmo pode ajudar a contornar todas essas coisas.

Da reflexão tardia à vanguarda

Embora os fóruns on-line já tivessem aprendido algumas coisas sobre moderação de conteúdo, não havia um manual de rede social para o Facebook seguir quando nasceu, por isso é compreensível que precisasse de um tempo para enfrentar a tarefa. Mas é desanimador saber, através de documentos internos da Meta, que já 2017ainda havia relutância interna em adotar medidas que pudessem proteger melhor as crianças.

Zuckerberg foi um dos cinco CEOs de tecnologia de mídia social que apareceu recentemente em um Audiência no Senado dos EUA sobre a segurança online das crianças. Testificar não foi de longe a primeira vez para Meta, mas também vale a pena notar que o Discord foi incluído; embora tenha se ramificado além de suas raízes nos jogos, é um lembrete de que ameaças à confiança e à segurança podem ocorrer em muitos lugares online. Isso significa que um aplicativo de jogo social, por exemplo, também pode colocar seus usuários em risco de phishing ou aliciamento.

As empresas mais novas assumirão o controle mais rapidamente do que as FAANGs? Isso não é garantido: os fundadores geralmente operam com base nos primeiros princípios, o que é bom e ruim; o curva de aprendizado de moderação de conteúdo é real. Mas o OpenAI é muito mais jovem que o Meta, por isso é encorajador saber que está formando uma nova equipe estudar segurança infantil – mesmo que possa ser resultado do escrutínio a que está sujeito.

Algumas startups, no entanto, não esperam sinais de problemas para agir. Um fornecedor de soluções de confiança e segurança baseadas em IA e parte do portfólio da Grove Ventures, ActiveFence está vendo mais solicitações recebidas, disse-me seu CEO, Noam Schwartz.

“Tenho visto muitas pessoas entrando em contato com nossa equipe de empresas que acabaram de ser fundadas ou mesmo pré-lançadas. Eles estão pensando na segurança de seus produtos durante a fase de design [and] adotando um conceito chamado segurança desde o projeto. Eles estão incorporando medidas de segurança em seus produtos, da mesma forma que hoje você pensa em segurança e privacidade ao criar seus recursos.”

ActiveFence não é a única startup neste espaço, que Com fio descrito como “confiança e segurança como um serviço”. Mas é um dos maiores, especialmente porque adquiriu Spectrum Labs em setembro, por isso é bom saber que seus clientes incluem não apenas grandes nomes com medo de crises de relações públicas e do escrutínio político, mas também equipes menores que estão apenas começando. A tecnologia também tem a oportunidade de aprender com os erros do passado.



Últimas

Alterar o assistente padrão no Android desabilita o Circle to Search

O Google lançou o recurso Circle to Search...

Navigating The SEO Career Landscape: Degrees, Myths, And Realities

In the dynamic realm of search engine optimization...

O que é inventário de anúncios e por que é importante?

Temos escrito muito sobre o inventário de anúncios...

Assine

spot_img

Veja Também

Alterar o assistente padrão no Android desabilita o Circle to Search

O Google lançou o recurso Circle to Search...

Navigating The SEO Career Landscape: Degrees, Myths, And Realities

In the dynamic realm of search engine optimization...

O que é inventário de anúncios e por que é importante?

Temos escrito muito sobre o inventário de anúncios...

Google anuncia acordo para mostrar mais conteúdo do Reddit

O Google anunciou um acordo com o Reddit...
spot_img

Alterar o assistente padrão no Android desabilita o Circle to Search

O Google lançou o recurso Circle to Search no início do ano como um novo recurso de IA para o Android.Embora esteja...

Navigating The SEO Career Landscape: Degrees, Myths, And Realities

In the dynamic realm of search engine optimization (SEO), my career spans nearly two decades, starting in 2004 when I started working for...