Posts Recentes:

Aqui estão os melhores recursos do WWDC 2024 que você perdeu

A Apple anunciou uma série de novos recursos...

BeReal obteve sua saída no melhor cenário

Ultimamente, tem havido muitas más notícias sobre startups...

WitnessAI está construindo proteções para modelos generativos de IA


A IA generativa inventa coisas. Pode ser tendencioso. Às vezes, ele cospe texto tóxico. Então pode ser “seguro”?

Rick Caccia, CEO da Testemunha AIacredita que pode.

“Proteger modelos de IA é um problema real e especialmente brilhante para pesquisadores de IA, mas é diferente de proteger o uso”, disse Caccia, ex-vice-presidente sênior de marketing da Palo Alto Networks, ao TechCrunch em uma entrevista. “Penso nele como um carro esportivo: ter um motor mais potente – ou seja, um modelo – não traz nada a menos que você também tenha bons freios e direção. Os controles são tão importantes para uma direção rápida quanto o motor.”

Há certamente uma procura por tais controlos entre as empresas, que – embora cautelosamente optimistas quanto ao potencial de aumento de produtividade da IA ​​generativa – estão preocupadas com as limitações da tecnologia.

Cinquenta e um por cento dos CEOs estão contratando para funções generativas relacionadas à IA que não existiam até este ano, segundo um relatório da IBM. enquete encontra. No entanto, apenas 9% das empresas afirmam estar preparadas para gerir ameaças – incluindo ameaças relacionadas com a privacidade e a propriedade intelectual – decorrentes da utilização de IA generativa, de acordo com um Riskonnect. enquete.

A plataforma da WitnessAI que intercepta atividades entre funcionários e os modelos de IA generativos personalizados que seu empregador está usando – não modelos protegidos por uma API como o GPT-4 da OpenAI, mas mais nos moldes do Llama 3 da Meta – e aplica políticas e salvaguardas de mitigação de riscos.

“Uma das promessas da IA ​​empresarial é que ela desbloqueia e democratiza os dados empresariais para os funcionários, para que possam fazer melhor o seu trabalho. Mas desbloquear todos esses dados confidenciais bem demais –– ou ver vazar ou ser roubado – é um problema.”

A WitnessAI vende acesso a vários módulos, cada um focado em lidar com uma forma diferente de risco generativo de IA. Um permite que as organizações implementem regras para evitar que funcionários de equipes específicas usem ferramentas generativas baseadas em IA de maneiras que não deveriam (por exemplo, perguntando sobre relatórios de ganhos pré-lançamento ou colando bases de código internas). Outro edita informações proprietárias e confidenciais dos prompts enviados aos modelos e implementa técnicas para proteger os modelos contra ataques que possam forçá-los a sair do script.

“Acreditamos que a melhor maneira de ajudar as empresas é definir o problema de uma forma que faça sentido, por exemplo, a adoção segura da IA, e depois vender uma solução que resolva o problema”, disse Caccia. “O CISO deseja proteger os negócios e a WitnessAI os ajuda a fazer isso, garantindo a proteção dos dados, evitando a injeção imediata e aplicando políticas baseadas em identidade. O diretor de privacidade deseja garantir que as regulamentações existentes – e futuras – sejam seguidas, e dar-lhes visibilidade e uma forma de relatar atividades e riscos.”

Mas há uma coisa complicada sobre o WitnessAI do ponto de vista da privacidade: todos os dados passam por sua plataforma antes de chegarem a um modelo. A empresa é transparente quanto a isso, oferecendo até ferramentas para monitorar quais modelos os funcionários acessam, as perguntas que fazem aos modelos e as respostas que obtêm. Mas poderia criar os seus próprios riscos de privacidade.

Em resposta a perguntas sobre a política de privacidade da WitnessAI, Caccia disse que a plataforma é “isolada” e criptografada para evitar que os segredos dos clientes sejam divulgados abertamente.

“Construímos uma plataforma de latência de milissegundos com separação regulatória integrada – um design exclusivo e isolado para proteger a atividade de IA corporativa de uma forma que é fundamentalmente diferente dos serviços usuais de software como serviço multilocatário”, ele disse. “Criamos uma instância separada de nossa plataforma para cada cliente, criptografada com suas chaves. Seus dados de atividade de IA estão isolados para eles – não podemos vê-los.”

Talvez isso acalme os temores dos clientes. Quanto aos trabalhadores preocupado sobre o potencial de vigilância da plataforma WitnessAI, é uma decisão mais difícil.

As pesquisas mostram que as pessoas geralmente não gostam de ter suas atividades no local de trabalho monitoradas, independentemente do motivo — e acreditam que isso afeta negativamente o moral da empresa. Quase um terço dos entrevistados da Forbes enquete disseram que poderiam considerar deixar o emprego se o empregador monitorasse suas atividades e comunicações online.

Mas Caccia afirma que o interesse na plataforma da WitnessAI tem sido e continua forte, com um pipeline de 25 primeiros utilizadores empresariais na sua fase de prova de conceito. (Não estará disponível até o terceiro trimestre.) E, em um voto de confiança dos VCs, a WitnessAI levantou US$ 27,5 milhões da Ballistic Ventures (que incubou a WitnessAI) e da GV, o braço de risco corporativo do Google.

O plano é destinar a parcela de financiamento para aumentar a equipe de 18 pessoas da WitnessAI para 40 até o final do ano. O crescimento certamente será fundamental para derrotar os rivais da WitnessAI no espaço nascente de conformidade de modelos e soluções de governança, não apenas de gigantes da tecnologia como AWS, Google e Salesforce, mas também de startups como Calypso AI.

“Construímos nosso plano para chegar até 2026 mesmo que não tivéssemos nenhuma venda, mas já temos quase 20 vezes o pipeline necessário para atingir nossas metas de vendas este ano”, disse Caccia. “Esta é a nossa rodada inicial de financiamento e lançamento público, mas a habilitação e o uso seguro de IA são uma área nova, e todos os nossos recursos estão se desenvolvendo com este novo mercado.”

Últimas

Aqui estão os melhores recursos do WWDC 2024 que você perdeu

A Apple anunciou uma série de novos recursos...

BeReal obteve sua saída no melhor cenário

Ultimamente, tem havido muitas más notícias sobre startups...

Quanto custa o ChatGPT? Tudo o que você precisa saber sobre os planos de preços da OpenAI

OpenAI's Plataforma de chatbot com tecnologia de IA...

Assine

spot_img

Veja Também

Aqui estão os melhores recursos do WWDC 2024 que você perdeu

A Apple anunciou uma série de novos recursos...

BeReal obteve sua saída no melhor cenário

Ultimamente, tem havido muitas más notícias sobre startups...

Quanto custa o ChatGPT? Tudo o que você precisa saber sobre os planos de preços da OpenAI

OpenAI's Plataforma de chatbot com tecnologia de IA...
spot_img

Aqui estão os melhores recursos do WWDC 2024 que você perdeu

A Apple anunciou uma série de novos recursos e atualizações no palco durante seu discurso principal na WWDC 2024incluindo atualizações para iOS, iPadOS,...

BeReal obteve sua saída no melhor cenário

Ultimamente, tem havido muitas más notícias sobre startups de mídia social. Várias empresas, incluindo o Post News alternativo do Twitter e a...

Presidente da FTC, Lina Khan, sobre startups, expansão e “inovações em possíveis infrações à lei”

A presidente da FTC, Lina Khan, era a pessoa mais jovem nomeada para seu cargo quando assumiu o cargo em 2021. Mas assim...