Estamos dando uma primeira olhada no tão elogiado “Alfinete de IA” da Humane (seja lá o que for) em 9 de novembroe inicialização de memória AI personalizada Retroceder está lançando um pingente para rastrear não unicamente sua vida do dedo, mas também sua vida física em qualquer momento no porvir próximo. Há muitos rumores sobre a reunião de Sam Altman da OpenAI com Jony Ive, nume do design de longa data da Apple, sobre a construção de qualquer tipo de gadget de hardware de IA e murmúrios nos corredores dos escritórios de capital de risco em todos os lugares anunciam em tons ofegantes a chegada de um momento do iPhone para a IA.
Simples, o potencial é imenso: um dispositivo que leva e estende a muitos outros aspectos de nossas vidas o que o ChatGPT tem sido capaz de fazer com IA generativa – esperançosamente com um pouco mais de perceptibilidade e praticidade. Mas o dispêndio é considerável; não o dispêndio financeiro, que é unicamente mais transferência de riqueza das reservas de carvão de escritórios familiares ricos e de indivíduos com ressaltado património líquido para os incêndios insaciáveis das taxas de consumo de startups. Não, estou falando do preço que pagamos pela privacidade.
A morte da privacidade foi convocada, cancelada, combatida e repetida muitas vezes ao longo dos anos (unicamente Google a frase) em resposta a uma série de avanços tecnológicos, incluindo coisas uma vez que compartilhamento de localização ao vivo de dispositivos móveis; o chegada e eventual onipresença das redes sociais e dos gráficos sociais resultantes; mapeamento por satélite e imagens de subida solução; vazamentos massivos de credenciais e informações de identificação pessoal (PII) e muito, muito mais.
A IA generativa – o tipo popularizado por OpenAI e ChatGPT, e o tipo ao qual a maioria das pessoas se refere quando antecipam uma próxima vaga de dispositivos de IA – é outro inimigo mortal do que consideramos privacidade, e é um dos seus mais vorazes e assassinos indiscriminados ainda.
Em nosso recente evento TechCrunch Disrupt em São Francisco, a presidente da Signal, Meredith Whittaker – uma das únicas grandes figuras da tecnologia que parece disposta e ansiosa para se envolver com as ameaças realistas específicas da IA, em vez de mostrar para eventuais cenários apocalípticos para manter os olhos das pessoas fora do prêmio – disse que A IA é, no fundo, “uma tecnologia de vigilância” isso “requer o padrão de negócio de vigilância” em termos de capacidade e premência de aspirar todos os nossos dados. Também é usado uma vez que vigilante em termos de reconhecimento de imagem, estudo de sentimento e inúmeras outras aplicações semelhantes.
Todas essas compensações são para um fac-símile razoável de um computador que pensa e sabe, mas não para um que possa realmente pensar e saber. As definições destas coisas irão obviamente variar, mas a maioria dos especialistas concorda que os LLMs que temos hoje, embora definitivamente avançados e claramente capazes de imitar de forma suasivo o comportamento humano em certas circunstâncias limitadas, não estão na verdade a replicar o conhecimento ou o pensamento humano.
Mas mesmo para atingir oriente nível de desempenho, os modelos em que se baseiam coisas uma vez que o ChatGPT exigiram a ingresso de grandes quantidades de dados – dados recolhidos, sem incerteza, com o “consentimento” daqueles que os forneceram, na medida em que os publicaram gratuitamente na Internet. sem um entendimento firme do que isso significaria para coleta e reutilização, muito menos em um domínio que provavelmente não existia quando foi publicado.
Isso leva em conta a informação do dedo, que é em si uma coleção muito extensa de dados que provavelmente revela muito mais do que qualquer um de nós individualmente se sentiria confortável. Mas nem sequer inclui o tipo de informação do mundo físico que está preparada para ser recolhida por dispositivos uma vez que o pino AI da Humane, o pingente Rewind e outros, incluindo o Óculos inteligentes Ray-Ban Meta que o proprietário do Facebook lançou no início deste mês, que deverá somar recursos no próximo ano que fornecem informações sob demanda sobre objetos e lugares do mundo real capturados por meio de suas câmeras embutidas.
Alguns dos que trabalham nesta categoria emergente anteciparam preocupações em torno da privacidade e forneceram todas as proteções que puderam – a Humane observa que seu dispositivo sempre indicará quando estiver capturando por meio de um LED amarelo; Meta renovou a luz de notificação nos óculos Ray-Ban Smart em conferência com a primeira iteração para desativar fisicamente a gravação se detectarem violação ou ofuscação do LED; A Rewind afirma que está adotando uma abordagem que prioriza a privacidade para todo o uso de dados, na esperança de que isso se torne o padrão para a indústria.
É improvável que isso se torne o padrão para a indústria. O padrão, historicamente, tem sido qualquer que seja o mínimo que o mercado e os reguladores suportarão – e ambos tendem a concordar mais incursões ao longo do tempo, seja tacitamente ou pelo menos através da carência de objecções à modificação dos termos, condições e políticas de privacidade.
Um salto do que temos agora, para um verdadeiro computador que pensa e sabe, que pode atuar uma vez que um companheiro virtual com uma imagem pelo menos tão completa de nossas vidas quanto a que temos, exigirá o confisco de tantos dados quanto podemos esperar. coletar ou possuir – na medida em que isso é um tanto que qualquer um de nós pode possuir. E se alcançarmos nossos objetivos, o indumento de esses dados saírem de nossos dispositivos locais (e das inteligências virtuais que neles residem) ou não se torna um tanto discutível, uma vez que nossas informações serão logo compartilhadas com outra pessoa – mesmo que a outra neste caso acontece de não ter forma de mesocarpo e osso.
É muito provável que, a essa fundura, o noção de “privacidade” tal uma vez que o entendemos hoje seja obsoleto ou insuficiente em termos do mundo em que nos encontramos, e talvez tenhamos um tanto para substituí-lo que preserve a sua natureza. espírito à luz deste novo paradigma. De qualquer forma, acho que o caminho para o momento do iPhone da IA requer necessariamente a “morte” da privacidade uma vez que a conhecemos, o que coloca as empresas que adotam e valorizam a privacidade uma vez que um diferencial chave – uma vez que a Apple – em uma posição estranha durante a próxima dez ou mais. .
