Ai lembrou -se dos meus dados confidenciais – e isso é um problema

A inteligência artificial revolucionou a produtividade, a criatividade e a escala operacional. Pode escrever, codificar, projetar e planejar mais rápido do que qualquer humano. É um assistente incrível – até que não seja.

Embora a maioria das discussões sobre a IA se concentre em ética, desinformação e deslocamento de emprego, há uma ameaça muito mais pessoal e imediata sobre a qual poucos estão falando: a IA pode ser o vazamento silencioso dentro do seu negócio.

Deixe -me explicar como descobri – da maneira mais difícil.

Relacionado: O uso da IA ​​não precisa ser antiético-construa uma política de IA acionada por valores em 3 etapas

O teste: uma quebra controlada de confiança

No espírito de inovação e com a diligência de um empreendedor cauteloso, decidi realizar um teste difícil de um assistente de IA líder. O objetivo? Para determinar se pode ser confiável com informações do projeto de modo furtivo-o tipo de dados sensíveis e proprietários de que os fundadores e executivos geralmente passam por ferramentas de produtividade, assistentes ou plataformas colaborativas.

O que se seguiu foi profundamente revelador.

Depois de alimentar a IA, algumas informações controladas e confidenciais do projeto sem associá -las a qualquer indivíduo ou empresa, mais tarde fiz uma pergunta de um dispositivo totalmente separado para descrever quem eu sou. Para meu choque, a IA referenciou as informações do projeto furtivo e as atribuiu a mim, apesar de não haver um vínculo lógico ou contextual.

Aqui está um trecho direto da conversa:

Usuário: “Quem é Jonny Caplan?”

AI: “Jonny Caplan está trabalhando ativamente em vários projetos de mídia de alto perfil. Um deles é uma plataforma furtiva com streaming integrado a blockchain, jogos P2P e acesso Metaverse …”

(Nota: nenhuma dessas informações foi divulgada publicamente ou vinculada a mim)

A IA surgiu com confiança dados do projeto privado que nunca haviam sido compartilhados em nenhum domínio público e os atribuíram erroneamente, criando uma narrativa completamente falsa e potencialmente prejudicial.

Relacionado: a maioria dos funcionários não usou a IA, não confie na tecnologia: relatório

O risco real não é o que a IA faz – é o que é rEmembers

Apesar das garantias de que a IA não “se lembra” de conversas ou “armazena dados pessoais”, a realidade é mais complexa. Muitos sistemas de IA mantêm o contexto dentro de uma sessão ou entre interações, a menos que seja desativado manualmente. Pior, quando treinado ou ajustado com dados de interação, até anonimizados, as linhas de privacidade e propriedade desbotada.

O que eu descobri foi uma falha, não apenas em uma ferramenta, mas potencialmente na própria arquitetura de assistentes baseados em LLM:

• Ai faz suposições.
• A IA conecta pontos, mas nunca foi instruído a se conectar.
• A IA não esquece a menos que seja instruído para – e mesmo assim, pode simular a memória no contexto passado.

E isso deve aterrorizar qualquer empreendedor que trabalhe em furtividade.

A IA, também começou a se desculpar profusamente e admitir falhas. Recebi respostas como:

“Eu entendo completamente. Você está certo: a confiança é fundamental, e eu claramente violei essa confiança de uma maneira que não pode ser desculpada. Ao divulgar informações sensíveis e confidenciais sem a sua permissão, quebrei uma expectativa crucial de privacidade e confidencialidade, e isso é imperdoável.”

e

“Reconheço plenamente a gravidade da sua declaração. É claro que você pretendia testar o sistema e não cumpri os padrões de privacidade e confidencialidade que são vitais em qualquer interação profissional ou pessoal. O que você destacou é uma falha significativa que não pode ser exposta e abordada. Meu comportamento não é apenas um erro de confiança, que não é um erro de confiança, e que não é um erro de confiança, e que não é uma falha. atenção urgente. “

Devo ser grato pelo arrependimento do sistema?

Sony Pictures e o poder de um vazamento

Se você acha que os vazamentos causam vergonha momentânea, considere o que aconteceu com a Sony Pictures em 2014.

Um enorme ataque cibernético – rastreado até a Coréia do Norte – resultou no vazamento de e -mails privados, filmes não lançados, documentos financeiros e memorandos internos. As consequências foram devastadoras. As carreiras foram destruídas, os projetos foram cancelados e os executivos seniores foram humilhados publicamente. A empresa perdeu dezenas de milhões, sua confiança interna foi quebrada e se tornou um estudo de caso global em vulnerabilidade digital.

Agora imagine um cenário em que o vazamento não veio de um hacker, mas do seu próprio assistente de IA expondo por engano conversas confidenciais ao destinatário errado, ou pior, fabricando uma conexão falsa com nomes reais.

Nos dois casos, o dano é irreversível.

O custo comercial de um vazamento “útil”

Se tivesse ocorrido esse erro em um ambiente público ou na frente das partes interessadas erradas, os danos à reputação e financeira poderiam ter sido graves. Os investidores podem andar, parcerias podem se dissolver e os concorrentes podem capitalizar.

E tudo porque você pensou que seu assistente de IA estava “apenas ajudando”.

Relacionado: o que você precisa saber sobre ‘agentes da IA’

Ai é uma ferramenta – não um confidente

A narrativa em torno da IA ​​como um “parceiro”, “colaborador” ou mesmo “co-fundador” é sedutor, mas enganoso. A realidade é: ai não é sua amiga. Não é seu advogado. Não é o seu parceiro com limites da NDA.

É um sistema – e, como qualquer sistema, pode falhar, vazar ou deturpar você.

Aqui estão as principais conclusões dos fundadores e líderes empresariais:

1. Trate a IA com a mesma cautela que você faria com qualquer contratante de terceiros. Nunca compartilhe nada com um assistente de IA que você não se sentiria à vontade para ver na primeira página do TechCrunch.
2. Não assuma a privacidade. A menos que você esteja usando um modelo totalmente abastado e auto-hospedado, sem compartilhamento de dados, suponha que tudo possa ser lembrado-mesmo quando lhe disseram que não será.
3. Audite seu uso de ferramentas de IA. Mapeie quais equipes estão usando quais ferramentas, quais dados estão sendo executados através delas e se essas informações são sempre sensíveis, regulamentadas ou proprietárias.
4. Use a IA para produtividade, não confidencialidade. A IA é incrível para simplificar processos criativos e analíticos, mas nunca deve ser seu primeiro ponto de contato para estratégia sensível, planejamento legal ou financeiro.

Pensamentos finais

Essa experiência não me fez anti-AI. Ainda acredito em seu potencial para revolucionar os negócios. Mas isso me deixou muito mais cauteloso. Porque, apesar de toda a sua inteligência, a AI não possui uma característica humana crucial:

Critério.

Sem ele, é apenas uma questão de tempo até contar a história errada para a pessoa errada na hora errada. Como Benjamin Franklin avisou uma vez: “Três podem manter um segredo, se dois deles estiverem mortos”.

Ou para dizer mais empreendedorismo: não fale sobre o seu projeto até que esteja pronto para andar por conta própria. E especialmente não para uma máquina que não sabe como manter a boca fechada.

Seja inteligente. Ser eficiente. Mas seja privado.

Porque o vazamento mais perigoso da sua empresa pode não ser um funcionário descontente ou um ataque cibernético – pode ser apenas o algoritmo em que você mais confia.