Nos últimos dois anos, vimos a ascensão de novos tipos de IA, incluindo generativos e agênticos. Como você vê a IA continuar evoluindo em 2025 e além?
As tecnologias, como IA generativa e IA agêntica / fluxos de trabalho agênticos, são recentemente populares, mas são aplicados de várias maneiras há muitos anos. Acredito que o que estamos vendo é uma exposição mais ampla e novos desenvolvimentos, essas tecnologias, juntamente com os conjuntos de ferramentas de código aberto que os tornam mais acessíveis. Por exemplo, a IA generativa existe há décadas, mas novas tecnologias de transformadores e recursos de computação tornam a Gen AI mais fácil e atraente de experimentar.
A tecnologia de IA está evoluindo continuamente; Em termos de 2025 e além, acredito que continuaremos a ver algoritmos complexos, o tipo que uma vez reservou para doutorado e cientistas computacionais especializados, a serem mantidos confortavelmente nas mãos de mais praticantes cotidianos. Isso abastecerá uma roda de mosca da experimentação, provas de conceito e grande demanda por recursos de IA no nível empresarial nos métodos interpretáveis da IA e no teste ético da IA. Esses recursos são fundamentais ao permitir que os algoritmos amadurecem em soluções de nível corporativo. Com a IA ética interpretável, mais organizações poderão entrar “The Golden Age of IA”, onde essas tecnologias incríveis podem ser usadas com segurança nos trilhos da IA responsáveis.
Em seu Entrevista do TradeTetalksvocê mencionou que as empresas precisam seguir um padrão sob o qual desenvolver IA. Como as empresas devem definir esse padrão?
Definir um padrão de IA responsável exige primeiro examinar a maturidade da IA da organização. As perguntas nessa pesquisa devem incluir:
- Você tem uma análise principal ou oficial de IA responsável por dirigir e liderar o desenvolvimento da IA?
- Você está organizado como equipes de negócios / produto com equipes de IA separadas se reportando nas respectivas unidades de negócios?
- Ou a organização usa IA apenas em uma equipe de pesquisa especializada em IA?
- Ou você está apenas começando a jornada da IA?
É importante entender as opiniões de todas as partes interessadas e garantir que elas sejam ouvidas. Esse processo deve incorporar a experiência existente da IA e determinar onde existem abordagens comuns e onde existem diferenças nos algoritmos e práticas. Isso facilitará a discussão aberta, mas as empresas ainda precisam atingir uma única abordagem padrão de IA, que eu chamo de princípio do Highlander. Para empresas que não têm uma prática de IA para alavancar, muitas organizações ficam felizes em compartilhar suas abordagens para que você seja iniciado.
Como as empresas podem garantir que seu padrão possa se adaptar aos regulamentos em evolução?
O poder de ter um padrão corporativo de IA é que, em vez de gerenciar dezenas, centenas ou milhares de modelos de IA para garantir que eles atendam aos limiares de regulamentação, você gerencia um único padrão – um padrão que você pode discutir abertamente com os reguladores, obter sua entrada e evoluí -lo.
Ferramentas como o Blockchain permitirão que o padrão atual seja aplicado e ajude os profissionais a atender aos requisitos de governança do modelo. Ao fazer isso, você terá mais tempo para esses especialistas se concentrarem na inovação, encontrarão novas e eficazes maneiras de atender aos regulamentos ou evoluir o padrão com base em novos regulamentos. Novamente, isso pode ser realizado através do veículo do padrão de modelo único, versus fazer com que os cientistas de dados avaliem individualmente as dezenas, centenas ou milhares de projetos de IA. Depois de determinar como alterar e atualizar o padrão, você pode introduzir e governar todos os projetos de forma consistente, mantendo os cientistas de dados alinhados ao atender aos requisitos regulatórios em uma infinidade de projetos.
Na frente do regulamento, você espera que os regulamentos em torno da IA mudem durante essa administração e, se sim, como?
Alguns pensam que o regulamento limita a inovação, mas acho que a regulamentação cria a faísca que inspira soluções inovadoras. Tomemos, por exemplo, Deepseek – sua equipe de desenvolvimento chinesa foi restringida por GPUs cada vez menos com desempenho; Eles tiveram que inovar, difícil, para produzir um modelo de concorrente LLM viável e performante a um custo muito menor. Portanto, embora possamos ver menos regulamentação de IA com a administração atual, isso não significa que organizações proativas e inventivas não se esforçarão para cumprir seus objetivos de IA com IA segura e responsável – e fazer o trabalho de inovação para chegar lá.
Você escreveu um blog Em fevereiro, sobre o que é a IA ética e a identificação do viés oculto. Você pode elaborar como as empresas podem encontrar preconceitos ocultos em seus conjuntos de dados?
O que torna a IA tão incrível é que muitos aplicativos de IA utilizam aprendizado de máquina, que é a ciência dos algoritmos que encontram soluções não prescritas por seres humanos. Essa capacidade é fundamentalmente poderosa, pois esses algoritmos podem explorar as relações entre os insumos que um humano não prevê como preditivo. É isso que torna o aprendizado de máquina sobre -humano. No entanto, o aprendizado de máquina representa uma faca de dois gumes; Ele oferece poder e precisão mais preditivos, mas muitas vezes de maneiras que um humano não entenderá e de maneiras que os modelos de aprendizado de máquina encontrem proxies para grupos protegidos. Este último pode, na verdade, propagar o viés de massa.
Para encontrar viés oculto, os cientistas de dados podem fazer duas coisas: primeiro, usar algoritmos interpretáveis de aprendizado de máquina, que expõem para a inspeção humana as relações entre variáveis aprendidas pelo aprendizado de máquina. Segundo, eles podem usar o teste de polarização automatizada, que explora os algoritmos interpretáveis de aprendizado de máquina para restringir a complexidade das relações de dados, de modo que os seres humanos ainda possam interpretá -los, automatizar testes de critérios de aceitação de viés e questionar os conjuntos de dados para proteger do viés. Isso ajuda a impedir que os cientistas de dados não tenham o preconceito dobrável em seus modelos e, assim, continuem a propagar o viés em escala.
O que as empresas podem fazer hoje para se preparar para a próxima onda de inovação de IA?
Em primeiro lugar, você precisa garantir que esteja constantemente seguindo novos desenvolvimentos na IA. Em seguida, considere quais problemas de negócios você precisa resolver e se você estiver efetivamente aguardando a nova inovação da IA ou a capacidade de fazê -lo.
A realidade é que a inovação da IA pode ser um martelo pensando que tudo é um prego; Se você está resolvendo satisfatoriamente seus problemas de negócios hoje através de formas de IA ou outros métodos, preparar -se para essa próxima onda significa garantir que você não esteja envolvido em perseguir todos os novos modismos e desenvolvimento da IA. Se houver uma grande necessidade de negócios não resolvidos que se alinhe a uma nova promessa de inovação de IA, esteja pronto para construir sua equipe de IA ou trabalhar com fornecedores especializados nessa inovação específica de IA. Mas para mim, a melhor maneira de se preparar é entender o momento certo para saltar. Pular em todas as inovações de IA que surge pode ser improdutivo e ferir os negócios resulta em curto e longo prazo.
