Os três pilares que preocupam na adoção da IA
A implementação da inteligência artificial (IA) nas empresas enfrenta desafios significativos relacionados à estruturação de dados, governança e infraestrutura. De acordo com um relatório global da Hitachi Vantara, esses são os principais pontos que têm gerado preocupação entre executivos ao redor do mundo. Desde o surgimento da versão generativa da IA, acompanhada do seu momento de destaque no mercado, a cibersegurança tem sido ameaçada justamente pela ausência desses elementos essenciais, especialmente com a chegada dos agentes de IA, que aumentam o escopo dos riscos.
Riscos dos agentes de IA e a confiança exagerada
Shane Gibson, especialista técnico sênior para as Américas na Hitachi Vantara, alerta que os agentes de IA podem agir de forma inesperada se não forem monitorados constantemente. Segundo ele, há um grande equívoco sobre o funcionamento dessas ferramentas, o que pode levar as empresas a confiar excessivamente em resultados produzidos pela IA. Essa empolgação, muitas vezes, resulta na implementação acelerada de soluções desnecessárias, criando vulnerabilidades que poderiam ser evitadas.
O relatório revela que cerca de 91% dos agentes de IA ainda apresentam “alucinações”, ou seja, respostas incorretas ou imprecisas, enquanto 76% dos dados utilizados pelas empresas permanecem não estruturados — justamente o tipo mais explorado pelas aplicações de IA. Esse cenário preocupa porque a qualidade e organização dos dados são fundamentais para o desempenho e segurança das soluções.
Realidade brasileira e perfil cauteloso dos executivos
No Brasil, o processo de digitalização acontece de forma acelerada e muitas vezes apoia-se em sistemas legados e ambientes heterogêneos. Apesar disso, os executivos brasileiros mostram-se mais conservadores em relação à adoção da IA. Joshua Wick, líder global de riscos e compliance da Hitachi Vantara, ressalta que os profissionais do país preferem realizar uma análise aprofundada antes de investir em tecnologias de IA, demonstrando uma apreensão em relação aos custos iniciais.
Leia também: Segurança de Dados é o Maior Desafio na Adoção de IA, Aponta Estudo da Hitachi Vantara
Fonte: soudesaoluis.com.br
Leia também: OpenAI lança GPT-6 Astra e anuncia a era da Inteligência Artificial Geral
Fonte: diretodorecife.com.br
Essa postura, considerada positiva pelos especialistas, é vista como um cuidado necessário diante do potencial da inteligência artificial. Wick reforça a importância de avaliar se um problema pode ser resolvido sem o uso da IA antes de avançar com sua implementação.
A importância da educação e do preparo para mitigar riscos
Um caminho apontado para estruturar o uso da IA e reduzir riscos está na capacitação dos usuários. Saber exatamente como a tecnologia funciona e quais são as implicações do seu uso é fundamental para uma adoção responsável. Gibson destaca que muitas organizações negligenciam o tempo necessário para esse aprendizado, o que pode levar a erros e vulnerabilidades.
“É preciso definir claramente o que se espera da IA, entender os riscos envolvidos e evitar pressa na implementação. Testes antecipados são essenciais para garantir que a tecnologia seja usada de forma segura e eficaz”, explica o especialista.
Segurança como prioridade nas estratégias de IA
A preocupação com a segurança dos dados tem se intensificado nas organizações. O relatório global aponta que 56% dos líderes de tecnologia consideram a segurança o maior desafio na adoção da IA, um aumento significativo em relação ao ano anterior. Esse movimento também se reflete na forma como as empresas utilizam os modelos de linguagem de grande escala (LLMs).
Leia também: OpenAI apresenta GPT-6 Astra, o modelo que redefine a Inteligência Artificial Geral
Fonte: acreverdade.com.br
Ferramentas como ChatGPT e Copilot tiveram a percepção de sucesso reduzida de 95% para 81%, enquanto os investimentos em governança e qualidade dos dados aumentam. A proporção de empresas que aprimoram os dados para treinamento subiu de 39% para 49%, e a adoção de frameworks de governança avançou de 32% para 45%. Auditorias regulares de desempenho também cresceram, passando de 36% para 44%. Além disso, o número de organizações sem estratégia de explicabilidade dos modelos caiu de 42% para 24%.
O equilíbrio entre inovação e segurança
Apesar dos desafios, os especialistas reforçam que a busca por governança e segurança não deve frear a inovação. Pelo contrário, essas medidas garantem que a tecnologia seja usada em seu potencial máximo, protegendo os negócios ao avançar com novas soluções.
Gibson vislumbra um futuro em que teremos interfaces únicas, capazes de gerar resultados sob demanda com mais eficiência. Porém, para alcançar esse estágio, as empresas precisam se estruturar adequadamente, alinhando tecnologia e segurança para que a transformação digital seja sustentável.