Antes de falar dos riscos, vale entender de onde vem esse termo.
Shadow AI é uma evolução do conceito de Shadow IT, usado para descrever tecnologias adotadas dentro das empresas sem conhecimento, aprovação ou supervisão formal da área de TI.
Com a popularização da IA generativa, essa mesma dinâmica ganhou uma nova dimensão: profissionais passaram a incorporar chatbots, copilotos e outras ferramentas de IA ao trabalho antes mesmo de muitas organizações definirem como utilizá-las.
É daí que surge a chamada Shadow AI: a IA que já está sendo utilizada no trabalho, mas fora, total ou parcialmente dos processos formais de governança da organização.
E talvez ela seja uma das evidências mais claras de que a demanda por IA está evoluindo mais rápido do que a capacidade das empresas de governá-la.
Na Construtora Virtual, esse assunto nos interessa especialmente quando olhamos para o cotidiano dos escritórios de projetos.
Recentemente, em uma conversa com um cliente, um escritório de projetos de arquitetura, tivemos um retrato muito interessante desse momento.
Hoje, o uso da IA por lá ainda está muito concentrado no apoio individual: troca de ideias com chatbots, melhoria de textos, resumo de reuniões e apoio na elaboração de mensagens.
Mas já existe um segundo movimento.
A equipe está desenvolvendo aplicações e plugins internos, inclusive com pyRevit e auxílio de IA, para aumentar a produtividade em atividades operacionais: cotar, inserção de anotações, geração de vistas e outras tarefas repetitivas do processo de projeto.
A IA começou ajudando a escrever. Agora começa a ajudar a fazer...
Na gestão e na coordenação dos projetos, entretanto, ainda há pouca aplicação efetiva. Mas eles já vislumbram esse próximo passo e, junto com ele, surgem muitos debates internos: como entrar nesse movimento? O que utilizar? Quais limites estabelecer? O que pode ou não pode ser delegado à IA?
E é aqui que a discussão fica especialmente interessante para nós.
Existe o risco mais evidente da Shadow AI: ferramentas não homologadas, informações sendo compartilhadas sem controle, segurança, confidencialidade e compliance.
Mas existe outro risco, talvez menos visível: confundir uma resposta rápida e bem construída com conhecimento.
Uma IA pode entregar em segundos algo extremamente convincente, e ainda assim estar errada.
Quando começamos a levar isso para gestão, coordenação e tomada de decisão em projetos, pensamento crítico e capacidade de validação tornam-se ainda mais importantes.
Por isso, acreditamos que a discussão não deveria ser simplesmente entre proibir ou liberar IA.
Proibir pode empurrar para a informalidade ganhos de produtividade que já estão acontecendo. Liberar sem critérios pode transformar eficiência em risco.
Existe ainda um desejo que apareceu nessa conversa e com o qual nos identificamos muito:
queremos que a IA nos ajude cada vez mais naquilo que é repetitivo e operacional e que devolva tempo ao profissional para aquilo que ele realmente sabe fazer.
No caso do arquiteto, queremos menos tempo gasto em tarefas repetitivas para que exista mais tempo para pensar, criar, desenvolver projetos, avaliar alternativas e tomar decisões.
A tecnologia deveria ampliar essa capacidade, não substituí-la.
Talvez, então, um dos princípios para pensarmos IA nos escritórios de projetos seja:
Automatizar o que consome tempo, sem terceirizar o que exige conhecimento!!!
Porque IA pode ajudar a produzir, organizar, analisar e acelerar.
Mas saber ver, interpretar, questionar e decidir continua sendo uma responsabilidade humana.
Comentários
Postar um comentário