Um em cada seis diz que uma ferramenta de IA expôs dados de fornecedores ou clientes

Recentemente, uma pesquisa realizada pela Instalily revelou que um em cada seis líderes nas áreas de cadeia de suprimentos, logística, distribuição e atacado relatou que suas empresas enfrentaram incidentes no último ano, nos quais ferramentas de inteligência artificial (IA) expuseram, compartilharam ou permitiram o acesso incorreto a dados de fornecedores ou clientes. Este dado alarmante surge em um momento em que a IA está se infiltrando cada vez mais em registros comercialmente sensíveis, com 78% dos entrevistados afirmando que suas ferramentas de IA podem acessar informações sobre preços e margens de clientes, enquanto 67% afirmaram o mesmo em relação aos dados de preços e descontos de fornecedores. A pesquisa foi realizada com 250 profissionais em cargos de gerência ou superiores, em empresas que utilizam ferramentas de IA. O relatório, intitulado “Shared Risk: Why Supply Chain’s Most Sensitive Data Needs AI Built for the Industry”, destaca a gravidade da situação, uma vez que distribuidores, atacadistas e prestadores de serviços logísticos lidam rotineiramente com informações confidenciais de ambas as partes em uma transação. Por exemplo, se uma ferramenta de IA acidentalmente coloca o preço de contrato de um cliente em um orçamento de outro, ou revela uma proposta de um fornecedor a um concorrente, as consequências podem ser devastadoras para todas as partes envolvidas. Além disso, a pesquisa revelou que 63% dos entrevistados relataram alguma sobreposição entre os dados de fornecedores e clientes nas plataformas da empresa, incluindo ferramentas de IA. Apesar de 87% dos participantes se sentirem muito ou razoavelmente confiantes de que suas ferramentas de IA mantêm esses dados devidamente separados, incidentes foram relatados em todos os segmentos pesquisados. Isso indica que as empresas têm um motivo forte para testar como a IA lida com informações confidenciais durante suas operações, desde os registros que recupera até as respostas que fornece. Em resposta a esses desafios, o relatório recomenda que as empresas testem os controles em tarefas do dia a dia, como a preparação de orçamentos sem revelar termos confidenciais de fornecedores, e estabeleçam quando a aprovação humana é necessária. A Instalily propõe que sua plataforma “Lily” construa agentes que operem dentro dos sistemas de negócios existentes, com permissões de acesso e registros de auditoria que apoiem a supervisão. Essa abordagem pode ajudar a mitigar os riscos associados ao uso de IA em ambientes onde a confidencialidade dos dados é crucial.