[Perinity Week]
Inteligência Artificial e Governança: Desafios, Oportunidades e Riscos para as Empresas
A inteligência artificial (IA) já não é mais um conceito futurista; ela está presente no nosso dia a dia, impactando desde a maneira como consumimos até as decisões estratégicas nas empresas. E se você ainda não percebeu, é provável que a IA já esteja sendo utilizada dentro da sua organização, mesmo que informalmente. Mas, como toda tecnologia disruptiva, seu uso exige um debate sobre governança, regulação e os riscos envolvidos.
No recente evento Perinity Week, especialistas discutiram como as empresas podem navegar nesse novo cenário da IA, destacando os desafios regulatórios, os riscos e, claro, as grandes oportunidades que ela traz. Este artigo é uma síntese desse rico debate, trazendo as principais conclusões.
O Caminho da Regulação da IA
Um dos grandes desafios apresentados pelo André Zanatta, sócio do BFB Advogados, foi o cenário regulatório em torno da IA. Ele destacou o projeto de lei nº 2338/2023, atualmente em discussão no Senado, que promete trazer diretrizes claras para o uso dessa tecnologia no Brasil. Assim como o AI Act da União Europeia, o projeto brasileiro adota uma abordagem baseada em risco, categorizando os sistemas de IA em diferentes níveis de acordo com seu potencial de causar danos ou prejuízos.
Os sistemas de IA considerados de alto risco terão uma série de obrigações, como a necessidade de uma avaliação de impacto algorítmico. Esse documento será crucial para que as empresas possam mapear e mitigar riscos, além de demonstrar conformidade com as novas regras. O descumprimento dessas normas poderá resultar em multas pesadas, que podem chegar a R$ 50 milhões ou até 2% do faturamento bruto da empresa.
No entanto, uma questão relevante levantada no evento foi: como equilibrar inovação e regulação? Zanatta ressaltou que o grande desafio da legislação é garantir que as empresas continuem inovando, sem criar um ambiente de medo onde o risco regulatório paralise o desenvolvimento de novas soluções.
IA e os Riscos para as Corporações
Um dos pontos mais polêmicos abordados pelo Fernando Gomes de Oliveira, especialista em conectividade e tecnologias emergentes, foi o impacto que a IA pode ter nos negócios, caso não seja gerida corretamente. A IA oferece enormes benefícios, como maior eficiência operacional e capacidade preditiva, mas também traz riscos consideráveis.
Entre os principais riscos citados estão as alucinações da IA – quando a tecnologia “inventa” informações. Isso ocorre porque, ao contrário dos humanos, a IA não admite desconhecimento, sempre gerando uma resposta, mesmo que incorreta. Quando essas respostas falsas passam despercebidas, podem resultar em erros graves, especialmente em setores como o financeiro ou o jurídico.
Outro risco destacado por Gomes de Oliveira foi a segurança da informação. Muitas empresas estão utilizando ferramentas públicas, como o ChatGPT, sem avaliar adequadamente o risco de vazamento de dados confidenciais. O uso de IA por funcionários, muitas vezes sem autorização formal da empresa, pode expor a organização a vazamentos involuntários de informações sensíveis. A solução? Investir em ferramentas de IA personalizadas, dentro de infraestruturas seguras e alinhadas à política de governança de dados da empresa.
O Futuro da IA nas Organizações
Marcelo Salim, especialista em governança e riscos, trouxe uma visão mais filosófica sobre o papel da IA no futuro das organizações. Para ele, a questão não é se a IA será utilizada, mas como ela será integrada aos processos de negócio. “Ou a IA entra pela porta da frente, ou ela vai entrar pela porta dos fundos”, afirmou Salim, sugerindo que, mesmo em empresas mais resistentes à mudança, os colaboradores já estão usando a tecnologia de forma não oficial.
Um ponto que merece atenção, segundo ele, é o viés algorítmico. Salim alertou que os algoritmos podem não apenas alucinar, mas também ser manipulados para favorecer determinados interesses. Isso levanta questões éticas sobre quem controla esses algoritmos e como garantir que seu uso seja transparente e imparcial.
Além disso, Salim falou sobre os riscos corporativos relacionados à dependência excessiva da IA. Ele citou como exemplo o caso de empresas que tornam seus processos completamente dependentes da tecnologia, sem um plano de contingência em caso de falhas ou interrupções, o que pode resultar em prejuízos enormes.
Conclusão: Como as Empresas Devem se Preparar?
Se a IA já está transformando setores inteiros da economia, como as empresas podem se preparar para essa revolução? A resposta, segundo os especialistas, passa por quatro pilares:
- Qualificação das Pessoas: Treinar equipes para entender e usar IA de forma eficiente e segura.
- Objetivos Claros: Definir claramente onde e como a IA pode agregar valor ao negócio.
- Governança de Dados: Implementar políticas robustas de gestão de dados, garantindo que os dados utilizados pelos algoritmos sejam precisos e livres de vieses.
- Regulação Consciente: Acompanhar as mudanças regulatórias e adotar uma postura pró-ativa na conformidade com as leis, sem deixar de lado a inovação.
Em última análise, a inteligência artificial promete transformar profundamente a forma como vivemos e trabalhamos, mas essa jornada deve ser conduzida com cautela, ética e uma boa dose de inovação responsável. As empresas que souberem equilibrar esses fatores certamente estarão à frente nessa nova corrida tecnológica.
Apresentador:
- Roberto Oliveira (Perinity)
Participantes:
- André (Barroso Fontelles)
- Fernando Gomes (AI Brasil)
- Marcelo Salim (Scala)
