Compromisso com o uso responsável de IA

Declaração de princípios e práticas responsáveis no uso da Inteligência Artificial

Nossa abordagem

Na Geotab, reconhecemos e valorizamos o potencial transformador da Inteligência Artificial (IA) para aprimorar nossas operações, produtos e serviços. Esta página apresenta o nosso compromisso com a aquisição, desenvolvimento, implementação, fornecimento e uso responsável da IA, garantindo a consideração de princípios éticos, a gestão de riscos associados à tecnologia e a conformidade com regulamentações emergentes.

Nossos princípios

Em alinhamento com os valores corporativos já estabelecidos pela Geotab, incluindo sustentabilidade, diversidade, equidade, inclusão e responsabilidade social corporativa, reforçamos nosso alinhamento com os princípios e práticas responsáveis no uso da IA na aquisição, desenvolvimento, implementação, fornecimento e/ou uso de tecnologias de Inteligência Artificial (IA).

Nossos princípios de IA abrangem:

1. Confiabilidade dos Sistemas: Todo sistema de IA adquirido, desenvolvido, utilizado ou comercializado pela Geotab deve buscar atingir níveis apropriados de confiabilidade, em conformidade com o Framework de Gestão de Riscos de IA do Instituto Nacional de Padrões e Tecnologia dos Estados Unidos (NIST AI RMF). O alcance de cada uma dessas características dependerá do caso de uso específico e poderá exigir equilíbrio entre diferentes critérios, que serão devidamente justificados e documentados.

Esse princípio inclui:

Legitimidade e Confiabilidade

Todos os sistemas de IA devem fornecer resultados precisos e consistentes ou operar dentro de parâmetros aceitáveis nas condições de uso esperadas.

Segurança

Nenhum sistema de IA deve colocar em risco a vida humana, a saúde, propriedades ou o meio ambiente.

Proteção e Resiliência

Todos os sistemas de IA devem resistir a eventos adversos inesperados ou a mudanças imprevistas em seu ambiente ou uso, mantendo a confidencialidade, integridade e disponibilidade, mesmo em situações de ações adversárias ou não autorizadas.

Responsabilidade e Transparência

Informações significativas e oportunas sobre cada sistema de IA devem ser fornecidas a todas as partes interessadas, sendo adaptadas ao nível de conhecimento e necessidades de acessibilidade de cada público. Uma estrutura de governança de IA comanda todas as decisões relacionadas a sistemas de IA.

Explicabilidade e Interpretabilidade

Todos os sistemas de IA devem ser projetados e documentados para explicar, da melhor maneira possível, como e por que uma decisão foi tomada.

Privacidade

Todos os sistemas de IA devem proteger a autonomia, a identidade e a dignidade humanas em relação à privacidade no mais alto grau possível.

Justiça

Todos os sistemas de IA devem atender a métricas definidas de justiça adequadas ao seu contexto, gerenciando todas as formas de viés prejudicial, incluindo viés de sistema, computacional, estatístico e cognitivo humano.

2. Supervisão Humana e Responsabilidade: Nos comprometemos a garantir que todos os processos e materiais relacionados à IA na nossa organização estejam sujeitos a mecanismos de supervisão adequados, viabilizando a aquisição, o desenvolvimento, a implementação, o fornecimento e/ou o uso responsável da IA. Também apoiamos fontes externas de responsabilização, incluindo auditorias independentes, certificações, monitoramento por órgãos governamentais e transparência significativa com o público interessado.

3. Beneficência, Equidade e Ética: Nossa estratégia de IA está alinhada ao interesse mais amplo da Geotab de preservar e promover o bem-estar social. Isso inclui nossos compromissos com princípios éticos relacionados à sustentabilidade, equidade e direitos humanos.

4. Aprendizado Contínuo: Reconhecendo o rápido desenvolvimento do ambiente tecnológico e regulatório da IA, mantemos o compromisso com uma cultura de mente aberta, flexibilidade e diálogo constante. Buscamos o engajamento com parceiros, colegas, partes interessadas e o público para investir no conhecimento compartilhado e construir uma visão coletiva para a Inteligência Artificial responsável.

hands on a laptop with ai illustration above them

Aplicações de Inteligência Artificial que não desenvolveremos

Além dos objetivos já mencionados, a Geotab se compromete a não criar nem utilizar tecnologias de Inteligência Artificial que possam causar ou que sejam suscetíveis a causar danos significativos. Também evitaremos o desenvolvimento de sistemas de IA cujos objetivos estejam em conflito com leis internacionais amplamente aceitas ou com princípios fundamentais dos direitos humanos. Em situações em que houver risco elevado de danos, só daremos continuidade ao desenvolvimento caso estejamos plenamente confiantes de que os benefícios potenciais superam significativamente os riscos envolvidos. Adicionalmente, implementaremos medidas de segurança apropriadas para mitigar esses riscos.

À medida que nosso entendimento sobre a Inteligência Artificial evolui, esta lista de princípios e práticas responsáveis no uso da IA poderá ser atualizada para refletir novos aprendizados.

Implementação dos nossos princípios

Na Geotab, avaliamos todos os projetos de pesquisa e novas aplicações de Inteligência Artificial para garantir o alinhamento com nossos princípios de IA responsável. À medida que tecnologias avançadas surgem e evoluem, continuaremos aprimorando nosso processo interno e o programa de governança de IA, fortalecendo nosso compromisso com práticas éticas e seguras.

Desenvolvimento responsável do Ace

Além dos princípios já consolidados para a implementação da Inteligência Artificial responsável, principalmente no contexto de machine learning, a IAgenerativa (Gen AI) apresenta desafios adicionais.

Durante o desenvolvimento deste projeto, enfrentamos desafios específicos e superamos essas barreiras por meio de uma solução multifacetada. Nossa abordagem se baseou em:

Design centrado no ser humano, mantendo o foco nas necessidades dos usuários finais durante todo o processo de desenvolvimento dos sistemas.
Coleta de dados de alta qualidade, como sempre, priorizando a precisão e a integridade das informações.
Ancoragem do modelo em fatos reais, para garantir a confiabilidade das respostas geradas.
Red teaming (testes éticos de segurança) para aferir a resiliência dos modelos contra possíveis vulnerabilidades.
Garantia de implementação de uma solução em nível corporativo, com padrões elevados de segurança, qualidade e desempenho.

Seja um pioneiro em Inteligência Artificial sustentável

Na Geotab, acreditamos que Inteligência Artificial responsável também significa Inteligência Artificial sustentável. Por isso, seguimos monitorando com rigor o impacto ambiental do uso de nossas tecnologias de IA, promovendo o equilíbrio adequado entre inovação e sustentabilidade em todas as nossas soluções.

Código de Conduta voluntário do Canadá para uso de I A responsável

A Geotab tem orgulho de fazer parte de uma comunidade crescente de organizações canadenses comprometidas com práticas seguras e éticas de Inteligência Artificial.

Essa iniciativa está totalmente alinhada à nossa missão de utilizar dados e IA de forma responsável, capacitando organizações a tomar decisões informadas que promovam a segurança, a eficiência e a sustentabilidade. Ao adotar esse Código, reafirmamos nosso compromisso com a inovação responsável, que gera benefícios para empresas, comunidades e para o meio ambiente.

A Geotab está entusiasmada para trabalhar em parceria com governos, indústria e a sociedade ao redor do mundo, incluindo no Brasil, para moldar um futuro impulsionado pela Inteligência Artificial que seja confiável e seguro para todos.